Precise Approximation of Convolutional Neural Networks for Homomorphically Encrypted Data

计算机科学 联营 同态加密 明文 卷积神经网络 极小极大 加密 多项式的 深度学习 人工智能 算法 理论计算机科学 数学 数学优化 数学分析 操作系统
作者
Jung-Hyun Lee,Eunsang Lee,Joon-Woo Lee,Yongjune Kim,Young Sik Kim,Jong‐Seon No
出处
期刊:IEEE Access [Institute of Electrical and Electronics Engineers]
卷期号:11: 62062-62076 被引量:15
标识
DOI:10.1109/access.2023.3287564
摘要

Homomorphic encryption (HE) is one of the representative solutions to privacy-preserving machine learning (PPML) classification enabling the server to classify private data of clients while guaranteeing privacy. This work focuses on PPML using word-wise fully homomorphic encryption (FHE). In order to implement deep learning on word-wise HE, the ReLU and max-pooling functions should be approximated by polynomials for homomorphic operations. Most of the previous studies focus on HE-friendly networks, which approximate the ReLU and max-pooling functions using low-degree polynomials. However, this approximation cannot support deeper neural networks due to large approximation errors in general and can classify only relatively small datasets. Thus, we propose a precise polynomial approximation technique, a composition of minimax approximate polynomials of low degrees for the ReLU and max-pooling functions. If we replace the ReLU and max-pooling functions with the proposed approximate polynomials, standard deep learning models such as ResNet and VGGNet can still be used without further modification for PPML on FHE. Even pre-trained parameters can be used without retraining, which makes the proposed method more practical. We approximate the ReLU and max-pooling functions in the ResNet-152 using the composition of minimax approximate polynomials of degrees 15, 27, and 29. Then, we succeed in classifying the plaintext ImageNet dataset with 77.52% accuracy, which is very close to the original model accuracy of 78.31%. Also, we obtain an accuracy of 87.90% for classifying the encrypted CIFAR-10 dataset in the ResNet-20 without any additional training.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
zhg完成签到 ,获得积分10
2秒前
雪山大地发布了新的文献求助10
3秒前
hdrizen完成签到,获得积分10
5秒前
Lucas的应助被369ninja采纳,获得10
6秒前
黙宇循光完成签到 ,获得积分10
7秒前
kelly完成签到 ,获得积分10
7秒前
weibo完成签到,获得积分10
8秒前
Chang完成签到 ,获得积分10
9秒前
刘一严完成签到 ,获得积分10
9秒前
10秒前
华华华完成签到,获得积分10
11秒前
13秒前
张张张发布了新的文献求助10
14秒前
科研猫完成签到,获得积分10
16秒前
神算子完成签到 ,获得积分10
17秒前
活泼雪莲发布了新的文献求助10
19秒前
妖精完成签到 ,获得积分10
20秒前
20秒前
wang完成签到,获得积分10
20秒前
茶缸子完成签到,获得积分10
22秒前
虎虎生威完成签到,获得积分10
23秒前
skywalker发布了新的文献求助10
25秒前
茶缸子01完成签到,获得积分10
27秒前
Monroe完成签到 ,获得积分10
28秒前
宋艳芳完成签到,获得积分10
29秒前
31秒前
歪歪发布了新的文献求助10
34秒前
js完成签到 ,获得积分10
34秒前
小yang发布了新的文献求助10
34秒前
橙子完成签到,获得积分20
35秒前
sobergod完成签到,获得积分10
38秒前
maolihui的应助被科研通管家采纳,获得10
38秒前
呆萌的若剑完成签到,获得积分10
39秒前
songrui643完成签到 ,获得积分10
40秒前
devilito完成签到,获得积分10
40秒前
leapper完成签到 ,获得积分10
42秒前
Lumos完成签到 ,获得积分10
48秒前
家的方向完成签到,获得积分10
52秒前
外向的斑马完成签到 ,获得积分10
53秒前
灯座完成签到,获得积分10
55秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
Hidden Empire of Finance: How Wall Street Profits from Our Cities and Fuels Global Inequality 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8166538
求助须知:如何正确求助?哪些是违规求助? 9559535
关于积分的说明 21750645
捐赠科研通 7757337
什么是DOI,文献DOI怎么找? 3429141
关于科研通互助平台的介绍 2553521
邀请新用户注册赠送积分活动 2473904