A High Throughput Multi-bit-width 3D Systolic Accelerator for NAS Optimized Deep Neural Networks on FPGA

现场可编程门阵列 吞吐量 计算机科学 卷积神经网络 人工神经网络 收缩阵列 特征(语言学) 能源消耗 计算科学 计算机硬件 嵌入式系统 并行计算 人工智能 工程类 超大规模集成 哲学 电气工程 电信 无线 语言学
作者
Mingqiang Huang,Yucen Liu,Quan Cheng,Shuxin Yang,Kai Li,Junyi Luo,Zhengke Yang,Qiufeng Li,Hao Yu,Changhai Man
标识
DOI:10.1145/3490422.3502343
摘要

Neural architecture search (NAS) optimized multi-bit-width convolutional neural network (CNN) maintains the balance between network performance and efficiency, thus enlightening a promising method for accurate yet energy-efficient edge computing. In this work, we propose a high throughput three-dimensional (3D) systolic accelerator for NAS optimized CNNs, in which the input feature matrix, weight matrix and output feature matrix are delivering vertically, horizontally and perpendicularly through the systolic array respectively. With 3D systolic data flow, the processing time and logic resources consumption can be both reduced compared to the classical non-stationary systolic array. Besides, Booth-based multi-bit-width (INT2/4/8) multiply-add-accumulation (MAC) unit is developed within the 3D systolic accelerator. Deployed on FPGA platform Xilinx ZCU102, peek performance of the convolutional layer can reach as high as 2775 GOPS for INT2, 1650 GOPS for INT4, and 816 GOPS for INT8 respectively. The average performance on accelerating full NAS VGG16 network is 647 GOPS.

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
十一发布了新的文献求助10
刚刚
2秒前
超级丝发布了新的文献求助10
3秒前
3秒前
4秒前
4秒前
Liufgui应助嗯哼采纳,获得10
5秒前
鹅鹅完成签到,获得积分10
5秒前
wanci应助飞飞加油呀采纳,获得10
5秒前
Orange应助yang采纳,获得10
5秒前
5秒前
5秒前
完美世界应助甘愿采纳,获得10
6秒前
6秒前
7秒前
7秒前
Denning发布了新的文献求助10
8秒前
8秒前
貔貅完成签到,获得积分10
8秒前
9秒前
Liufgui应助氯化钾芝士采纳,获得10
9秒前
飞天817发布了新的文献求助10
9秒前
活力臻发布了新的文献求助10
10秒前
依然小爽完成签到,获得积分10
10秒前
Flynn完成签到,获得积分10
10秒前
852应助沐晴采纳,获得30
11秒前
ff发布了新的文献求助10
11秒前
赶路人完成签到,获得积分10
12秒前
崔懿龍发布了新的文献求助10
13秒前
13秒前
13秒前
小张发布了新的文献求助10
14秒前
Liufgui应助徐智秀采纳,获得20
14秒前
焦糖发布了新的文献求助20
14秒前
薇薇快跑完成签到,获得积分20
15秒前
Orange应助独特的凝云采纳,获得10
15秒前
15秒前
16秒前
万能图书馆应助轻歌水越采纳,获得10
16秒前
量子星尘发布了新的文献求助10
16秒前
高分求助中
A new approach to the extrapolation of accelerated life test data 1000
Economic Geography and Public Policy 900
ACSM’s Guidelines for Exercise Testing and Prescription, 12th edition 500
‘Unruly’ Children: Historical Fieldnotes and Learning Morality in a Taiwan Village (New Departures in Anthropology) 400
Indomethacinのヒトにおける経皮吸収 400
Phylogenetic study of the order Polydesmida (Myriapoda: Diplopoda) 370
基于可调谐半导体激光吸收光谱技术泄漏气体检测系统的研究 350
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3988786
求助须知:如何正确求助?哪些是违规求助? 3531116
关于积分的说明 11252493
捐赠科研通 3269766
什么是DOI,文献DOI怎么找? 1804771
邀请新用户注册赠送积分活动 881870
科研通“疑难数据库(出版商)”最低求助积分说明 809021