U-DARTS: Uniform-space differentiable architecture search

计算机科学 可微函数 建筑 网络体系结构 搜索算法 梯度下降 正规化(语言学) 空格(标点符号) 编码(集合论) 理论计算机科学 数学优化 算法 计算机工程 人工神经网络 人工智能 数学 计算机网络 集合(抽象数据类型) 程序设计语言 视觉艺术 艺术 数学分析 操作系统
作者
Lan Huang,Shiqi Sun,Jia Zeng,Wencong Wang,Wei Pang,Kangping Wang
出处
期刊:Information Sciences [Elsevier]
卷期号:628: 339-349 被引量:6
标识
DOI:10.1016/j.ins.2023.01.129
摘要

Differentiable architecture search (DARTS) is an effective neural architecture search algorithm based on gradient descent. However, there are two limitations in DARTS. First, a small proxy search space is exploited due to memory and computational resource constraints. Second, too many simple operations are preferred, which leads to the network deterioration. In this paper, we propose a uniform-space differentiable architecture search, named U-DARTS, to address the above problems. In one hand, the search space is redesigned to enable the search and evaluation of the architectures in the same space, and the new search space couples with a sampling and parameter sharing strategy to reduce resource overheads. This means that various cell structures are explored directly rather than cells with same structure are stacked to compose the network. In another hand, a regularization method, which takes the depth and the complexity of the operations into account, is proposed to prevent network deterioration. Our experiments show that U-DARTS is able to find excellent architectures. Specifically, we achieve an error rate of 2.59% with 3.3M parameters on CIFAR-10. The code is released in https://github.com/Sun-Shiqi/U-DARTS.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
大幅提高文件上传限制,最高150M (2024-4-1)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
Jiawww发布了新的文献求助10
1秒前
batman发布了新的文献求助10
3秒前
4秒前
4秒前
深情安青应助NJQ采纳,获得10
4秒前
5秒前
ahaaa完成签到,获得积分10
8秒前
bk2020113458完成签到,获得积分10
9秒前
10秒前
Moving_Dr完成签到,获得积分10
10秒前
吃不饱和学不会完成签到,获得积分10
10秒前
11秒前
ahaaa发布了新的文献求助10
11秒前
Owen应助Jiawww采纳,获得10
12秒前
Sky完成签到,获得积分10
13秒前
刘珊妹完成签到,获得积分10
13秒前
13秒前
嗯哼应助科研小菜鸡采纳,获得10
14秒前
李健应助科研小菜鸡采纳,获得10
14秒前
15秒前
16秒前
李_小_八发布了新的文献求助10
18秒前
19秒前
傅朝西发布了新的文献求助10
20秒前
22秒前
23秒前
24秒前
24秒前
Makta完成签到,获得积分10
25秒前
tfq200完成签到,获得积分10
25秒前
dadi发布了新的文献求助10
26秒前
乐观乐枫完成签到,获得积分10
27秒前
29秒前
木易发布了新的文献求助10
29秒前
于是乎完成签到 ,获得积分10
30秒前
长情立诚发布了新的文献求助10
30秒前
31秒前
31秒前
迷路的懒熊完成签到,获得积分10
31秒前
33秒前
高分求助中
The ACS Guide to Scholarly Communication 2500
Sustainability in Tides Chemistry 2000
Studien zur Ideengeschichte der Gesetzgebung 1000
TM 5-855-1(Fundamentals of protective design for conventional weapons) 1000
Threaded Harmony: A Sustainable Approach to Fashion 810
Pharmacogenomics: Applications to Patient Care, Third Edition 800
Genera Insectorum: Mantodea, Fam. Mantidæ, Subfam. Hymenopodinæ (Classic Reprint) 500
热门求助领域 (近24小时)
化学 医学 生物 材料科学 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 基因 遗传学 催化作用 物理化学 免疫学 量子力学 细胞生物学
热门帖子
关注 科研通微信公众号,转发送积分 3082549
求助须知:如何正确求助?哪些是违规求助? 2735847
关于积分的说明 7539036
捐赠科研通 2385432
什么是DOI,文献DOI怎么找? 1264844
科研通“疑难数据库(出版商)”最低求助积分说明 612830
版权声明 597685