U-DARTS: Uniform-space differentiable architecture search

计算机科学 可微函数 建筑 网络体系结构 搜索算法 梯度下降 正规化(语言学) 空格(标点符号) 编码(集合论) 理论计算机科学 数学优化 算法 计算机工程 人工神经网络 人工智能 数学 计算机网络 集合(抽象数据类型) 程序设计语言 视觉艺术 艺术 数学分析 操作系统
作者
Lan Huang,Shiqi Sun,Jia Zeng,Wencong Wang,Wei Pang,Kangping Wang
出处
期刊:Information Sciences [Elsevier]
卷期号:628: 339-349 被引量:9
标识
DOI:10.1016/j.ins.2023.01.129
摘要

Differentiable architecture search (DARTS) is an effective neural architecture search algorithm based on gradient descent. However, there are two limitations in DARTS. First, a small proxy search space is exploited due to memory and computational resource constraints. Second, too many simple operations are preferred, which leads to the network deterioration. In this paper, we propose a uniform-space differentiable architecture search, named U-DARTS, to address the above problems. In one hand, the search space is redesigned to enable the search and evaluation of the architectures in the same space, and the new search space couples with a sampling and parameter sharing strategy to reduce resource overheads. This means that various cell structures are explored directly rather than cells with same structure are stacked to compose the network. In another hand, a regularization method, which takes the depth and the complexity of the operations into account, is proposed to prevent network deterioration. Our experiments show that U-DARTS is able to find excellent architectures. Specifically, we achieve an error rate of 2.59% with 3.3M parameters on CIFAR-10. The code is released in https://github.com/Sun-Shiqi/U-DARTS.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
大幅提高文件上传限制,最高150M (2024-4-1)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
2秒前
2秒前
3秒前
sasa发布了新的文献求助10
4秒前
无花果应助合适笑白采纳,获得10
4秒前
hsy发布了新的文献求助10
4秒前
5秒前
Jae完成签到 ,获得积分10
5秒前
6秒前
真实的储发布了新的文献求助10
6秒前
纪间发布了新的文献求助10
6秒前
6秒前
7秒前
orixero应助Pineapple采纳,获得10
7秒前
苏钰发布了新的文献求助10
7秒前
Tiliar完成签到,获得积分10
7秒前
小二郎应助Siso采纳,获得10
8秒前
Li完成签到,获得积分10
8秒前
Jessie完成签到 ,获得积分10
9秒前
9秒前
小二郎应助hsy采纳,获得10
9秒前
怡然依柔发布了新的文献求助30
10秒前
Star1983发布了新的文献求助10
11秒前
mingkle完成签到,获得积分10
11秒前
拥抱爱莉发布了新的文献求助10
11秒前
Micheal完成签到,获得积分10
12秒前
牛马完成签到,获得积分10
12秒前
12秒前
Hello应助云_123采纳,获得10
13秒前
An慧完成签到,获得积分10
13秒前
hutu发布了新的文献求助10
13秒前
14秒前
14秒前
14秒前
15秒前
wanci应助鲁滨逊采纳,获得10
15秒前
北极星162完成签到,获得积分10
15秒前
16秒前
yuzhanli完成签到,获得积分10
16秒前
原来我是狼人完成签到,获得积分20
16秒前
高分求助中
Sustainability in Tides Chemistry 2800
The Young builders of New china : the visit of the delegation of the WFDY to the Chinese People's Republic 1000
Rechtsphilosophie 1000
Bayesian Models of Cognition:Reverse Engineering the Mind 888
Le dégorgement réflexe des Acridiens 800
Defense against predation 800
Very-high-order BVD Schemes Using β-variable THINC Method 568
热门求助领域 (近24小时)
化学 医学 生物 材料科学 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 基因 遗传学 催化作用 物理化学 免疫学 量子力学 细胞生物学
热门帖子
关注 科研通微信公众号,转发送积分 3135577
求助须知:如何正确求助?哪些是违规求助? 2786454
关于积分的说明 7777484
捐赠科研通 2442441
什么是DOI,文献DOI怎么找? 1298558
科研通“疑难数据库(出版商)”最低求助积分说明 625193
版权声明 600847