On the Value of Target Data in Transfer Learning

极小极大 先验与后验 学习迁移 样本复杂性 计算机科学 采样(信号处理) 传输(计算) 样品(材料) 价值(数学) 数据源 数学优化 标记数据 样本量测定 人工智能 机器学习 数学 数据挖掘 统计 哲学 化学 认识论 滤波器(信号处理) 色谱法 并行计算 计算机视觉
作者
Steve Hanneke,Samory Kpotufe
出处
期刊:Neural Information Processing Systems 卷期号:32: 9867-9877 被引量:17
链接
摘要

We aim to understand the value of additional labeled or unlabeled target data in transfer learning, for any given amount of source data; this is motivated by practical questions around minimizing sampling costs, whereby, target data is usually harder or costlier to acquire than source data, but can yield better accuracy. To this aim, we establish the first minimax-rates in terms of both source and target sample sizes, and show that performance limits are captured by new notions of discrepancy between source and target, which we refer to as transfer exponents. Interestingly, we find that attaining minimax performance is akin to ignoring one of the source or target samples, provided distributional parameters were known a priori. Moreover, we show that practical decisions -- w.r.t. minimizing sampling costs -- can be made in a minimax-optimal way without knowledge or estimation of distributional parameters nor of the discrepancy between source and target.

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
dongdong发布了新的文献求助10
刚刚
科研通AI5应助万里长城采纳,获得10
1秒前
丘比特应助Yy采纳,获得10
1秒前
桐桐应助疯狂的星月采纳,获得10
2秒前
577610822发布了新的文献求助10
2秒前
所所应助Light采纳,获得10
2秒前
共享精神应助sensen采纳,获得10
2秒前
湫白白发布了新的文献求助10
2秒前
3秒前
3秒前
冷静海完成签到,获得积分10
3秒前
完美世界应助江水采纳,获得10
3秒前
4秒前
阳光怀亦发布了新的文献求助10
5秒前
小二郎应助糖堆儿爱吃糖采纳,获得10
5秒前
6秒前
Alex完成签到,获得积分10
6秒前
6秒前
7秒前
7秒前
稳重幻珊关注了科研通微信公众号
7秒前
幽默海白完成签到 ,获得积分10
7秒前
8秒前
Foch发布了新的文献求助10
8秒前
小唐发布了新的文献求助10
8秒前
8秒前
雪轩发布了新的文献求助10
9秒前
577610822完成签到,获得积分10
10秒前
HANK2024发布了新的文献求助10
10秒前
天天快乐应助枫泾采纳,获得10
10秒前
moonlin完成签到 ,获得积分10
11秒前
Cici发布了新的文献求助10
11秒前
香蕉觅云应助虎希儿采纳,获得10
12秒前
强love晓发布了新的文献求助10
12秒前
汪佳璇发布了新的文献求助30
13秒前
13秒前
钱多多完成签到,获得积分10
14秒前
Alex发布了新的文献求助10
14秒前
丘比特应助殷勤的勒采纳,获得10
15秒前
很勇敢yu完成签到,获得积分20
16秒前
高分求助中
A new approach to the extrapolation of accelerated life test data 1000
ACSM’s Guidelines for Exercise Testing and Prescription, 12th edition 500
Picture Books with Same-sex Parented Families: Unintentional Censorship 500
Nucleophilic substitution in azasydnone-modified dinitroanisoles 500
不知道标题是什么 500
A Preliminary Study on Correlation Between Independent Components of Facial Thermal Images and Subjective Assessment of Chronic Stress 500
Phylogenetic study of the order Polydesmida (Myriapoda: Diplopoda) 360
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3971277
求助须知:如何正确求助?哪些是违规求助? 3515939
关于积分的说明 11180280
捐赠科研通 3251061
什么是DOI,文献DOI怎么找? 1795664
邀请新用户注册赠送积分活动 875937
科研通“疑难数据库(出版商)”最低求助积分说明 805209