A vision-language-guided robotic action planning approach for ambiguity mitigation in human–robot collaborative manufacturing

模棱两可 动作(物理) 人工智能 计算机科学 机器人 人机交互 人机交互 工程类 计算机视觉 过程管理 程序设计语言 物理 量子力学
作者
Junming Fan,Pai Zheng
出处
期刊:Journal of Manufacturing Systems [Elsevier BV]
卷期号:74: 1009-1018 被引量:5
标识
DOI:10.1016/j.jmsy.2024.05.003
摘要

Human–robot collaboration (HRC) has been recognized as a potent pathway towards mass personalization in the manufacturing sector, by leveraging the synergy of human creativity and robotic precision. Previous approaches rely heavily on visual perception to autonomously comprehend the HRC environment. However, the inherent ambiguity in human–robot communication cannot be consistently neutralized by relying solely on visual cues. With the recently soaring popularity of large language models (LLMs), the consideration of language data as a complementary information source has increasingly drawn research attention, while the application of such large models, particularly within the context of HRC in manufacturing, remains largely under-explored. In response to this gap, a vision-language reasoning approach is proposed to mitigate the communication ambiguity prevalent in human–robot collaborative manufacturing scenarios. A referred object retrieval model is first designed to alleviate the object–reference ambiguity in the human language command. This model is then seamlessly integrated into an LLM-based robotic action planner to achieve an improved HRC performance. The effectiveness of the proposed approach is demonstrated empirically through a series of experiments conducted on the object retrieval model and its application in a human–robot collaborative assembly case.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
hi应助Bismarck采纳,获得10
3秒前
ceploup完成签到,获得积分10
9秒前
852应助科研通管家采纳,获得10
12秒前
kk2024应助科研通管家采纳,获得20
12秒前
12秒前
kk2024应助科研通管家采纳,获得20
12秒前
baitaowl完成签到 ,获得积分10
17秒前
Never stall完成签到 ,获得积分10
18秒前
tingalan完成签到,获得积分10
23秒前
Green完成签到,获得积分10
24秒前
风中的向卉完成签到 ,获得积分10
39秒前
Noah完成签到 ,获得积分0
41秒前
锦城纯契完成签到 ,获得积分10
46秒前
共享精神应助Qing采纳,获得10
51秒前
感性的寄真完成签到 ,获得积分10
53秒前
dreamwalk完成签到 ,获得积分10
55秒前
00完成签到 ,获得积分10
57秒前
wang完成签到,获得积分10
57秒前
1分钟前
panpanliumin完成签到,获得积分0
1分钟前
hanliulaixi完成签到,获得积分10
1分钟前
Qing发布了新的文献求助10
1分钟前
时代更迭完成签到 ,获得积分10
1分钟前
1分钟前
Yanzhi完成签到,获得积分10
1分钟前
张磊完成签到,获得积分10
1分钟前
自由的无色完成签到 ,获得积分10
1分钟前
waynechang完成签到,获得积分10
1分钟前
活泼的大船完成签到,获得积分10
1分钟前
ning_qing完成签到 ,获得积分10
1分钟前
热心市民完成签到 ,获得积分10
1分钟前
冷静初彤完成签到,获得积分10
1分钟前
迷人的天抒应助荔枝吖采纳,获得10
1分钟前
YuLu完成签到 ,获得积分10
1分钟前
研友_Z1eDgZ完成签到,获得积分10
1分钟前
BING完成签到 ,获得积分10
1分钟前
嘻嘻完成签到 ,获得积分10
1分钟前
科研通AI2S应助U9A采纳,获得10
1分钟前
丁玲玲完成签到 ,获得积分10
1分钟前
1分钟前
高分求助中
A new approach to the extrapolation of accelerated life test data 1000
Cognitive Neuroscience: The Biology of the Mind 1000
Technical Brochure TB 814: LPIT applications in HV gas insulated switchgear 1000
Immigrant Incorporation in East Asian Democracies 600
Nucleophilic substitution in azasydnone-modified dinitroanisoles 500
不知道标题是什么 500
A Preliminary Study on Correlation Between Independent Components of Facial Thermal Images and Subjective Assessment of Chronic Stress 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3968559
求助须知:如何正确求助?哪些是违规求助? 3513358
关于积分的说明 11167368
捐赠科研通 3248732
什么是DOI,文献DOI怎么找? 1794465
邀请新用户注册赠送积分活动 875065
科研通“疑难数据库(出版商)”最低求助积分说明 804664