Pre-training Graph Transformer with Multimodal Side Information for Recommendation

计算机科学 利用 变压器 机器学习 同种类的 多模态 图形 情报检索 人工智能 数据挖掘 自然语言处理 理论计算机科学 万维网 数学 量子力学 组合数学 计算机安全 物理 电压
作者
Yong Liu,Susen Yang,Chenyi Lei,Guoxin Wang,Haitao Tang,Jie Zhang,Aixin Sun,Miao Chen
出处
期刊:ACM Multimedia 被引量:28
标识
DOI:10.1145/3474085.3475709
摘要

Side information of items, e.g., images and text description, has shown to be effective in contributing to accurate recommendations. Inspired by the recent success of pre-training models on natural language and images, we propose a pre-training strategy to learn item representations by considering both item side information and their relationships. We relate items by common user activities, e.g., co-purchase, and construct a homogeneous item graph. This graph provides a unified view of item relations and their associated side information in multimodality. We develop a novel sampling algorithm named MCNSampling to select contextual neighbors for each item. The proposed Pre-trained Multimodal Graph Transformer (PMGT) learns item representations with two objectives: 1) graph structure reconstruction, and 2) masked node feature reconstruction. Experimental results on real datasets demonstrate that the proposed PMGT model effectively exploits the multimodality side information to achieve better accuracies in downstream tasks including item recommendation and click-through ratio prediction. In addition, we also report a case study of testing PMGT in an online setting with 600 thousand users.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
茉行完成签到,获得积分10
刚刚
懵懂的南风完成签到,获得积分10
1秒前
AVsecurity完成签到,获得积分10
2秒前
自信依瑶完成签到,获得积分10
2秒前
2秒前
2秒前
Rondab应助MAIDANG采纳,获得10
3秒前
Zer完成签到,获得积分10
4秒前
4秒前
LL完成签到,获得积分10
4秒前
可爱的函函应助HAO采纳,获得10
5秒前
kyt完成签到 ,获得积分10
5秒前
光撒盐完成签到,获得积分10
5秒前
5秒前
拼搏的白云完成签到,获得积分10
5秒前
Mimanchi发布了新的文献求助10
6秒前
6秒前
6秒前
眼睛大的松鼠完成签到 ,获得积分10
6秒前
stt完成签到 ,获得积分10
7秒前
7秒前
lu发布了新的文献求助10
7秒前
红丽阿妹完成签到,获得积分10
8秒前
研友_8yX0xZ完成签到,获得积分10
8秒前
科研通AI5应助安全平静采纳,获得20
9秒前
ZBH完成签到,获得积分10
9秒前
芒果布丁完成签到,获得积分10
10秒前
allenspike完成签到,获得积分10
10秒前
10秒前
7890733发布了新的文献求助10
11秒前
ZZ发布了新的文献求助10
11秒前
烫头仙子完成签到,获得积分10
11秒前
兰兰发布了新的文献求助10
11秒前
和谐成协完成签到,获得积分10
11秒前
张雨兴完成签到,获得积分10
12秒前
嘻嘻哈哈完成签到,获得积分10
12秒前
新一完成签到 ,获得积分10
12秒前
筑城院完成签到,获得积分10
12秒前
Stefano完成签到,获得积分10
12秒前
芝士发布了新的文献求助10
13秒前
高分求助中
A new approach to the extrapolation of accelerated life test data 1000
Cognitive Neuroscience: The Biology of the Mind 1000
Technical Brochure TB 814: LPIT applications in HV gas insulated switchgear 1000
Immigrant Incorporation in East Asian Democracies 600
Nucleophilic substitution in azasydnone-modified dinitroanisoles 500
不知道标题是什么 500
A Preliminary Study on Correlation Between Independent Components of Facial Thermal Images and Subjective Assessment of Chronic Stress 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3968771
求助须知:如何正确求助?哪些是违规求助? 3513646
关于积分的说明 11169065
捐赠科研通 3249011
什么是DOI,文献DOI怎么找? 1794589
邀请新用户注册赠送积分活动 875236
科研通“疑难数据库(出版商)”最低求助积分说明 804740