Building a Mind Palace: Structuring Environment-Grounded Semantic Graphs for Effective Long Video Analysis with LLMs

结构化 扎根理论 计算机科学 社会学 政治学 社会科学 定性研究 法学
作者
Zeyi Huang,Yuyang Ji,Xiaofang Wang,Nikhil Mehta,Tong Xiao,D. John Lee,Sigmund Vanvalkenburgh,Shengxin Zha,Bolin Lai,Licheng Yu,Qinyu Zhang,Yong Jae Lee,Miao Liu
出处
期刊:Cornell University - arXiv
标识
DOI:10.48550/arxiv.2501.04336
摘要

Long-form video understanding with Large Vision Language Models is challenged by the need to analyze temporally dispersed yet spatially concentrated key moments within limited context windows. In this work, we introduce VideoMindPalace, a new framework inspired by the "Mind Palace", which organizes critical video moments into a topologically structured semantic graph. VideoMindPalace organizes key information through (i) hand-object tracking and interaction, (ii) clustered activity zones representing specific areas of recurring activities, and (iii) environment layout mapping, allowing natural language parsing by LLMs to provide grounded insights on spatio-temporal and 3D context. In addition, we propose the Video MindPalace Benchmark (VMB), to assess human-like reasoning, including spatial localization, temporal reasoning, and layout-aware sequential understanding. Evaluated on VMB and established video QA datasets, including EgoSchema, NExT-QA, IntentQA, and the Active Memories Benchmark, VideoMindPalace demonstrates notable gains in spatio-temporal coherence and human-aligned reasoning, advancing long-form video analysis capabilities in VLMs.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
Willow完成签到,获得积分10
3秒前
研研研完成签到,获得积分10
4秒前
大橙子发布了新的文献求助10
6秒前
dejiangcj完成签到 ,获得积分10
7秒前
无味完成签到,获得积分10
8秒前
大气的尔蓝完成签到,获得积分10
9秒前
科研通AI5应助普鲁卡因采纳,获得10
10秒前
略略略完成签到 ,获得积分10
12秒前
zqlxueli完成签到 ,获得积分10
16秒前
无语的断缘完成签到,获得积分10
18秒前
hdx完成签到 ,获得积分10
19秒前
健壮的涑完成签到 ,获得积分10
20秒前
量子星尘发布了新的文献求助10
24秒前
普鲁卡因发布了新的文献求助10
24秒前
高大绝义完成签到,获得积分10
26秒前
28秒前
黄超超发布了新的文献求助10
29秒前
ZEcholy完成签到 ,获得积分20
29秒前
大橙子发布了新的文献求助10
30秒前
小幸运完成签到,获得积分10
32秒前
淡然一德完成签到,获得积分10
35秒前
咖啡豆完成签到 ,获得积分10
36秒前
37秒前
龙猫爱看书完成签到,获得积分10
37秒前
you完成签到,获得积分10
38秒前
黄超超完成签到,获得积分10
40秒前
玄音完成签到,获得积分10
41秒前
天将明完成签到 ,获得积分10
42秒前
咖啡豆发布了新的文献求助10
42秒前
普鲁卡因发布了新的文献求助10
45秒前
海孩子完成签到,获得积分10
45秒前
Ye完成签到,获得积分10
49秒前
陆浩学化学完成签到,获得积分10
50秒前
Slemon完成签到,获得积分10
51秒前
53秒前
大个应助普鲁卡因采纳,获得10
56秒前
咖啡豆发布了新的文献求助10
57秒前
意志所向完成签到,获得积分10
57秒前
《子非鱼》完成签到,获得积分10
58秒前
高分求助中
【提示信息,请勿应助】关于scihub 10000
Les Mantodea de Guyane: Insecta, Polyneoptera [The Mantids of French Guiana] 3000
徐淮辽南地区新元古代叠层石及生物地层 3000
The Mother of All Tableaux: Order, Equivalence, and Geometry in the Large-scale Structure of Optimality Theory 3000
Handbook of Industrial Diamonds.Vol2 1100
Global Eyelash Assessment scale (GEA) 1000
Picture Books with Same-sex Parented Families: Unintentional Censorship 550
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 4038128
求助须知:如何正确求助?哪些是违规求助? 3575831
关于积分的说明 11373827
捐赠科研通 3305610
什么是DOI,文献DOI怎么找? 1819255
邀请新用户注册赠送积分活动 892655
科研通“疑难数据库(出版商)”最低求助积分说明 815022