Health CLIP: Depression Rate Prediction Using Health Related Features in Satellite and Street View Images

计算机科学 卫星 萧条(经济学) 人工智能 计算机视觉 工程类 航空航天工程 经济 宏观经济学
作者
Tianjian Ouyang,Xin Zhang,Zhenyu Han,Yu Shang,Yong Li
标识
DOI:10.1145/3589335.3651451
摘要

Mental health is a state of mental well-being that enables people to cope with the stresses of life, realize their abilities, learn well and work well, and contribute to their community. It has intrinsic and instrumental value and is integral to our well-being, and its correlation with environmental factors has been a subject of growing interest. As the pressure of society keeps growing, depression has become a severe problem in modern cities, and finding a way to estimate depression rate is of significance to relieve the problem. In this study, we introduce a Contrastive Language-Image Pretraining (CLIP) based novel approach to predict mental health indicators, especially depression rate, through satellite and street view images. Our methodology uses state-of-the-art Multimodal Large Language Model (MLLM), GPT4-vision, to generate health related captions for satellite and street view images, then we use the generated image-text pairs to fine-tune the CLIP model, making its image encoder extract health related features such as green spaces, sports fields, and infrastructral characteristics. The fine-tuning process is employed to bridge the semantic gap between textual descriptions and visual representations, enabling a comprehensive analysis of geo-tagged images. Consequently, our methodology achieves a notable R2 value of 0.565 on prediction of depression rate in New York City with the combination of satellite and street view images. The successful deployment of Health CLIP in a real-world scenario underscores the practical applicability of our approach.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
淡然的芷荷完成签到 ,获得积分10
刚刚
GT完成签到,获得积分10
2秒前
qiancib202完成签到,获得积分10
5秒前
量子星尘发布了新的文献求助10
6秒前
等待的幼晴完成签到,获得积分10
7秒前
负责灵萱完成签到 ,获得积分10
9秒前
幽默的忆霜完成签到 ,获得积分10
17秒前
19秒前
23秒前
风光无限完成签到 ,获得积分20
27秒前
庄海棠完成签到 ,获得积分10
39秒前
量子星尘发布了新的文献求助10
40秒前
沐风完成签到 ,获得积分10
46秒前
含糊的茹妖完成签到 ,获得积分0
49秒前
54秒前
huangqian完成签到,获得积分10
59秒前
沧海一粟完成签到 ,获得积分10
1分钟前
进击的巨人完成签到 ,获得积分10
1分钟前
1分钟前
牛马完成签到,获得积分10
1分钟前
1分钟前
我不是奶黄包完成签到,获得积分10
1分钟前
Gavin完成签到,获得积分10
1分钟前
cq_2完成签到,获得积分10
1分钟前
花生完成签到 ,获得积分10
1分钟前
小二郎应助科研通管家采纳,获得10
1分钟前
Hello应助科研通管家采纳,获得10
1分钟前
Tianling完成签到,获得积分0
1分钟前
Rn完成签到 ,获得积分10
1分钟前
吉祥高趙完成签到 ,获得积分10
1分钟前
嘉人完成签到 ,获得积分10
1分钟前
可千万不要躺平呀应助yar采纳,获得10
1分钟前
量子星尘发布了新的文献求助10
1分钟前
Lucas应助尊敬代亦采纳,获得10
1分钟前
yinshan完成签到 ,获得积分10
1分钟前
1分钟前
yar重新开启了小飞文献应助
1分钟前
1分钟前
幸福的杨小夕完成签到,获得积分20
1分钟前
1分钟前
高分求助中
【提示信息,请勿应助】关于scihub 10000
Les Mantodea de Guyane: Insecta, Polyneoptera [The Mantids of French Guiana] 3000
徐淮辽南地区新元古代叠层石及生物地层 3000
The Mother of All Tableaux: Order, Equivalence, and Geometry in the Large-scale Structure of Optimality Theory 3000
Handbook of Industrial Diamonds.Vol2 1100
Global Eyelash Assessment scale (GEA) 1000
Picture Books with Same-sex Parented Families: Unintentional Censorship 550
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 4038029
求助须知:如何正确求助?哪些是违规求助? 3575740
关于积分的说明 11373751
捐赠科研通 3305559
什么是DOI,文献DOI怎么找? 1819224
邀请新用户注册赠送积分活动 892652
科研通“疑难数据库(出版商)”最低求助积分说明 815022