iEnhancer-BERT: A Novel Transfer Learning Architecture Based on DNA-Language Model for Identifying Enhancers and Their Strength

增强子 计算机科学 学习迁移 编码器 变压器 人工智能 抄写(语言学) 基因 转录因子 生物 遗传学 物理 操作系统 电压 哲学 量子力学 语言学
作者
Hanyu Luo,Libin Chen,Wenyu Shan,Pingjian Ding,Lingyun Luo
出处
期刊:Lecture Notes in Computer Science 卷期号:: 153-165 被引量:8
标识
DOI:10.1007/978-3-031-13829-4_13
摘要

Enhancers are small segments of DNA that bind to proteins (transcription factors) and the transcription of a gene is strengthened after binding to the protein, thus playing an essential role in gene expression. Recently, machine learning-based methods have become a trend in identifying enhancers and their strength. In this study, we propose iEnhancer-BERT, a novel transfer learning method based on pre-trained DNA language model using the whole human genome. More specifically, iEnhancer-BERT consists of a BERT layer for feature extraction and a CNN layer for classification. We initialize our parameters of the BERT layer using a pre-trained DNA language model, and fine-tune it with transfer learning on the enhancer identification tasks. Unlike common fine-tuning strategies, we extract the output of all Transformer Encoder layers to form the feature vector. Experiments show that our method achieves state-of-the-art results in both enhancer identification tasks and strong enhancer identification tasks. The code and data are publicly available at https://github.com/lhy0322/iEnhancer-BERT .
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
如梦发布了新的文献求助10
刚刚
iwww发布了新的文献求助10
1秒前
从容灵松发布了新的文献求助10
1秒前
夏天呀完成签到,获得积分10
2秒前
乖猫要努力应助浅浅采纳,获得10
2秒前
zzzzzzz发布了新的文献求助10
2秒前
生动的翠容完成签到,获得积分10
3秒前
yy关闭了yy文献求助
3秒前
musejie发布了新的文献求助10
4秒前
坚果发布了新的文献求助10
4秒前
5秒前
Andy1201应助Hatexist采纳,获得50
5秒前
Jasmine发布了新的文献求助10
5秒前
6秒前
彳亍发布了新的文献求助10
6秒前
彭于晏应助gwff采纳,获得10
6秒前
6秒前
曼凡发布了新的文献求助10
7秒前
8秒前
8秒前
zzzzzzz完成签到,获得积分10
8秒前
大模型应助wangchaofk采纳,获得10
9秒前
禾风发布了新的文献求助10
9秒前
wang123发布了新的文献求助20
9秒前
好奇宝宝发布了新的文献求助10
10秒前
10秒前
元谷雪发布了新的文献求助10
10秒前
陌疑应助白鸽鸽采纳,获得10
11秒前
陶醉元冬完成签到,获得积分10
12秒前
12秒前
NJP发布了新的文献求助10
12秒前
111发布了新的文献求助10
13秒前
淡淡雨琴发布了新的文献求助10
13秒前
13秒前
史彦钊完成签到,获得积分10
14秒前
吴大打发布了新的文献求助10
14秒前
美梦成真完成签到,获得积分10
14秒前
欢喜芒果完成签到,获得积分10
15秒前
15秒前
allen完成签到,获得积分10
16秒前
高分求助中
A new approach to the extrapolation of accelerated life test data 1000
ACSM’s Guidelines for Exercise Testing and Prescription, 12th edition 500
Picture Books with Same-sex Parented Families: Unintentional Censorship 500
Nucleophilic substitution in azasydnone-modified dinitroanisoles 500
不知道标题是什么 500
A Preliminary Study on Correlation Between Independent Components of Facial Thermal Images and Subjective Assessment of Chronic Stress 500
Phylogenetic study of the order Polydesmida (Myriapoda: Diplopoda) 360
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3971277
求助须知:如何正确求助?哪些是违规求助? 3515939
关于积分的说明 11180280
捐赠科研通 3251061
什么是DOI,文献DOI怎么找? 1795664
邀请新用户注册赠送积分活动 875937
科研通“疑难数据库(出版商)”最低求助积分说明 805209