深度学习与算力的进步，已经让模型能够从人类基因组序列中读出转录因子结合、基因表达等分子表型，展现出惊人的预测能力。然而生物学家真正期待的，并不只是一个能猜对答案的黑箱，而是能够揭示背后生物学机制的工具。该研究通过对 2010 至 2025 年间 3575 篇论文的大规模梳理，以及一项围绕转录因子结合预测的系统基准实验，尖锐地指出：当前基因组大模型可解释性研究普遍建立在挑选成功案例的个案迷信之上，其可靠性远比表面看上去更令人担忧，亟需一次彻底的方法学反思，才能让解释真正配得上被称作证据。

预测能力越来越强，为何模型依旧是黑箱？

理解基因组的语言，也就是序列变异如何塑造分子表型，是功能基因组学长期追求的目标，它支撑着从人类遗传学中非编码变异的优先级排序、合成生物学中的理性设计，到疾病机制解析与治疗靶点发现等一系列关乎健康的重要应用。为此，大量深度学习方法不断涌现，配合高通量功能实验与日益强大的算力，这些深度神经网络在基因表达、转录因子结合、增强子与启动子活性等多种基因组任务上都取得了强大的预测性能，一次次刷新着人们对序列到功能映射能力的想象。然而，预测上的成功并没有换来对模型内部运作的同等理解。由于动辄拥有数百万乃至数十亿参数，这类网络的内在复杂性使其常被视为黑箱，人们既说不清某个预测究竟是如何做出的，也不知道模型在训练中到底捕捉到了哪些生物学机制。当一个模型既能精准预测又无法讲清判断依据时，它在科研与临床上的价值就会大打折扣，因为科学家既无法据此提出可检验的机制假设，也难以判断预测是否出于正确的理由，而不是记住了某些与因果无关的表面统计规律。

生物学家真正想从模型里得到什么？

值得注意的是，如今生物学家对这些模型的期待早已不止于准确。随着机器学习与算力把人类基因组的预测潜力逐步释放出来，研究者们进一步要求模型能够阐明预测背后的生物学机制，也就是把一次预测转化为可以理解、可以追问的知识。正是为了弥合预测与理解之间的鸿沟，可解释机器学习技术被越来越多地引入基因组研究，试图充当模型与生物学家之间的翻译者。然而问题也随之而来：在把这些解释当作科学证据加以采信之前，学界并没有建立起一套公认的标准，去判断某个解释究竟有多可信。于是，一种普遍而隐蔽的做法悄然流行开来，那就是对可解释性结果的个案式验证，即大多数研究只使用单一的可解释性方法，并且只报告个别成功的例子，把它们当作方法有效的充分证据。该研究要提醒的，恰恰是这种看似合理、实则危险的研究惯性，它正在悄悄侵蚀基因组学结论的可信度。

▲ 图1：Per-model and per-TF Spearman rank correlation between IML method pairs. Each su

主流的可解释性方法分成哪几个流派？

为打开黑箱，研究者们引入了形形色色的事后可解释性方法，大致可以归为几个流派。其中最流行的是特征归因类方法，例如显著性图（Saliency Maps）、DeepLIFT、原位突变（ISM）以及积分梯度（Integrated Gradients），它们量化序列上每一个位点的变异对模型预测的影响，回答的是哪一个碱基更重要这样的问题。在这些主效应之外，交互作用类方法如积分海森（integrated Hessians）、SQUID 和 DFIM 试图刻画不同突变之间的上位效应，也就是碱基之间如何协同或彼此拮抗。与此同时，基于注意力的解释与稀疏自编码器（SAE）则把视角转向模型内部，直接审视基于 Transformer 的基因组模型的内部计算与表征。凭借这些技术，研究者已经在基序发现、机制理解、从头设计与变异优先级排序等诸多场景中取得成果，工具箱看上去相当丰富。然而一个关键问题被长期忽视：在基因组学中，究竟应当如何严谨地评估与报告可解释性结果，学界至今没有形成任何共识，方法层出不穷，评估标准却几近真空。

一项覆盖 3575 篇论文的普查揭示了什么？

为量化这一评估缺口，该研究对 2010 到 2025 年间 3575 篇在基因组学中使用可解释机器学习的论文进行了大规模映射调查，试图从整体上把握这一领域的研究习惯。结果令人警醒：绝大多数研究都存在三类共性问题。其一，在没有给出充分理由的情况下，仅仅依赖单一的可解释性方法便直接下结论，既不与其他方法相互比较，也不做交叉验证；其二，通过高度异质且往往带有主观色彩的方式来验证解释的合理性，缺乏统一而客观的判据，不同论文之间几乎无法相互对照；其三，只报告那些看起来成功的案例，而对方法失败的情形避而不谈。这三条叠加在一起，勾勒出一幅令人不安的图景：大量结论建立在被精心挑选出来的、看起来言之成理的个别例子之上，而支撑它们的证据基础远比读者以为的要薄弱。

个案迷信为什么如此危险？

那么，这种个案迷信到底危险在哪里？当一种方法只在被挑选的例子上展示效果时，读者根本无从判断它在普遍情形下是否可靠，更无法评估其结论是否经得起复现与推敲。一张恰好落在已知基序上的漂亮归因图，既可能反映了模型真实的决策逻辑，也可能只是众多随机结果中被挑出来的巧合，而失败的、彼此矛盾的案例则被悄悄丢进了抽屉。更麻烦的是，可解释性结果常常被进一步用于下游的科学推断，比如据此提出某个调控机制、锁定某个候选靶点。一旦上游的解释本身就不可靠，这些看似严谨的机制故事就会像建在流沙上的楼阁。该研究强调，正是这种从挑选案例出发、以貌似合理收尾的研究范式，让整个领域积累了大量华丽却缺乏根基的解释，也让真正需要机制洞见的生物学应用暴露在被误导的风险之中。

▲ 图2：Per-model and per-TF top-20 Jaccard similarity between IML method pairs. Each su

基准实验暴露了哪三类系统性风险？

为了证明这些做法会带来实实在在的后果，该研究在转录因子结合预测这一经典任务上开展了系统的基准实验，用可控的对照给出了三条令人不安的证据。第一，面对同一个预测，不同的可解释性方法常常给出彼此矛盾的解释，究竟该相信哪一张归因图成了没有答案的问题；第二，这些方法未必能够定位到已知的调控基序，也就是说它们可能错过真正具有生物学意义的信号，反而把注意力放在无关的位点上；第三，方法给出的解释未必忠实地反映模型内部真实的决策过程，看似合理的热图背后，可能与模型实际所依赖的特征南辕北辙。一致性、忠实性与生物学有效性这三道关卡，现有实践往往一道都过不去。下面的表格进一步梳理了该研究讨论的主流方法在原理上的差异，正是这种根本差异，使得它们在面对同一预测时产生互相冲突的结论。

下表汇总了论文讨论的主流基因组可解释性方法及其类型与代表提出年份，可以看到这些方法在原理与关注对象上差异巨大，这也是它们对同一预测给出矛盾解释的重要根源。

▲ 图3：

临床试验式的验证框架能否成为出路？

针对上述困境，作者主张为基因组可解释性研究引入一套类似临床试验的验证框架。正如临床试验要求严谨的实验设计与不良事件报告，基因组可解释性研究也必须走出精挑细选的合理性展示，转向对一致性、忠实性与生物学有效性的系统评估。既要考察不同方法在同一预测上是否给出稳定一致的解释，也要检验解释是否真正对应模型的内部计算，还要确认所识别出的信号是否具有真实的生物学依据。更重要的是，研究者应当像报告不良事件那样，如实披露方法失败的情形，而不是只展示成功案例。只有当一项解释在这三个维度上都经受住检验，并且它的适用边界被清楚标注出来，读者才有理由把它当作可靠的科学证据，而不是又一段动人却无法复现的故事。

分层框架到底想要规范什么？

为把这一理念落到实处，作者提出了一套分层框架，用以指导对基因组可解释性方法的严格评估与规范报告。其精神与临床试验的证据分级如出一辙：不同强度的解释性主张，应当接受与其可信度相匹配的检验，而不是一律以一两个漂亮例子草草了事。较弱的主张或许只需展示初步的合理性，而越是重要、越可能影响下游决策的结论，就越需要在一致性、忠实性与生物学有效性上提供系统而可复现的证据，并如实报告方法在何种条件下会失效。这样一来，可解释性研究就能从依赖个人经验与直觉的手工作坊，逐步走向可比较、可积累、可问责的科学规范，读者也终于有了一把判断一项解释可信度的统一尺子，而不必再在互相矛盾的归因图之间凭感觉取舍。

这场方法学反思会把基因组大模型带向何方？

这篇立场论文的价值，并不在于否定任何一种具体的可解释性方法，而在于把整个领域从对个案的迷信中唤醒。当基因组大模型越来越多地被用于变异解读、药物靶点发现乃至临床决策的上游环节，可解释性结果的可信度就不再只是学术趣味，而是直接关系到科学结论乃至患者安全的问题。作者呼吁的分层验证框架，本质上是在为这一领域建立一套证据等级，让强度不同的解释性主张接受与其可信度相称的检验。对于每一位使用基因组大模型的研究者而言，这意味着从今往后，仅仅报告一个漂亮的解释远远不够，还必须说清楚它在一致性、忠实性与生物学有效性上究竟经受了怎样的考验。唯有如此，可解释性才能真正成为连接预测与机制的桥梁，而不是又一层被华丽外衣包裹起来的新黑箱。

arXiv 链接：https://arxiv.org/abs/2606.07607
论文标题：Position: Genomic Model Research Must Move Beyond Anecdotal Evaluation of Interpretability Methods
作者：Shasha Zhou, Mingyu Huang, Ke Li
机构：详见 arXiv 原文标注（三位作者共属同一研究单位，编号 1）