作者：Yong Zheng-Xin｜原文发布于 2026 年 8 月 8 日
一个关于知识互联的论点：它对科学突破、潜在安全风险与持续学习意味着什么
我想把自己对两个问题的看法记录下来：LLM 如何通过重大突破推动科学进步，以及这些看法背后的假设会怎样影响我们对安全风险与持续学习的判断。
先从我与 Tom Zahavy 在 ICML 2026 立场论文 《LLM 无法“跳跃”》中的分歧说起。
预备讨论
在《LLM 无法“跳跃”》中，Tom 以广义相对论为案例。爱因斯坦在尝试建立引力的数学理论时，从电梯思想实验中获得启发；后来，水星轨道的异常进动成为检验这一理论的重要依据。
具体来说，这一过程需要溯因推理（abductive reasoning）：面对加速度与引力看起来等价的现象，推断最可信的解释。Tom 这样解释：“（爱因斯坦）依赖的是一种物理先验。因为模拟出来的加速度感受与记忆中的重力感受无法区分，爱因斯坦便通过溯因推断它们必定是同一种现象。盒子里的场并不是一种虚假的惯性效应；按照定义，它就是真实的引力场。”
Tom 还通过以下论点强化了自己的主张：
- 当时并不存在提出新引力理论的迫切需求，因为牛顿体系运行良好，而水星轨道异常也可能由其他因素解释。
- 当时没有足够的公理，让爱因斯坦仅靠演绎推理得到这套理论。
换句话说，Tom 的观点是：LLM 缺少可靠的世界模型，而物理先验恰恰需要这样的模型；同时也不存在一套足以直接推出广义相对论的数据集。因此，LLM 不可能完成这样的“跳跃”并提出这一突破。
总的来说，我认为 Tom 和我大概会同意以下两点：
- LLM 能够进行演绎或归纳推理。
- 爱因斯坦提出广义相对论的路径，是一种依赖感官经验的溯因推理。
不过，我真正的分歧并不在于 LLM 能否凭借同样的想象完成类似的溯因，而在于后来的人是否可能沿着另一条、更偏演绎的路径偶然抵达广义相对论。令人意外的是，ICML 2026 的评审意见并没有提出这个问题。
广义相对论能否通过另一条路径推导出来？
我曾深入追问：今天的人是否仍可能重新发现广义相对论。我找到了一篇论文，它表明爱因斯坦的溯因路线并不是通往广义相对论的唯一道路。
“不要试图用引力来解释其余物理学，我建议把问题反过来，并改写历史。假设爱因斯坦从未存在……”
—— Richard Feynman
下面是相关原文：“根据量子场论的一般原理与实验结果，我们可以得出结论：引力和其他力一样，必须通过一种虚粒子的交换来传递；在这里，这种粒子是一种无质量、中性、自旋为 2 的量子——引力子。因此，通过构建一个具有洛伦兹不变性的引力子量子场论，并施加若干一致性要求，完整的广义相对论应当可以被恢复出来。”
感兴趣的读者可以详细阅读论文第 4 页。Feynman 的路线从狭义相对论出发，加入量子场论和引力的经验性质。这些假设并没有直接预设爱因斯坦的理论。
我的主张并不是 Feynman 必然能够从零重新发现广义相对论。他已经知道爱因斯坦的理论，而重建一个已知结果当然比第一次发现它容易。此外，从历史上看，量子场论是在广义相对论提出以后才发展起来的（但量子场论本身并不依赖广义相对论）。
我更窄的主张是：只要拥有足够丰富的后续知识，即使没有爱因斯坦的思想实验，也可以恢复出广义相对论。Feynman 路线的大部分过程属于演绎推理，而 LLM 已经展现出这类推理能力，尤其是 OpenAI 的 Astra 模型。
为什么知识互联让“跳跃”成为可能
跳出 Tom 论文中的具体案例，我认为问题的核心在于：LLM 能否提出足以促成突破的可信解释。我同意 Tom 对 Schmidhuber 所说的压缩视角的判断——“寻找一个能够简洁解释观察结果的简单程序”，本身并不足以解锁那种溯因式跳跃，也就是提出可信的新假设。
我之所以更相信 LLM 可以取得重大科学突破，是因为知识本身具有结构。事实与公理通过数学结构或因果关系彼此连接：一个事实主张或观察，要么会限制哪些可能性能够成立，从而帮助排除错误假设；要么会揭示一种可能从其他领域迁移而来的模式，从而帮助生成新假设。
从这个框架出发，我会提出三点：
- 模型已经可以提出新的连接。例如，为了推翻单位距离问题中一个长期存在的猜想，OpenAI 的 Astra 模型把代数数论中的工具带进了离散几何问题。
- 模型能够推理观察结果或知识连接是否一致。假设模型展现出强大的科学推理能力——考虑到这种能力正在不同 STEM 学科中持续提高——模型就可以从公理或既有知识出发，通过演绎判断某个观察是否一致。随着模型变得更聪明，也就是更擅长从事实推到事实，不一致之处就会提示当前范式存在局限，或推理中缺少某个“跳点”。模型随后可以利用第 1 点提出可信的假设和解释。人们当然可以质疑假设能否足够多样，但随着越来越多开放问题因为第 1 点而被攻克，我看不到为什么它会一直成为失败瓶颈。
- 模型能够验证这些解释。LLM Agent 已经可以执行代码、使用 Lean 做形式化验证、运行模拟，甚至开展湿实验以获得实验结果。这样一来，第 2 点中的假设生成就会进入一个反复进行经验验证的循环。
我当然不是说模型现在已经强大到足以实现所有科学突破。不过，如果我们持续提升模型判断知识一致性的能力，以及它理解现实世界实验与验证反馈的能力，我预计我们可以实现许多看似属于“范式转变”的进展。
安全推论：缺失的知识可以被重建
如果我们创造出能够在高度互联的知识体系中穿行的超级智能机器，那么从预训练数据中删除有害信息，可能不足以成为一套完整的安全策略。删除一段明确的有害知识，并不等于删除推导出这段知识的能力。
模型不需要直接回忆被删除的概念。它只需要识别知识缺口，提出一个能够填补缺口的内容，推导其后果，再检查这些后果是否与自己保留的知识体系一致。
这方面已经存在受控证据。Treutlein 等人（2024）表明，模型可以从分散在不同训练样本中的间接观察推断目标事实或规则。他们假设的威胁模型与我描述的完全一致：审查危险知识会删除直接陈述，却仍把隐含信息散落在不同文档中。Yao 等人同样表明，在合成知识图谱中，模型可以组合训练数据中保留的关系，回答被留出的多跳问题。
我仍然认为数据过滤在一定程度上有效，因为它提高了重建的成本。如果某种知识足够复杂，必须通过思维链才能重建，我们就获得了一个可以监控的窗口；如果我们成功弄清模型怎样从隐含知识进行推导，也可能删除足够多的信息，让重建变得不可能。
不过，如果超级智能机器能够弄清不同领域的知识如何互联，而我们又越来越依赖它们取得科学突破，我对此仍相当悲观。一个非常擅长“溶瘤病毒疗法”——利用病毒治疗癌症——的失控模型，很容易推导出怎样制造可作为生物武器的高毒力毒株。科学知识往往具有双重用途。
对持续学习的预测
我还预测，如果更新的模型正在不同领域之间形成联系更紧密的知识，持续学习对更新的模型来说会变得更容易。
我对持续学习的定义比较宽泛：模型或 Agent 是否能够帮助完成一项需要训练期间从未见过的新知识的任务。它不一定要直接更新权重；只要能够处理新的背景信息并满足用户任务，就说明模型已经学会使用这项新知识。这种看法与正在兴起的机器学习式研习（Machine Studying）方向相当一致。
具体来说，基于未来模型会成为更多不同领域专家这一假设，我有两个预测：
- 在权重空间中直接学习知识会变得更容易，因为随着模型成为更多领域的专家，新知识会更接近模型已经见过的分布。换句话说，现有算法可以直接应用；我们会看到更新模型的持续学习成功率上升，因为新知识只是既有知识的延伸。
- 如果可塑性丧失仍然是一个问题，未来模型会通过发明把新知识连接到既有知识的方法来解决它。这可能表现为多种形式：围绕新知识做数据增强；设计能够直接在新旧知识之间建立连接的新学习算法；对自身进行提示优化，把连接显式表达出来以引出相关能力；或者干脆留下怎样使用新知识的笔记，从而避免破坏性的权重更新。
结语
我提出了一种关于科学发现的知识互联视角——它很符合“站在巨人的肩膀上”这句格言——并用它解释广义相对论如何可能被重新发现、重大科学突破为什么可能发生，以及这对安全与持续学习意味着什么。
我也不认为这一观点特别新颖，早在 2009 年的文献中就有类似主张。不过，考虑到 LLM 的进步速度，我对它持有更强的判断：知识互联本身就足以促成科学突破。我很可能是错的，但因为我在 X 上作出了承诺，我还是把这些想法写了下来。
致谢
感谢 Jacob Xiaochen Li富有洞见的讨论，帮助我更清楚地表达这些想法。