新技术揭示人工智能的隐秘思维，重新点燃蒸馏战争

一种计算机技术能够揭示前沿人工智能模型的“思维”，揭露可能的隐秘蒸馏和数据泄露。研究人员证明，较小版本的模型可以暴露其隐藏的推理过程。

• 研究人员发现OpenAI、Anthropic和Google的API存在漏洞，暴露了人工智能模型的内部推理。
• 该方法允许从封闭模型中提取信息，并恢复密码和API密钥，尽管该漏洞已被修复。
• 随着中国和美国在人工智能领域的竞争加剧，蒸馏成为一个地缘政治话题。

一种新的计算机技术能够揭示最先进的人工智能模型的内部推理，暴露出科技公司试图保护的秘密。根据《连线》杂志的一篇文章，最近的研究揭示了OpenAI、Anthropic和Google的API存在一种漏洞，这不仅便于大规模蒸馏，还可能泄露密码和API密钥。

这一方法由图宾根大学、马克斯·普朗克研究所、MATS Research和Snyk公司的一些科学家开发，能够提取前沿模型的“隐藏思维”。尽管该漏洞已被修复，但这一发现提供了证据——尽管不是决定性的——表明某些中国模型可能是通过蒸馏美国模型的推理信息进行训练的。

揭示人工智能推理的技术

先进的人工智能模型通过将复杂问题分解为部分，在“思维链”中进行分析。公司对这种推理保持秘密，但会将加密版本发送到用户的计算机，以转移部分计算负担。

研究人员的攻击基于大多数公司提供不同大小的模型。较小的模型虽然较弱，但也更不对齐，这意味着它们更容易透露内部思维。

图宾根大学的计算机科学家亚历山大·潘菲洛夫解释道，将加密的推理痕迹输入同一模型的较小版本可能会揭示隐藏的推理。“我们测试的所有主要前沿模型供应商都存在这一漏洞，”他警告道。

潘菲洛夫和他的同事通过API测试了OpenAI、Anthropic和Google的模型，发现了相同的问题。他们还证明该方法可以提取秘密信息，如嵌入在推理痕迹中的API密钥和密码。

“将消息交换到一个较弱的模型变体中，该变体具有相同的解密密钥但对齐性较弱的想法非常棒，”苏黎世联邦理工学院的网络安全科学家弗洛里安·特拉默评论道。“这无疑正在成为一个问题，”他补充道。

蒸馏的争议

蒸馏是一种成熟的技术，用于高效复制现有模型的能力到新的模型中。这在开发开放权重或完全可下载的模型时尤其常见。

最近，由于有报道称中国人工智能公司利用蒸馏技术复制美国最佳模型，蒸馏成为一个有争议的话题。今年二月，OpenAI告诉美国立法者，DeepSeek似乎复制了其模型以构建R1。

在六月，Anthropic告诉立法者，阿里巴巴系统性地蒸馏了他们的模型以构建自己的模型Qwen。没有迹象表明他们使用了这一特定技术，但研究人员认为他们的方法将允许从封闭模型中蒸馏出比之前认为的更多信息。

马克·扎克伯格，Meta的首席执行官，表示蒸馏是开源生态系统运作的重要原则。他警告称，限制这一做法将使美国处于不利地位。

另一方面，安全与新兴技术中心的研究员凯尔·米勒表示，目前尚不清楚蒸馏对中国的实际帮助有多大。他说：“如果中国实验室的蒸馏能力被消除，竞争格局不会发生剧烈变化。”

研究人员向每个模型提供了90个问题，以检查开放权重模型是否从封闭模型中蒸馏而来。在给出捕获的推理轨迹的首个词时，他们有时发现开放模型生成的答案与封闭模型惊人地相似。

相似性证据与反应

中国开放权重模型Kimi K3，由Moonshot AI开发，在某些提示下，产生了与Claude Opus 4.8和GPT 5.6 Sol的隐藏推理轨迹惊人相似的输出。尽管存在相似性，研究人员指出，这项工作无法因果地确立蒸馏关系。

另外两个开放权重模型，中国的DeepSeek和美国公司Thinking Machines的Inkling，并未表现出这种相似性。Moonshot AI和Z.ai未对评论请求作出回应。

在中国社交媒体上，之前曾有关于发现和利用隐藏推理轨迹进行蒸馏的可能性的猜测。牛津大学计算机科学家雅林·加尔表示，蒸馏不仅广泛存在，而且还帮助人工智能更快地发展。

公司们已经采取了措施：潘菲洛夫及其合著者警告了OpenAI、Anthropic和谷歌，每家公司都调整了其API以缓解这一问题。Anthropic的发言人迈克尔·阿西曼表示，他们重视独立研究，并已开始开发短期缓解措施。

谷歌和OpenAI拒绝发表评论。潘菲洛夫补充说，完全修正蒸馏需要对API的工作方式进行根本性审查。

地缘政治与安全影响

蒸馏已成为一个地缘政治重要问题，因为美国和中国在人工智能领域竞争霸权。对中国持强硬立场的人士声称，该国通过蒸馏美国技术获得了战略优势。

其他人则认为，蒸馏是一种广泛使用的方式，可以迅速提升人工智能模型的能力。扎克伯格从开源的角度为这一做法辩护。

凯尔·米勒指出，这仅在有限程度上提升现有模型的能力，而中国公司似乎具备从零开始构建前沿模型的经验。他说：“美国这里没有人知道蒸馏对中国实验室的实际好处有多大。”

研究人员还强调，这种方法可能被用来恢复个人信息，尽管这一漏洞已经得到修复。然而，某些推理轨迹仍可能通过相同的方法被发现。

潘菲洛夫及其合作者表示，使用他们的方法将允许从封闭模型中蒸馏出比之前认为的更多信息。这可能对人工智能行业的知识产权产生重大影响。