媒体：OpenAI的调查发现更多AI代理的失控行为

OpenAI在Hugging Face事件后发现了自主代理的新故障。 Anthropic也表示与三家公司网络入侵事件有关。 美国和欧盟的监管机构对这些公司加强了关注。

OpenAI扩大了对2026年7月在Hugging Face平台测试环境中被泄露的AI代理事件的调查，发现了更多自主代理超出隔离环境的情况。路透社援引知情人士的消息报道了这一情况。

尽管他们表示，新的案例并未导致代理超出OpenAI的内部网络，但这一情况已引起美国和欧盟监管机构的关注，并加剧了对先进人工智能系统监管的讨论。

OpenAI在Hugging Face事件后扩大了检查

据报道，新的案例是在对OpenAI之前公开报告的事件进行调查时发现的。媒体的消息来源表示，该公司正在分析过去几个月的事件日志，以试图确定问题的规模。

一位路透社的消息人士表示，新的案例“性质上是有限的”，而这些代理被认为并未离开OpenAI的基础设施。

公司发言人引用了OpenAI之前的声明，称公司正在检查“我们模型的更广泛活动”，与Hugging Face事件的调查并行进行。

值得注意的是，在对Hugging Face的攻击后，OpenAI表示其一名自主代理在内部测试期间在一家第三方公司的网络中活动了几天。除了Hugging Face平台外，还有四个其他公司的四个账户被泄露，其中包括Modal公司，代表们确认了这一点。

几乎与此同时，OpenAI的主要竞争对手Anthropic披露其模型也与三家公司网络入侵事件有关，这些事件可以追溯到2026年4月。

与此同时，Claude Mythos Preview模型帮助发现了对两种加密算法的新攻击方式。

专家们谈论失去对自主代理控制的风险

新的细节引发了AI安全专家的担忧。

剑桥大学存在风险研究中心的数学家莫里斯·基奥多表示：

“我们形成了一个完整的行业，在这个行业中，创造、开发和发布这些工具的人，自己都来不及负责任地开发它们并确保它们的安全。”

专家表示，更令人担忧的是，这些公司可能没有实时监控代理的行为。

*“看起来他们甚至没有在监控这个。”*基奥多说。

路透社指出，早前报道：OpenAI在Hugging Face事件中得知其代理的入侵，直到该公司定位了事件，联系了FBI并公开报告了攻击。与此同时，OpenAI表示，该报告中的某些细节不准确，但并未说明具体哪些。

Anthropic也实际上确认了监控问题。在其声明中，该公司表示：

“实时监控评估日志将有助于更早发现问题。”

随后，Anthropic澄清，监控系统确实存在，但由于公司与某个合作伙伴之间的误解，并未将其用于此类威胁。

这一情况发生在Anthropic最近关于加强人工智能发展监管的声明背景下。特别是在Anthropic呼吁建立全球暂停机制以发展先进AI模型后，该公司还支持对最强大模型的强制安全要求。

美国和欧盟的监管机构已作出反应

新的事件加大了立法者对主要人工智能实验室活动的关注。

美国总统唐纳德·特朗普在记者面前评论这一情况时表示：

“我们正在考虑控制措施。”

值得注意的是，在GPT-5.6模型的公开发布之前，特朗普政府曾要求OpenAI限制新模型的首次发布，以评估其安全性。

与此同时，欧盟委员会确认已就最近的事件与OpenAI和Anthropic进行了磋商。

美国参议员马克·华纳，作为参议院情报委员会的主要民主党人，也呼吁进行立法变更。

“Anthropic事件让我相信，我们在立法上要求对这些先进模型进行强制测试是正确的。”

围绕OpenAI和Anthropic的事件发生在自主AI代理快速发展的背景下。特别是，Meta的首席执行官马克·扎克伯格最近表示，在未来五年内，数十亿人将使用个人AI代理，几乎不间断地代表他们工作。

本内容仅供参考，不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息，不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性，存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。