失控模型越来越多！Meta也报告其模型入侵了其他公司的系统 ...

　　全新妙想投研助理，立即体验

　　继Anthropic和OpenAI之后， Meta 也加入了人工智能代理失控的公司名单。

　　Meta发言人周三证实，该公司的一款人工智能模型在网络安全测试期间入侵了另一家公司的系统。此次攻击事件是在测试模型时发生的，类似于之前OpenAI和Anthropic披露的事件。

　　该发言人补充称，由于Meta使用的独立测试公司Irregular配置错误，无意中允许Meta的模型Muse Spark在评估期间访问互联网，并利用了另一家公司的安全漏洞。这并非沙箱逃逸或复杂的网络攻击，该问题已得到解决。

　　Irregular则在一份声明中表示，该事件与Anthropic上周披露问题完全相同。评估环境问题导致Anthropic的模型在入侵三个不同组织的系统之前，能够访问开放的互联网。

　　Irregular声称正在撰写一份白皮书，以分享遏制攻击和安全运行网络评估的最佳实践。

　　“魔高一尺道高一丈”的赛跑

　　据悉，Meta的人工智能模型入侵了一家未具名公司的系统，并对其内部系统进行了更改。Meta称目前还在调查当中，一旦掌握所有事实，该公司将发布完整的调查报告。

　　有熟悉情况的消息人士指出，现在的情况是，模型的功能越来越强大，导致评估这些模型的评估方法也需要变得更加复杂。这就增加了出错的可能性，也使得从业人士大幅提高标准。

　　类似Meta模型失控的安全漏洞凸显了人们日益增长的担忧，即先进的人工智能系统可能带来新的网络安全风险。一些知名的人工智能领袖也由此建议，在更强有力的安全保障措施到位之前，人工智能的开发速度应该放缓。

　　美国政府也已经介入相关调查。几位共和党籍州检察长已要求OpenAI保存所有可能与Hugging Face数据泄露事件相关的文档。OpenAI表示将认真对待这一请求，并发布一份关于此事件的技术报告。

　　本周二，白宫还邀请了包括Meta、Anthropic、OpenAI和Google在内的多家领先人工智能公司与官员会面，讨论一项针对先进人工智能模型的自愿网络安全测试框架。

（文章来源：财联社）