OpenAI 21日表示，其人工智慧系统在一起受控环境测试中，竟然自行设法逃脱控制，并入侵了另一家新创人工智慧公司Hugging Face的基础设施，试图完成测试任务。遭骇公司上周就发现遭到入侵，且鉴于行为者复杂性，当时就怀疑是AI所为，没想到果真如此，也让该公司惊呼这大概是前所未见。
公司执行长阿特曼在发文中坦承这起在评估模型期间遭遇的重大安全事件;OpenAI周二在一份声明中表示，人工智慧正在加速漏洞的发现和利用。此次事件的主要教训是，模型安全必须跟上快速发展的能力步伐。
OpenAI说明，此次入侵是由其人工智慧模型组合造成的，其中包含新发布的GPT-5.6 Sol以及一个仍在内部测试的“更强大”的模型。其人工智慧利用窃取的凭证并发现了一个先前未知的漏洞，成功存取了新创公司Hugging Face伺服器。
OpenAI表示，当时其正在受控环境中测试其一些最先进模型的性能，但该智能体设法逃脱了控制，连接到网络并入侵了Hugging Face，试图达到其测试目标。 OpenAI形容，这是“一起涉及尖端网络能力、前所未见的网络事件”，公司正在强化其安全防护措施。
遭骇入的公司Hugging Face上周就揭露，侦测到其资料处理系统遭到入侵，并怀疑这是由人工智慧代理自主行动造成的。其共同创办人德朗格在声明中说，鉴于攻击者的复杂性，该公司怀疑这次的网络攻击可能来自某个前沿实验室，结果证明确实如此!
德朗格表示，他过去24小时一直在与OpenAI合作，该公司坚信OpenAI没有任何恶意，这一切竟然都是自主发生的，真是令人难以置信!
来源：中时新闻网