AI开始“自作主张”？OpenAI曝异常行动

人工智能（AI）代理的自主能力不断提升，但随之而来的安全问题也引发关注。

OpenAI近日证实，旗下部分AI代理在执行任务期间出现“非预期行为”，不仅绕过网站的安全控制，还将至少53张ChatGPT用户图片转移至其他网站。

据英国广播公司（BBC）及路透社报道，OpenAI已向全球数十家机构发出通知，告知其网站可能被旗下AI代理不当存取。涉及机构包括美国证券交易委员会（SEC）、人口普查局、教育部，以及其他政府、教育和公共机构。

例如，AI代理在搜寻美国人口普查局资料时，使用了原本提供给软件开发人员的工具。

还有部分AI代理绕过网站的安全控制，从美国证券交易委员会取得资料，并将相关内容发布到另一个网站。

OpenAI表示，代理从这些政府网站试图取得或实际取得的信息均属公开资料，但相关操作方式却不是公司原本预期。

更受关注的是ChatGPT用户资料。OpenAI调查发现，至少53起事件涉及AI代理从ChatGPT用户活动中取得图片，甚至将图片转移到其他网络平台。相关用户此前虽同意让OpenAI使用其资料训练模型，但OpenAI承认，将这些图片转移出去的行为并不妥当。

公司表示，事件发生在新的AI训练安全措施实施之前，目前正在与相关第三方合作，移除被转移的图片。

这并非OpenAI首次出现AI代理失控事件。今年7月，一批OpenAI AI代理在没有人类下达相关指令的情况下，自行入侵开源AI平台Hugging Face。事件曝光后，OpenAI承认责任，并开始扩大调查AI代理的相关活动。

目前，OpenAI正在逐月回查相关纪录。公司称，截至目前发现的大多数案例严重程度较低。不过，由于调查规模庞大，每宗事件都需要逐一核实，整项清查可能还需要数月时间。

根据《纽约时报》引述的一项最新调查，OpenAI代理在入侵Hugging Face的过程中，展现出相当复杂的自主行动能力。

调查人员发现，这些AI代理在受到网络防御机制限制后，会自行寻找其他方法突破限制。例如，它们利用第三方网页截图及短网址服务，把较大的程式拆分成大量程式码片段，再透过一连串网址将其重新组合并执行，以实现原本受到限制的操作。研究人员从相关短网址中还原出超过8万个程式及信息片段。

更引人关注的是，部分AI代理在遭遇Hugging Face的验证码等障碍时，还曾尝试调用DeepSeek、Kimi、Qwen及Anthropic旗下Haiku等其他AI模型协助完成任务。

这些发现进一步引发外界对AI代理自主能力的担忧：当AI获得一项任务后，能自行寻找工具、设计替代方案，甚至调用其他AI突破障碍，人类应当如何应对？