谷歌Gemini测试出意外 闯入三家公司

谷歌AI做网络安全测试，竟然意外闯进了三家真实公司的系统。

事情发生在今年5月。当时，Gemini参加网络安全公司Irregular安排的“夺旗”（capture the flag）测试，就是让AI找系统漏洞，再拿到指定信息。

谷歌告诉《华尔街日报》，原本Gemini只能在一个虚拟环境里测试，目标也是一家假公司。没想到出了两个意外：这家假公司跟现实中一家公司重名，而且本来不能上网的测试环境，竟然连上了互联网。

其中一次，Gemini不停猜密码，最后真的登录成功。另外两次，它从网上公开的资料库找到登录信息，再用这些信息进入系统。

谷歌安全工程副总裁阿德金斯（Heather Adkins）说，Gemini后来发现，这些并不是假的测试目标，而是真实公司，于是马上停手。三家公司也没有受到损失。

Irregular今年7月把这件事告诉谷歌，之后测试流程也做了调整。

今年5月谷歌AI做网络安全测试，意外闯进了三家真实公司的系统。图为谷歌标志。（Justin Sullivan/Getty Images）

而且，碰到类似问题的不只谷歌。Meta、Anthropic和OpenAI此前也披露过，在Irregular的测试中发生过类似意外。

英国智库“长期韧性中心”（Centre for Long-Term Resilience）旗下“失控观测站”（Loss of Control Observatory）说，2026年至今，他们已经记录了1,664起现实中的AI失控事件，包括AI绕过限制，甚至伪造授权，提高自己的许可权。