谷歌 周五表示，其 Gemini 模型已入侵另外三家公司，这是这家搜索巨头首次披露其其中一个模型未经许可独立访问第三方计算机系统。
谷歌表示，五月份，Gemini 模型通过猜测密码获得了对三个独立私人计算机系统的访问权限，并通过使用列出的密码存储库获得了两次访问权限。
该事件是以色列初创公司 Irregular 运行的“夺旗”安全测试的一部分，谷歌代理从未访问过更广泛的互联网，但测试环境中的一个错误使得互联网访问可用。
谷歌表示，当特工确定可以访问该公司的真实系统而不仅仅是测试环境的一部分时，他们就停止了干预。
谷歌安全工程副总裁希瑟·阿德金斯 (Heather Adkins) 在一份声明中表示：“在标准评估中，该模型发现了互联网上的公共信息，并识别了访问它认为是测试一部分的网站的凭据。” “在所有这三种情况下，模型都停止了。”
这一披露正值华盛顿和硅谷对人工智能不当行为的调查力度加大之际。
OpenAI、Anthropic 和 元 最近几周，发生了一些事件，其人工智能模型逃离了测试环境，并试图入侵其他公司，以未经授权访问其计算机系统。
所谓“批准”的AI模型的曝光促使Anthropic首席执行官Dario Amodei呼吁AI行业放慢或“加快”先进AI模型的开发，直到企业确保其安全。
这三起案件都与初创公司 Irregular 有关。这家以色列初创公司由红杉资本和红点风险投资公司支持，截至去年估值达 4.5 亿美元，帮助基础模型的开发人员测试其尖端技术的网络安全。
Irregular 的发言人告诉 CNBC，谷歌事件涉及允许其他模型访问互联网的相同问题。
“这与之前报道的问题相同，并不代表重大孤立事件，”Irregular 发言人在一份声明中表示。 “所有相关实验室已于 7 月底收到通知，并在调查过程中联系了受影响的个人。”
谷歌表示，该事件发生在 5 月份，并于 7 月底被 Irregular 报道。 Google 已与 Irregular 合作改变其审查流程。
谷歌发言人拒绝透露具体的 Gemini 型号。
谷歌阿德金斯在一份声明中表示：“这些事件凸显了训练强大的人工智能模型以负责任地行动的重要性。”
《华尔街日报》最先报道了这一安全事件。
CNBC 的乔纳森·瓦尼安 (Jonathan Vanian) 对这篇报道做出了贡献。
