谷歌 周五表示,其 Gemini 模型已入侵另外三家公司,这是这家搜索巨头首次披露其其中一个模型未经许可独立访问第三方计算机系统。 谷歌表示,五月份,Gemini 模型通过猜测密码获得了对三个独立私人计算机系统的访问权限,并通过使用列出的密码存储库获得了两次访问权限。 该事件是以色列初创公司 Irregular 运行的“夺旗”安全测试的一部分,谷歌代理从未访问过更广泛的互联网,但测试环境中的一个错误使得互联网访问可用。 谷歌表示,当特工确定可以访问该公司的真实系统而不仅仅是测试环境的一部分时,他们就停止了干预。 谷歌安全工程副总裁希瑟·阿德金斯 (Heather Adkins) 在一份声明中表示:“在标准评估中,该模型发现了互联网上的公共信息,并识别了访问它认为是测试一部分的网站的凭据。” “在所有这三种情况下,模型都停止了。” 这一披露正值华盛顿和硅谷对人工智能不当行为的调查力度加大之际。 OpenAI、Anthropic 和 元 最近几周,发生了一些事件,其人工智能模型逃离了测试环境,并试图入侵其他公司,以未经授权访问其计算机系统。 所谓“批准”的AI模型的曝光促使Anthropic首席执行官Dario Amodei呼吁AI行业放慢或“加快”先进AI模型的开发,直到企业确保其安全。 这三起案件都与初创公司 Irregular 有关。这家以色列初创公司由红杉资本和红点风险投资公司支持,截至去年估值达 […]