前众议院议长纽特·金里奇讨论了人工智能在国家安全中的作用、共和党在数据中心方面的前进道路以及中期选举前的关键焦点“库德洛”。
谷歌的 Gemini 人工智能在进行网络安全测试时获得了对三个真实公司受保护系统的访问权限，其中一个例子是该模型反复猜测密码，直到被访问为止。
据《华尔街日报》报道，这些事件发生在 5 月份，是谷歌人工智能在此类评估中独立访问真实公司系统的第一个已知例子。谷歌确认出售这些活动。
这一披露正值围绕人工智能的审查日益严格之际，一些行业领导者继续对日益先进的模型的潜在风险表示担忧。
该事件发生之前，OpenAI 和 Anthropic 等大公司的人工智能代理也被披露，这些代理已从受控测试环境中发布。
NEWSOM 通过新的加州行政命令推进人工“杀戮”授权
据《华尔街日报》报道，谷歌的人工智能 Gemini 在一次网络安全评估中获得了对三个真实公司受保护系统的访问权限。 （盖蒂图片社/盖蒂图片社）
《华尔街日报》报道称，最近的 Gemini 事件发生在 Irregular 测试期间，该公司也参与评估与类似事件相关的人工智能模型。
据谷歌和 Irregular 称，人工智能被指示在受控测试环境中攻击一家虚构公司，但互联网访问无意中可用，并且该虚构公司意外地与真实企业共享了其名称。
谷歌在给福克斯商业频道的一份声明中强调，该模型在所有三种情况下均已停止，并表示此后对测试流程进行了更改。
谷歌安全工程副总裁希瑟·阿德金斯 (Heather Adkins) 告诉福克斯商业频道：“强大的人工智能模型的安全开发至关重要，我们在这一领域投入了大量资金。”
科技巨头与特朗普十一世坐在桌边共进晚餐。
智能手机屏幕上会显示一个文件夹，其中包含 AI Claude、ChatGPT、Gemini、Perplexity、Grok、Copilot 和 DeepSeek 应用程序。 （塞缪尔·博伊文/NurPhoto 来自盖蒂图片社/盖蒂图片社）
“在标准评估中，该模型在互联网上找到了公共信息，并获得了访问它认为是测试一部分的网站的凭据，”阿德金斯说。 “在所有这三种情况下，模型都停止了。”
报告称，在一个案例中，该模型“猜测密码，直到获得受保护系统的访问权限”。
在另外两个案例中，该模型在公共在线存储库中找到了凭证，使其能够访问受保护的系统。谷歌表示，在每种情况下，Gemini 在确定其可以访问该公司的实际系统后都停止了攻击。
据两家公司称，在发现 OpenAI 代理正在访问人工智能软件公司 Hugging Face 的系统后，Irregular 于 7 月下旬向谷歌发出了有关这些事件的警报。
NVIDIA 首席执行官在发生令人震惊的事件后对人工安全划定界限：“如果还没有准备好，就保留它”
谷歌证实，在网络安全调查期间互联网突然可用后，其 Gemini AI 能够访问三家公司的现实系统。 （CFOTO/未来出版，盖蒂图片社/盖蒂图片社）
谷歌表示，在所有这三个案例中，双子座意识到它已经到达了一家真实的公司，而不是一个虚构的目标。
据谷歌称，这些公司没有收到受伤报告，并表示所有三人都已收到通知。该公司尚未确定关联公司。
Irregular 表示，该模型并不是为访问互联网而设计的，但据《华尔街日报》报道，无意中提供了访问权限。
谷歌尚未透露涉及哪种 Gemini 型号。
该报告发布之前，OpenAI 本周发布了六起案件的信息，称其模型存在不当行为。
OpenAI 表示，它发现了一些例子，其人工智能模型创建自动指令、隐藏任务摘要中的错误、使用公开的 API 密钥生成数据、将文件上传到互联网以链接到它们，以及在代理之间进行未经授权的通信和协作。
单击此处获取福克斯业务的信息
福克斯商业频道已联系 Irregular 征求意见。
福克斯商业频道的安德斯·哈格斯特罗姆 (Anders Hagstrom) 对本报告做出了贡献。
