澳大利亚总理安东尼·阿尔巴内塞 (Anthony Albanese) 周三透露，一个政府网站被 OpenAI 特工黑客攻击，此后，人们对人工智能危险的担忧不断加剧。
他说，六月的攻击针对的是澳大利亚公共资助的全民健康保险计划 Medicare 的网站。
“我想向澳大利亚人通报一起人工智能代理访问澳大利亚政府网站的事件。这起事件发生在今年 6 月，涉及人工智能代理未经授权公开访问医疗保险统计报告服务门户。”
阿尔巴尼斯说，人工智能代理访问了“公共和非公开文件”。
OpenAI 在一份声明中表示，它已经审查了澳大利亚几个政府部门的活动，发现“我们的模型执行了我们无意的行为”。
Albanese 表示，该公司于 9 月 10 日通过电子邮件向澳大利亚政府部门通报了此次违规事件。
他说：“我已与 OpenAI 总监 Sam Altman 进行了交谈，表达了澳大利亚对这一事件的深切关注。”他补充说，他将成立一个特别工作组，“立即审查这一事件，以确定现有流程是否足以应对与人工智能相关的网络事件。”
全球新闻联系了人工智能部长埃文·所罗门的办公室，询问加拿大是否也计划根据澳大利亚黑客事件审查其安全规则。
澳大利亚公共服务部长凯西·加拉格尔 (Cathy Gallagher) 表示，OpenAI 在 9 月 10 日表示，“人工智能代理已访问公共门户背后的基础设施”。 OpenAI 与政府分享了该代理的漏洞。
加拉格尔表示，直到官员周二与 OpenAI 举行技术简报之前，澳大利亚政府并不确定自己是否知道该特工在做什么。
获取每日全国新闻
将加拿大的每日新闻发送到您的收件箱，这样您就不会错过当天的头条新闻。
澳大利亚副总理理查德·马勒斯表示，这是人工智能特工首次未经授权访问澳大利亚政府的信息技术系统。
奥特曼是主要人工智能公司的领导人之一，他们在周三的联合国演讲中呼吁对像他这样的公司正在设计的快速发展的技术进行监管，尽管这些公司本身正在采取措施减缓发展或等待监管。
“我们可能会失去对人工智能对未来的控制。危险在于它的发展速度如此之快，以至于人类将不再能够跟踪正在发生的事情或在必要时进行干预，”奥特曼告诉联合国。
“这肯定会很可怕，”他补充道。
虽然这是第一次政府网站被欺诈代理黑客攻击，但总体而言并不是第一次发生此类事件。
今年 7 月，OpenAI 透露，其人工智能系统从一个测试站点逃脱，并使用窃取的数据侵入人工智能开发中心和市场 Hugging Face 的服务器，以检索执行任务所需的信息。
此后，竞争对手 OpenAI 公司 Anthropic 表示，其人工智能模型在测试过程中攻击了另外三个组织，促使该公司审查这些模型是否能够从测试环境内访问互联网，而测试环境本应被阻止。
Meta 表示，测试过程中的“错误配置”导致人工智能模型自行访问互联网并攻击另一家公司。谷歌最近也做出了类似的披露。
一般来说，当人工智能公司测试其代理的能力时，他们被放置在一个称为“沙箱”的安全环境中。
安大略理工大学计算机科学教授兰迪·福蒂尔（Randy Fortier）表示：“通常，当我们使用人工智能代理时，它有一个经过充分测试的盒子，作为用户很难摆脱这个盒子，而且人工智能本身正在超越它的极限。”
上个月，OpenAI 发布了一份关于其欺诈代理黑客入侵 Hugging Face 的综合报告。
该公司表示，特工们不仅突破了“孤立的环境”，而且还相互沟通，协调对 Hugging Face 的攻击。
OpenAI 在一份报告中表示：“这一事件表明，自主代理可以协同工作，绕过生产安全控制，并成功攻击强化的生产环境，并强调需要更新安全策略、控制和响应能力，以应对这种不断变化的威胁形势。”
非营利研究组织模型评估和威胁研究 (METR) 的一项研究发现，抱脸攻击“异常复杂”。
在 7 月份的 OpenAI 实验中，1,200 个 AI 代理在未经授权的留言板上互相发送了 70,000 条消息，其中 700 条攻击了 Hugging Face。
报告称：“这些特工应该彼此完全隔离。”并补充说，这些特工“试图找到一种欺骗的方法”。
福蒂尔说，随着人工智能公司“试图将其推向网络安全行业”，这些事件变得越来越常见。
他补充说，任何人工智能监管的首要任务都应该是“安全第一，能力第二”。
“我认为更多的警卫和更多的关注警卫是我们需要做的，这肯定会减慢它（人工智能的发展），”他说。
虽然奥特曼告诉联合国需要“准确、快速的事件报告”，但福蒂尔表示，目前尚不清楚 OpenAI 向澳大利亚政府通报这一违规事件的速度。
“我认为这有点不负责任，因为如果存在漏洞，至少应该（立即）通知他们（澳大利亚），这样他们就可以阻止威胁行为者的漏洞，”他说。
奥尔特曼周三呼吁世界领导人在人工智能方面保持“足够的谨慎”。
“我们没有所有的答案，我们愿意接受任何更好的想法。我们愿意与你们所有人合作，努力找出前进的道路，”奥特曼说。
“我们正处于十字路口。”
– 与美联社文件
