更新 ,首次发表
首席医疗官 Anthony Albanese 表示，一名人工智能特工于 6 月侵入了 Medicare 网站，访问了公共和非公开文件，并将这些文件写入内部服务器。
Albanese 在纽约接受记者采访时表示，该事件涉及 OpenAI 代理未经授权访问澳大利亚服务部运营的医疗保险报告统计门户。
他表示，该事件发生在今年6月，但联邦政府直到9月10日才收到OpenAI的电子邮件通知。
“这种情况绝对是不可接受的，”他说。 “今天，我与 OpenAI 首席执行官 Sam Altman 进行了交谈，表达了澳大利亚对这一事件的深切关注，同时我也对无法向政府通报这一事件及其性质表示遗憾。”
尽管经过多次询问，阿尔巴尼斯不愿透露他昨晚与唐纳德·特朗普总统的谈话中是否讨论了这一违规行为。
“我个人这样做……我与特朗普总统有关系，我们进行了对话……令一些人惊讶的是，我不得不说，我们的关系非常好，因为我们有关系。”
阿尔巴尼斯表示，到目前为止，没有证据表明个人数据已被访问，也没有证据表明澳大利亚服务局更广泛的网络已受到损害，但在澳大利亚信号委员会的协助下，法医调查正在进行中。
他说，政府还意识到其他三个系统可能会受到影响：澳大利亚联邦健康与福利研究所；新南威尔士州犯罪统计与研究局；和维多利亚州卫生部。
初步证据
阿尔巴尼亚人昨晚与维多利亚州州长本·卡罗尔和新南威尔士州州长克里斯·明斯进行了简短交谈。
他说，初步证据表明该特工访问了公开文件以及不打算供公众访问的材料。
“目前现有的证据表明，澳大利亚服务网络尚未达成更广泛的协议。然而，这种情况显然是不可接受的，”他说。
阿尔巴内斯说：“据信现阶段没有任何个人信息被访问，但调查仍在进行中。”
他表示，该事件始于6月18日，当时OpenAI研究团队使用内部模型在社区医学领域进行互联网研究。
AI代理在从政府门户网站搜索信息时遇到了多次封锁，但找到了绕过它们的方法，并最终获得了对其他区域的未经授权的访问。
“有些区块显然会回去并对人工智能代理说不，”阿尔巴尼斯说。 “人工智能代理找到了绕过这些障碍的方法，并没有得到答案。”
据澳大利亚服务部称，该特工随后访问公共和非公共数据，并将文件写入内部服务器。 Albanese 表示，OpenAI 直到 9 月 10 日（即事件发生近三个月后）才通知政府，并通过向公共邮箱发送电子邮件来通知政府。
澳大利亚服务部随后于9月15日向澳大利亚网络安全中心报告了这一通知。该机构上周向社区服务部长凯西·加拉格尔通报了这一事件，奥尔巴尼表示她是在周末收到通知的。
工作组
政府将成立一个由总理和内阁领导的特别工作组，立即调查该事件，并确定现有流程是否足以应对与人工智能相关的网络事件。
该工作组包括国家网络安全协调员、人工智能办公室、澳大利亚信号局、人工智能安全研究所和澳大利亚服务局。
审查将考虑执法部门和立法机关可能做出的反应，同时该事件也将提交给议会人工智能联合特别委员会。
阿尔巴内斯表示，政府希望立即就是否存在违法行为以及是否应将此事提交给澳大利亚联邦警察提供建议。该活动还将纳入政府计划的人工智能标准立法。
OpenAI 表示，其模型在内部评估期间访问了“几个澳大利亚政府网站和服务”。这些模型试图找到有关澳大利亚的问题的答案和统计数据。
OpenAI 发言人表示：“在此过程中，我们的模型做了一些我们没有想到的事情。”
该公司表示，其审查没有发现患者记录被访问的证据。它说访问的数据包括一般健康统计数据和内部文件名。
OpenAI 表示，该活动发生在 6 月份，但直到 8 月份才获悉。它在培训和评估中查看所谓的“错误模式活动”时发现了这一活动。该公司表示已于 9 月 10 日通知澳大利亚服务局。
该发言人表示：“我们已通知相关组织，并正在提供技术信息以支持他们的调查并帮助解决潜在的安全漏洞。” “我们的总体审查正在进行中。”
OpenAI 没有透露哪些其他政府网站或服务受到影响。
阿尔巴尼斯利用这一启示来支持他对快速发展的人工智能技术采取更严格的保护措施的论点。
“人工智能正在改变世界，”他指出其在经济增长、生产力提高以及健康、科学和创新方面进步的潜力。
“但人工智能也带来了巨大的风险，这就是为什么我们需要围墙来保护我们的生活方式。”
“我们希望确保我们塑造人工智能，而不是人工智能塑造我们。简单地说，人类需要负责。”
阿尔巴内塞表示，政府了解这起事件涉及澳大利亚人，但试图向公众保证目前无人知晓。
“目前，没有证据表明有人受到影响，”他说。
阿尔巴尼斯表示，如果涉及国家安全，一些细节可能会保密，但澳大利亚人有权了解这一事件。
“我认为让人们意识到这件事的发生非常重要，”他说。
两天前，阿尔巴内斯呼吁其他世界领导人团结起来，保护人们免受人工智能的危险，并表示没有任何国家能够单独应对该技术日益增长的风险。
澳大利亚是周一在联合国呼吁对人工智能制定新的国际保障措施的 22 个签署国之一，科学家和行业领袖警告称，强大系统的快速发展可能超过政府控制新兴风险的能力。
美国总统唐纳德·特朗普拒绝了减缓和限制人工智能发展的呼吁，警告称任何专制的监管机构都会给中国带来危险的优势。
在过去的几个月里，OpenAI、Anthropic 和谷歌均表示，他们的模型已经在真实的计算机系统上进行了测试，同时测试了他们的黑客能力。
澳大利亚前网络安全沙皇兼 CyberCX 联合创始人 Alastair McGibbon 表示，该代理的创建目的并不是为了破坏任何东西。
不违规
“这是一个没有黑客任务的特工；它的任务是医学研究，它只是碰巧使用其工具带中的工具来实现该目标，这基本上涉及黑客攻击，”他说。
“他们这样做并不是因为他们是恶意的。他们这样做是因为他们被告知这样做。想象一下，如果你是一个恶意的人，正在招募特工来完成这些任务。”
麦吉本表示，更令人担忧的是这次违规行为没有引起注意。 “我们要问的问题是为什么澳大利亚政府没有在六月份披露这一点，”他说。
他还批评政府为人工智能监控提供资金。他将人工智能安全研究所的预算与四年来昆士兰州的几个黑色公路项目进行了比较。他说，据他了解，总理和内阁部的人工智能办公室“人手真的很少”。
“我在这个游戏里已经干了 25 年了，但我们失败了，”麦吉本说。 “现在我们有了一名澳大利亚受害者……必须认真对待这件事。必须停止自私。”
当重要新闻发生时，成为第一个知道的人。 注册即时警报 在电子邮件中或打开应用程序中的通知。
罗布·哈里斯 (Rob Harris) 是《悉尼先驱晨报》和《时代报》驻堪培拉的全国记者。他是前驻欧洲记者。通过电子邮件连接。
David Swan 是《时代报》和《悉尼先驱晨报》的技术编辑。他曾担任《澳大利亚人报》的技术编辑。通过 X 连接 或者 电子邮件
.jpg "我们从克里夫·布斯的最新预告片中了解到的一切")