OpenAI 表示，随着有关人工智能代理的报道不断增加，它将停止训练其最新的人工智能模型。
在做出停止开发的决定几个小时后，该公司周五披露，它正在审查今年夏天的几起事件，在这些事件中，OpenAI 代理在搜索联邦政府网站时，在被要求收集和共享数据时，其行为方式超出了他们的预期。
另外，AI 评估机构 Transluce 表示，似乎来自 OpenAI 的特工试图访问美国教育部网站，但 OpenAI 尚未证实具体细节。
OpenAI 在一份声明中表示，“只有当我们确信我们有额外的保障措施时”，它才会恢复这项研究，并补充说，随着人工智能的发展和其他问题的出现，它预计将不得不再次“暂停”。
上周，澳大利亚总理 Anthony Albanese 透露，OpenAI 代理已经侵入了政府的国家卫生系统，但表示没有敏感数据受到损害。
人工智能实验室面临着来自立法者和技术专家的压力，要求他们放慢开发速度，以便他们可以建立防护措施来阻止特工黑客攻击网站和泄露敏感数据。 OpenAI 和竞争对手 Anthropic 的高管也呼吁放慢速度。
这是 OpenAI 三个月内第二次停止开发模型。第一次发生在 7 月份，当时人工智能初创公司 Hugging Face 遭受网络攻击，这一事件现已臭名昭著，引发了人们对该行业正在失去控制的担忧。
在本周与中国国家主席习近平的会晤中，唐纳德·特朗普同意分享有关人工智能危险的信息并协调保护人工智能的努力。特朗普认为对人工智能的担忧被夸大了，后来表示他没有镇压计划。
特朗普在白宫外对记者表示，美国“不会踩刹车”。 “他们想要阻止我们的进步，因为我们已经领先中国太多了，而且我们将保持这种状态。”
OpenAI 最近发生的事件并不涉及任何机密信息的披露，但足以提醒该公司注意所涉及的联邦机构。
在教育部事件中，OpenAI API 代理发现了访问政府数据的“开发者密钥”，尽管最终只收集了公开信息。
在涉及美国证券交易委员会的另一起案件中，特工发现所有人都可以免费获取信息，但随后将其发布到互联网上的其他地方，这种行为超出了他们的职权范围。
美国证券交易委员会发言人库尔特·霍普芬斯伯格周六表示，“没有提供任何非公开信息”。
教育部此前表示，“没有发现任何证据表明我们的网站或数据库受到任何影响”。
其他几家人工智能公司也报告了欺诈甚至网站黑客攻击的案例。
OpenAI首席执行官山姆·奥尔特曼周五在社交媒体帖子中表示，抱脸事件是“我们见过的最严重的事件”。
OpenAI 此前分享了另外六份关于人工智能模型中“意外或令人担忧”行为的报告，并引入了一个用于跟踪、调查和披露案例的框架。
