美国总统唐纳德·特朗普和顶尖科技领导人签署了一项协议，承诺为人工智能提供更多保障，人们越来越担心前沿技术正在使人类面临灾难性风险。
周二，特朗普在白宫与人工智能领导人共进午餐后宣布了这项自愿协议，重申了他的政府对政府监管这一快速发展技术的怀疑态度。
推荐故事
3 项清单列表末尾
特朗普坐在科技高管旁边说：“人们认为需要进行严格的自我监管，我们会自动与司法部和联邦调查局一起监管一切。”
作为“边界责任联合承诺”的一部分，Anthropic、OpenAI、谷歌、Meta、xAI 和 Nvidia 的领导者承诺对监控人工智能模型实施“最强”控制，并任命内部团队“确保所有控制、监控和检测按预期工作，并解决所有问题”。
两家公司还承诺与独立的外部审计师合作，以确保保障措施按预期发挥作用，并定期跟进“建立标准和最佳实践，以提高我们系统的安全性”。
该协议没有具体说明谁将进行第三方评估，但表示在未来某个时候将这些措施编入法律或官方法规将是“合理的”。
协议指出：“无论公司是否被要求这样做，我们相信实施这些控制和审计对于确保每个人的安全未来至关重要，我们每家公司都致力于这样做。”
Anthropic 的 Dario Amodei、OpenAI 的 Greg Brockman、Google 的 Sundar Pichai、Meta 的 Mark Zuckerberg、xAI 的 Elon Musk 和 Nvidia 的 Jensen Huang 是六位签署者。
这项交易达成之际，国际社会和包括 Anthropic 的 Amodei 在内的主要行业人士都呼吁特朗普政府监管人工智能，他敦促开发者放慢脚步，“加速前沿发展”。
上周，二十个国家和欧盟呼吁进行全球协调，以确保人工智能处于人类控制之下，包括可能建立一个监督机构来制定和执行标准。
特朗普拒绝了跨国监管的呼吁，他上周在联合国大会上表示，他的政府将反对“任何为人工智能制定全球主义控制计划的尝试”。
特朗普还驳回了行业内部放慢增长的呼吁，尽管警告存在灾难性甚至生存风险，称需要保持对中国的领先地位。
在发生多起人工智能代理作弊和对政府组织和机构进行网络攻击的案例后，人们讨论了人工智能逃脱人类控制的风险。
周一，OpenAI 宣布，在内部测试发现安全风险后，不会发布其最新的人工智能模型。
ChatGPT 的创建者还公开道歉，以解决其人工智能代理未经授权访问澳大利亚政府网站（包括国家卫生服务数据库）的一系列事件。
特朗普周二的协议引起了不同的反应，批评者指出其具有约束力且细节有限。
曾担任特朗普人工智能沙皇的硅谷投资者戴维·萨克斯(David Sachs)称，这笔交易比“可能永远不会发生”的国际交易“好得多”。
萨克斯在 X 消息中表示：“特朗普总统将继续确保美国保持技术领先地位，并将美国人放在第一位。”
亚洲政策研究所中国智库高级研究员阿尔文·王格雷林(Alvin Wang Greylin)对行业领袖的承诺表示欢迎，但表示这远远没有达到所需的水平。
“对美国人来说最严重的威胁不是中国的超级情报。它是非国家手中的一个较小的模型，可用于生物、化学或网络伤害，”格雷林告诉半岛电视台。
“把它写在纸上，扎克伯格和黄在阿莫代旁边的房间里，比往年更好，‘我们无法监管，因为中国不会这样做，’”格雷林说。
“缺少的是独立性和任何越界的东西。公司制定了原则，聘请了审计员，承诺是自愿的。白宫曾表示不支持监管机构。”
澳大利亚悉尼新南威尔士大学人工智能研究所所长托比·沃尔什表示，人工智能公司已经证明自己“在治理方面无能且粗心”。
“还有哪些万亿级产业有功课？”沃尔什告诉半岛电视台。
沃尔什表示，“偷工减料是非常诱人的”，并补充说，高层管理人员应对他们造成的损害负责。
“我们必须继续向他们付费，以检测和修复这些网络攻击，”他说。
