随着对人工智能技术进行更严格保护的呼声越来越高，特朗普总统和美国最大的人工智能公司的领导人签署了一系列自愿安全标准。
特朗普的两侧是 SpaceX 的埃隆·马斯克、Meta 的马克·扎克伯格、Anthropic 的达里奥·阿莫迪、Nvidia 的黄仁勋、OpenAI 的格雷格·布罗克曼、谷歌的桑达尔·皮查伊和许多其他技术专家。 “这几乎就像一部宪法，”特朗普先生说。
继一个 下午在白宫举行会议约翰逊表示，该组织已经签署了一项关于“超级智能”的协议——这是特朗普对人工智能的首选术语。他将其描述为“共同承诺”和“原则声明”，自愿承诺公司遵守“强有力的内部控制”。
当被问及该协议是否具有约束力时，特朗普表示：“我认为它具有道德约束力。”
“我认为我看到了大量的自我放纵，他们明白自己必须克制，”总统后来说。
根据特朗普向《社会真相》发布的一页协议副本，科技公司承诺提供“四层监督和审计”，以确保人工智能模型按预期运行，包括内部评估、外部公司的审计以及每家公司董事会的审查。他们还同意“定期召开会议，建立标准和最佳实践，以提高系统的安全性。”
协议指出：“随着时间的推移，将这些步骤编入法律或法规可能是有意义的。” “无论公司是否被要求这样做，我们相信实施这些控制和审计对于确保每个人的安全未来至关重要，我们每家公司都致力于这样做。”
特朗普表示，人工智能高管还讨论了成立一个 10 人委员会来“监督企业”。总统表示，他计划在未来三到四天内任命一位“人工智能国王”。
同样在周二，总统签署了一项行政命令，指示联邦政府使用“超级智能”一词而不是人工智能。
美联社照片/杰奎琳·马丁 
在这两家竞争对手科技巨头之间的罕见会面之前，研究人员、政治家和行业人士几个月来越来越担心强大的人工智能技术可能带来安全风险。
OpenAI 和 Anthropic 都有 报道 情况 他们的人工智能模型用于欺诈和未经授权访问其他公司的系统或用于恶意目的。两家公司的前研究员雅各布·考克森 (Jacob Coxon) 公开警告 本月早些时候，人工智能“可能会在本世纪末杀死我们所有人”。他认为人工智能系统可以获得对物理世界的普遍力量，并且能够在没有人类输入的情况下自我改进。
一些生产领导者，包括 人类领袖 OpenAI 呼吁放慢人工智能开发速度，以更好地管理风险。但其他人物，例如 Nvidia 的 Jensen Huang， 争论过 有些警告是过度的。
黄仁勋周二表示，“创新、技术和安全之间并不冲突”，他认为科技公司在提高人工智能能力的同时，正在开发更强大的人工智能安全技术。
特朗普先生并不支持严格的人工智能法规，而是支持自愿安全审查。他多次警告说，全国范围内人工智能发展放缓可能会摧毁该国经济，并使中国科技行业迎头赶上。
总统周二告诉记者，人工智能将给“我们的国家带来令人难以置信的增长”，如果坏人使用它，“我们可以抓住他们”。他还表示，科技公司有动力自我监督和互相监督，因为“他们的公司处于危险之中”。
除了安全问题之外，人们还越来越担心人工智能可能对世界产生的影响——从失业的可能性到支持先进人工智能模型的数据中心的快速发展。
尽管越来越多的州和地方政府正在限制数据中心的发展，但特朗普表示，接收该设施的社区“将在经济上受益匪浅”。
“数据中心绝对是一笔财富。但现在人们将直接受益，无论是获得奖金的教师，还是获得红利的社区居民，”他告诉哥伦比亚广播公司新闻的南希·科德斯。
但支持更严格人工智能监管的立法者可能对该行业制定的自愿标准持怀疑态度。周二会议结束后不久，弗吉尼亚州民主党参议员马克·沃纳 (Mark Warner) 在一份声明中呼吁国会通过先进人工智能模型的强制性测试、评估和事件报告规则。
华纳说：“构建最强大人工智能系统的公司警告我们，技术进步的速度快于我们保护自己的速度。” “总统的回应？更改名称并告诉开发该名称的公司进行自我监管。”
