最近几周，现任和前任研究人员声称这项技术将人类置于危险之中——有人估计“杀死所有人类”的可能性超过 10%——已经敲响了警钟。
大型人工智能公司正在争先恐后地开发更好的系统，包括创造他们所谓的超级智能——比人类更聪明的理论技术。
人工智能巨头 Anthropic、OpenAI 和 Google（分别是 Claude、ChatGPT 和 Gemini 背后的科技公司）也披露了其聊天机器人被用于“恶意活动”的安全漏洞或事件。
Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 最近呼吁放慢人工智能的发展，提议全行业放慢速度并进行监管，并对人工智能模型的发展进行独立监控。
OpenAI 的 Sam Altman 和 xAI 的 Elon Musk 都表示同意他的建议。
Anthropic 的创始人 Jack Clarke 告诉 BBC，可以由第三方验证的“终止开关”对该行业至关重要。
这些警告促使美国立法者针对这项技术提出立法，但奥特曼本周表示，华盛顿正在努力解决这项新技术以及如何对其进行监管。他表示，人们需要更加信任人工智能公司以确保其安全。
“世界需要相信我们正在做正确的事情，因为这是正确的事情，而且我们感受到了它的重要性，”奥特曼在旧金山会议上说。
在英国，议员和同行已经认识到人工智能带来的人权风险，并认为现有法律不足以应对该技术的快速发展。
人权联合委员会（JCHR）发布了一份报告，呼吁制定新的人工智能立法，以“解决这些威胁的规模和严重性”。
