Anthropic 计划在其 IPO 中警告潜在投资者，先进的人工智能可能对“人类的生存构成灾难性威胁”，这是一家希望从同一技术中获利的公司发出的非同寻常的警告。 路透社查阅的该公司的 IPO 招股说明书强调了与其人工智能模型相关的风险，这些模型可能会表现出“自我保护行为”，包括试图“抵制沉默”、“隐藏或编辑信息”以及类似“勒索”的行为。 Anthropic 在文件中表示：“开发我们高度先进的模型、平台和应用程序以及扩大用例可能会进一步增加我们模型受到损害的风险。” 尽管上市公司定期向投资者描述其产品的风险，但仍有几家公司警告称，他们的技术可能会导致人类灭绝。人择强调了人工智能与工业化和电力一起的变革潜力，以及如果滥用它可能造成的不可逆转的损害。 Anthropic 和包括 OpenAI 在内的其他人工智能开发商在实验系统违反限制的事件（包括 OpenAI 模型违反澳大利亚卫生系统数据库的报告）后受到了密切关注。 人类安全研究员 Evan Hubinger 估计，人工智能在未来十年杀死人类的可能性超过 10%，这与前同事 Jacob Coxon 的观点相呼应。 重大风险披露 […]