在成为总理之前,伯纳姆对于如何监管人工智能几乎没有说什么。
伯纳姆政府于 7 月上台后强调需要开展国际合作来应对风险并利用该技术的潜在优势,并警告称需要进一步的监管和立法。
伯纳姆在演讲中将最先进的“前沿人工智能”描述为“我们这个时代最重要的挑战和机遇之一”。
他告诉世界领导人,人工智能将是“经济增长的关键”,但也将是“风险的储存库”。
总理补充道:“我们已经听到了所有我们必须注意的警告。我知道人们有多么担心。这就是为什么我们必须在这一刻挺身而出。”
伯纳姆表示,“英国作为诚实的中间人有着独特的地位”,与美国和欧盟关系密切。
伯纳姆还强调了英国“世界领先的人工智能安全研究所”,该研究所是在保守党首相里希·苏纳克(Rishi Sunak)的领导下成立的,负责测试关键的人工智能模型,以在发布之前提高其安全性。
他承诺,当全球最大经济体的领导人齐聚曼彻斯特时,“明年英国担任 G20 主席国期间,人工智能将成为核心”。
伯纳姆表示,英国将努力商定一套全球原则和标准,以确保透明度、人工智能模型的获取和安全发展。
他补充说,这将结合“其他欢迎举措”,例如挪威本周的提案。
该宣言得到了德国、加拿大和爱尔兰等 20 多个国家的支持,呼吁人工智能继续处于人类控制之下,并对边缘模型进行强制发布前测试。
然而,主导人工智能发展的美国和中国以及英国尚未签署该协议。
在之前的信息中,美国总统唐纳德·特朗普拒绝了“任何制定全球主义计划”来控制人工智能的尝试。
曾担任伯纳姆前首席秘书的前内阁部长达伦·琼斯(Darren Jones)敦促总理签署该宣言,并提出与美国签署一项协议来实施该宣言。
他认为,“应该有一个机场区域来就强制测试达成一致”,而不会损害公司和国家之间的竞争优势。
英国人工智能安全研究所对人工智能模型的测试现在是自愿的,人工智能公司 Anthropic 拒绝提交其最新模型进行测试。
唐宁街表示,官员们在最近与人工智能负责人的讨论中明确表示,政府期望“全面、全面地展示该模型的演变”。
总理承认,虽然开发商对透明度做出了重大承诺,但为了公共安全,没有什么是不可能的,包括立法。