各国在具有里程碑意义的《布莱切利宣言》中同意安全、负责任地发展前沿人工智能

领先的人工智能国家在布莱切利公园达成了一项世界首例协议，建立了对前沿人工智能带来的机遇和风险的共同理解。

从：: 首相办公室，唐宁街 10 号，科学、创新和技术部，外交、联邦和发展办公室，Rishi Sunak 议员阁下，Michelle Donelan 议员阁下，James Cleverly 议员阁下
已发表: 2023 年 11 月 1 日

由英国召集的包括美国、欧盟和中国在内的 28 个国家首次就前沿人工智能领域的机遇、风险和采取国际行动的必要性达成一致——我们在这些系统中面临着最紧迫和最危险的风险
为了推动峰会关于了解风险和建立进一步全球合作的关键目标，重要会谈正在布莱奇利公园举行，技术部长将为为期两天的峰会开幕
就持续国际合作的必要性达成共识，下一届峰会主办方已确定

今天（2023 年 11 月 1 日星期三），由英国（包括美国、中国和欧盟）在内的领先人工智能国家首次在布莱切利公园召开会议，在布莱切利公园达成了一项世界首个协议，建立了对机遇的共同理解前沿人工智能带来的风险以及政府共同努力应对最重大挑战的必要性。

《关于人工智能安全的布莱奇利宣言》表明，包括非洲、中东、亚洲和欧盟在内的全球 28 个国家一致认为，迫切需要通过新的全球联合努力来了解和集体管理潜在风险，以确保人工智能的安全。以安全、负责任的方式开发和部署，以造福全球社会。

签署该宣言的国家包括巴西、法国、印度、爱尔兰、日本、肯尼亚、沙特阿拉伯王国、尼日利亚和阿拉伯联合酋长国。

该宣言实现了峰会的关键目标，即就前沿人工智能安全和研究的国际合作的风险、机遇和前进进程建立共同协议和责任，特别是通过更广泛的科学合作。今天，与领先的前沿人工智能公司以及来自学术界和民间社会的专家的会谈将进一步讨论了解前沿人工智能风险和提高前沿人工智能安全。

各国一致认为，潜在的故意滥用或意外的前沿人工智能控制问题可能会带来重大风险，特别是网络安全、生物技术和虚假信息风险引起的担忧。该宣言一致认为，“这些人工智能模型最重要的功能可能会造成有意或无意的严重甚至灾难性伤害。” 各国还注意到前沿人工智能之外的风险，包括偏见和隐私。

认识到需要加深对尚未完全了解的风险和能力的理解，与会者还同意共同努力支持前沿人工智能安全的科学研究网络。此举建立在英国首相上周宣布英国建立世界上第一个人工智能安全研究所的基础上，并补充了包括七国集团、经合组织、欧洲委员会、联合国和全球人工智能伙伴关系在内的现有国际努力。这将确保最好的科学研究可以用于创建一个证据基础来管理风险，同时释放该技术的好处，包括通过英国人工智能安全研究所来研究人工智能带来的一系列风险。

该宣言详细指出，这些风险“最好通过国际合作来解决”。作为就前沿人工智能安全国际合作达成共识的一部分，韩国同意在未来 6 个月内共同主办一次小型人工智能虚拟峰会。法国将于一年后主办下一次面对面峰会。有关这些事件的更多细节将在适当的时候得到确认。

这确保了峰会的持久遗产和持续的国际行动来应对人工智能风险，包括为这些国家的国家和国际基于风险的政策提供信息。

该宣言以英国上周宣布的人工智能安全新兴流程为基础，还承认那些开发这些异常强大且具有潜在危险的前沿人工智能能力的人，对确保这些系统的安全负有特殊责任，包括实施系统来测试以及其他适当的措施。

总理里希·苏纳克说：

这是一项具有里程碑意义的成就，世界上最强大的人工智能强国都认识到了解人工智能风险的紧迫性——帮助确保我们子孙的长远未来。

在英国的领导下，超过 25 个国家在人工智能安全峰会上表示，共同承担解决人工智能风险的责任，并在前沿人工智能安全和研究方面推进重要的国际合作。

通过启动这次对话，英国再次引领世界走在这一新技术前沿的最前沿，这将使我们共同努力，确保人工智能的安全，并为子孙后代实现其所有好处。

技术部长米歇尔·多尼兰 (Michelle Donelan) 表示： 

今天由来自世界各地的与会者签署的协议迈出了重要的第一步，我们将在布莱切利公园开始为期两天的极其重要的讨论。

我们一直说，没有一个国家能够单独应对人工智能带来的挑战和风险，今天具有里程碑意义的宣言标志着全球新努力的开始，通过确保技术的安全发展来建立公众信任。

布莱奇利公园标志着未来漫长道路的开始，峰会将启动一个持久的进程，以确保每个国家和每个公民都能实现人工智能的无限好处。

外交大臣詹姆斯·克莱弗利 (James Cleverly) 表示：

人工智能无国界，其对世界的影响只会加深。

英国很自豪能够在布莱奇利公园启动全球讨论，讨论如何确保人工智能的变革力量被用作造福于我们所有人的力量。

法国总统府发言人表示：

法国当局欢迎人工智能安全峰会发起的国际合作工作周期，以分析、理解和应对某些前沿人工智能模型可能造成的风险。法国准备参与这一长期集体努力，并将很高兴主办下一次面对面峰会。

韩国政府发言人表示：

李部长很高兴韩国将成为小型虚拟峰会的共同主办国。韩国在人工智能等技术方面处于世界领先地位，并认识到多边合作对于确保人工智能技术以安全方式设计、使用和管理的重要性。

为了纪念峰会开幕，国王陛下今天上午在人工智能安全峰会上通过视频发表了虚拟讲话。国王陛下指出人工智能是“人类历史上最伟大的技术飞跃”之一，并称赞该技术具有巨大的潜力，可以通过更好地治疗癌症和心脏病等疾病来改变世界各地公民的生活。国王还谈到“确保这一快速发展的技术保持安全的明确必要性”以及“国际协调与合作”的必要性。国王在讲话结束时感谢与会者在接下来的两天中发挥的重要作用，为就人工智能安全达成“持久共识”奠定了基础，巩固了人工智能作为正义力量的地位。