全球首个AI双边协议！英美宣布建立AI安全合作伙伴关系
芯东西（公众号：aichip001）
编译 | 王傲翔
编辑 | 程茜
芯东西4月3日消息，据路透社昨日报道，美国和英国于4月1日签署了一份谅解备忘录，正式宣布建立新的合作伙伴关系，在AI安全和测试方面开展合作，共同致力于AI安全科学的研究与发展。
随着AI技术的加速迭代及其在社会中的普遍使用，AI暴露出来的潜在安全和伦理问题也成为社会热议话题，民众对即将到来的下一代AI版本的担忧与日俱增。英美两国计划合作开发最先进AI模型测试技术，以兑现去年11月AI安全峰会上做出的应对AI风险的承诺。此外，双方还打算加强两国AI研究所的人员交流与协作，运用专业知识应对AI风险。
一、全球首个AI双边协议，赶在下一代模型之前合作
根据4月1日建立的正式合作伙伴关系，英美两国计划在一个可公开访问的大模型上进行至少一次联合测试演练，并考虑探索两机构之间的人员交流。据报道，两国正与其他国家发展类似的伙伴关系，以促进AI安全。
美国商务部部长吉娜·雷蒙多（Gina Raimondo）和英国技术大臣米歇尔·唐兰（Michelle Donelan）周一在接受路透社联合采访时表示，各国迫切需要采取联合行动来应对AI风险。
在接受采访时，雷蒙多说：“我们都知道AI是我们这一代人的决定性技术。两国的此次合作将加速美英两家研究所在各个领域的工作，以应对国家安全风险，并回应社会的广泛关切。”此外，她称将在周四于比利时举行的美欧贸易和技术委员会（U.S.-EU Trade and Technology Council）上提出AI相关问题，并透露美国政府计划很快宣布AI研究所的新增人员。
“这是世界上的首个此类协议。”唐兰称，“AI已经是我们社会中一股非凡且有益的力量，在应对世界上一些最大的挑战方面有着巨大的潜力，但前提是我们必须能够控制AI潜在的风险。”
在采访中，唐兰强调时间至关重要，因为新的AI大模型即将发布，其能力将大大增强。她认为此次合作的重点是美英两国分工、掌握并将其真正专业化的AI领域。
此外，两国计划分享与AI模型和系统相关的能力和风险，以及AI安全和安保技术研究方面的关键信息。
雷蒙多最后提到，她尤其担心AI应用于生物恐怖主义或模拟核战争的威胁。她认为这些事情的后果可能是灾难性的，因此必须对这种功能的模型采取零容忍的态度。
二、建立AI安全研究所，英美兑现《布莱切利宣言》承诺
去年11月1日，由英国倡议发起的首届“全球AI安全峰会”在伦敦北部布莱切利园（Bletchley Park）举行。会议首日，包括中国、美国、英国在内的28个国家及欧盟共同签署了《布莱切利宣言》，承诺加快识别AI产生的风险，建立对风险的科学认知，并制定跨国风险缓解政策。
会议当日，美国政府指示美国商务部成立美国AI安全研究所。今年2月8日，美国商务部部长吉娜·雷蒙多（Gina Raimondo）宣布了美国人工智能安全研究所（AISI）执行领导团队的主要成员。AISI专注于评估前沿AI模型带来的风险，并与200家公司和经济实体建立了合作。
英国首相里希·苏纳克（Rishi Sunak）也于去年11月2日宣布成立全球首个AI安全研究所，以研究、评估和测试新型AI，并于今年2月宣布将斥资超过1亿英镑（约合9.09亿人民币）启动九个新的研究中心，并对监管机构进行AI技术培训。
结语：加强AI治理，各国应合作共赢
生成式AI可以根据开放式的提示创建文本、照片和视频，引发了人们对AI的普遍关注，同时也使许多人担心它可能会让一些工作岗位被淘汰，并产生用户隐私泄露、数据篡改等安全风险。此外，大模型的训练数据如果存在误导，可能会出现歧视性问题。
英美此次在AI领域的正式合作，使两国能够共享AI治理技术，并在未来能够相互借调研究人员交流AI专业知识，给全球AI治理提供创新思考。另外，在技术之外，各国政府正在加强合作，建立监管机构以及加强AI技术普及与宣传，共同应对AI安全风险，在保障AI技术的安全与合规基础上，促进AI技术的发展和普遍应用。
来源：路透社