2024年2月，陕西警方成功告破一起利用AI换脸技术实施的诈骗案件，犯罪分子仅凭十几分钟录音和几张照片，便伪造出逼真的“领导”视频，轻易突破传统安全防线，涉案金额达186万元。

数据显示，2024年全球发生的AI风险事件，超过30%与利用AI深度伪造相关。黑龙江大学计算机与大数据学院院长王磊说：“掌握十几分钟音频加上几张照片就能实现‘换脸’并模仿这个声音，现实中，一个普通高中生就可以做到。”

现今，人工智能在诸多领域展现出的潜力巨大的“类人”能力，在令行业振奋的同时，也引发更深层次的担忧：一旦发生法律纠纷，责任如何认定？当人工智能技术以指数级速度迭代，监管如何跟上它的步伐？

2024年8月，欧盟《人工智能法案》正式生效，将AI应用按风险等级分类监管；美国则发布《人工智能权利蓝图》，着手以立法强化技术伦理框架。当我们为今年以来中国人工智能的巨大进步叫好时，也应当想一想，该如何给人工智能这匹狂奔的马驹，拴上法律的缰绳？

直面四大难点

纵观过去三个世纪人类科技的进步史，技术的革命时刻也是法治体系的挑战时刻。在人工智能风起云涌的当下，一系列新的挑战确实需要我们在着手人工智能立法之前仔细思量。

在北京市石景山区首钢园，观众拍摄四足机器人表演 魏梦佳 摄

——技术迭代的“时间差”。法律追求稳定性，但AI技术日新月异。2023年ChatGPT引发的版权争议，暴露出现有法律难以预见技术演进的窘境。对此，南通大学法学院副院长王晓燕表示，尽管我国近年来逐步出台了有关算法备案、大模型备案和伦理审查登记等领域的指导意见，但技术发展之快已超出现有法律制度的规范。在这样的技术背景下，如何做到前瞻性立法，以及立法如何随技术升级进行动态调整，需要提出新的思路。

——跨国治理的“复杂性”。人工智能安全没有国界，防范风险需要共筑防线。AI技术具有天然的跨国属性，一个在中国训练的AI，被境外人员用于制造虚假信息，该适用哪国法律？一家外企研发的自动驾驶汽车若在中国出现交通事故，责任如何追溯？“数字经济时代，数据作为关键生产要素，其顺畅的跨境流动对于促进跨国企业全球资源有效整合具有重要意义。”乐高玩具（上海）有限公司政府事务负责人杨晴红表示。对外经济贸易大学数字经济与法律创新研究中心主任许可说，如何在现有数据安全法的基础上细化跨境数据规则，同时推动双边或多边司法协作，避免管辖权真空，成为立法中需要考量的问题。

——伦理与法律的“衔接难”。2023年9月，科技部等十部门联合发布《科技伦理审查办法（试行）》，规定具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发需要开展伦理审查复核。随着AI伦理审查成为行业习惯，相关伦理原则如何转化为法律条文成为重要课题。例如，“公平”“透明”等抽象伦理要求，需转化为具体的算法透明度标准、数据采集规范，而这无疑对立法提出新的要求。同时，AI立法涉及技术企业、用户、政府等多方诉求，如何确保立法既尊重技术规律，又符合公共利益，是对立法者的考验。

——安全与发展的“平衡木”。过度监管可能扼杀创新活力。清华大学教授申卫星强调，人工智能立法尤其要坚持安全和发展并重，二者之间如何协调是立法最大的难题之一。北京理工大学智能科技法律研究中心研究员张心宇也表示，加强人工智能法治保障必须以促进社会整体利益为导向，避免法律规范不当挤压人工智能发展的空间。就现实而言，需要在给予实验性AI应用适当容错空间的同时，完善相关风险分担机制。这样既可以降低企业合规成本，又能有效促进AI健康发展。

如何做好准备？

人工智能治理，不是简单的“管住”，而是让技术在制度的“土壤”里更为茁壮地生长。对于接下来人工智能立法的路线图，多位专家也表达了自己的思考。

一科技公司工作人员讲解人工智能技术应用于教学 邓华 摄

有专家表示，当前关于推动人工智能健康发展的法律条款，散见于网络安全法、数据安全法等法规中。要想彻底解决“九龙治水”问题，推动人工智能法治化管理“握指成拳”，作为顶层设计，可首先考虑制定人工智能促进法，明确AI发展的基本原则、监管框架与促进措施，统筹发展与安全。以这部法律为“地基”，人工智能治理的大厦才好建造。

中国科学院院士房建成等专家认为，AI技术的不断革新对立法者提出了极高要求，但既懂技术又懂法律的专业人才仍十分稀缺。要倡导在法学学科基础上拓宽人工智能等专业教学内容，重视人工智能与法学教育的交叉融合，有了具备法学素养并熟悉人工智能技术原理的复合型人才，将人工智能发展纳入法治轨道才不是一句空话。

在具体监管实践中，有专家提到了“沙盒监管”的可行性。它是一种新型的监管模式，旨在通过在特定范围内对经营主体实施包容审慎的监管措施，破解传统监管中“一管就死、一放就乱”的困局。目前，我国已在多地自贸区数据跨境流动监管中探索实行分级分类的“沙盒监管”，接下来，可以在雄安新区、深圳等改革前沿地区开展试点，允许地方针对自动驾驶、智慧医疗等人工智能前沿领域探索“沙盒监管”，为人工智能日常治理积累经验。

（半月谈）