人工智能正在深入人类世界的各个层面，也让“眼见不再为实”。目前，多个国家正在思考或已立法，规范人工智能在政治活动中的使用。

德国法兰克福书展上关于人工智能的书籍展台（新华社资料图）

据环球时报消息，新西兰广播公司5月1日发布用人工智能玩政治：新西兰为何需要规范竞选中的“虚假图像”。文章指出，在人工智能（AI）生成图像和视频的时代，眼见不再为实，政治家和专家正在警告选民，不要轻易相信他们所看到的内容是真实的。

利用AI生成用于误导或传播虚假信息的图像或视频的深度伪造技术，已经引起人们的关注。美国总统竞选初期，在一段模仿时任美国总统拜登的深度伪造语音片段中，他告诉选民不要在新罕布什尔州初选中投票。在澳大利亚的竞选活动中，工党在其社交媒体账号上发布了一段AI生成的反对党领袖彼得·达顿跳舞的视频。

一些澳大利亚选民认为，政治广告中使用的某些AI技术“令人尴尬”，比如一名白人女性政治家在竞选活动中使用自动调音的说唱。还有人提到，在政治领域，深度伪造的内容也有所增加，大多数人都无法识别AI生成的内容。

早在去年2月，布鲁金斯学会（美国著名智库）技术创新中心高级研究员达雷尔·韦斯特就曾发表提醒，他称，“2024年的美国大选将会出现人工智能（AI）生成的虚假信息海啸。我们已看到这种情况，且情况将会变得更糟。”AI参与政治选举，将对包括美国、俄罗斯、印度等70多个国家和地区产生影响，覆盖超过全球半数人口。

2025年人工智能行动峰会（新华社资料图）

目前，包括澳大利亚在内的多个国家正在考虑或已通过立法，对在政治传播中的AI使用进行管控。韩国则开始重拳出击，禁止在选举前90天内使用深度伪造技术进行政治广告宣传，并成立了打击AI深度伪造专案组，违反相关法规者将被处以最高7年有期徒刑及最高5000万韩元的重罚。

2024年，美国达沃斯世界经济论坛发表《2024年全球风险报告》，将AI生成的错误和虚假信息排在气候变化、战争和经济疲软之前，列为全球十大风险之首。该报告是对1400多名全球专家、政策制定者和行业领导者进行调查后撰写的。世界经济论坛执行董事扎希迪表示：“这些错误和虚假信息加速传播，将加剧以两极分化和不安全为特征的全球秩序和经济的不确定性，各国领导人必须齐心协力应对这些挑战。”

北京市社会科学院副研究员王鹏也曾指出，开发出能有效识别和过滤AI深度造假内容的算法并不容易，需要大量的研发和持续的技术更新。即使有了有效的技术，如何确保其在全球范围内得到广泛应用和有效执行也是一个挑战。这需要各国政府、科技公司、法律机构和其他利益相关方的紧密合作。国际合作在防范AI对人类安全产生负面影响方面至关重要。

AI发展虽然带来挑战，但未来对人类的帮助也很大。人类刚进入AI时代，虽然AI引发不少安全担忧，但也无须患上“AI恐惧症”，毕竟人类发明AI的本质是为了帮助自己。

极目新闻综合环球时报、中国青年网

（来源：极目新闻）