来源：@究竟视频微博

#Deepfake今年攻击量比去年增加10倍#【#AI能识别肉眼真假难辨的图片#】9月7日，2024 Inclusion·外滩大会正式闭幕。官方数据显示，本届大会共吸引了5.2万人现场参会，无论是参会规模还是国际嘉宾的数量，均创下了历史新高。在这一年的外滩大会上，如何让“技术向善”的讨论和研发更加被业界重视。

在外滩大会AI创新赛·全球Deepfake攻防挑战赛的表演赛上，一个有趣的现象是，人类肉眼能够看出“一眼假”的伪造图片，AI可能识别不出；一些肉眼真假难辨的图片，AI反而能识别。新加坡科技研究局周天異教授分析，人类在判断图像是否伪造会依赖直觉和逻辑，一些人类一眼便知的问题AI无法联系相关背景、情形无法识别，而一些难以识别的图片，AI一丝不苟、勤勤恳恳地完成人类指令的工作模式反而能找出问题。他表示，相比“一眼假”的图片，恰恰是这些难以识别的图片往往给人类带来更大损失，因此，用AI应对Deepfake有着重要意义。

“从我们现在看到的数据来看，我们叫Deepfake的攻击也好，AIGC的生成伪造，今年的攻击量比去年大概增加了10倍，去年攻击的浓度大概是1%，今年就是10%。整个风险其实是呈指数级上升的情况，这不仅仅是在中国，在韩国，在菲律宾、印尼等国家都有类似的情况发生。”外滩大会AI创新赛·全球Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟斌表示，10%的浓度意味着业界发现线上的流量有10%是Deepfake的流量，随着AIGC的发展，生成的成本会越来越低，效率越来越高，明年可能不是20%，可能是50%，这是一个必须重视的威胁。

“让人工智能帮助人弹钢琴，而不是作恶。”是本届外滩大会反复强调的价值观。上海市数据科学重点实验室主任肖仰华表示，AI的大规模滥用是可能损害人之为人的本性的。要有所为有所不为，但凡伤害人之为人之本性的AI应用，我们要谨慎，要加以限制。为此，“我们要重视技术治理，并将治理提前考虑，做到未雨绸缪。”#直击2024外滩大会#