防范“AI换脸”风险 ZOLOZ Deeper月超2万次攻防测试
4 月 16 日，深度伪造（Deepfake）综合防控产品ZOLOZ Deeper 在北京正式发布，以拦截用户刷脸过程中的“AI换脸”风险，目前已率先应用在身份安全领域。公开资料显示，ZOLOZ是蚂蚁数科的科技品牌，以生物识别技术见长，历经支付宝App等大规模场景验证。
图：ZOLOZ产品总监 陶冶
ZOLOZ Deeper 搭建了端云一体的全链路技术体系，以应对系统、服务器、应用等多环节的 Deepfake 安全威胁。前端通过精密的传感器校验与多维特征动态风控，对摄像头状态、设备及网络环境、输入图像等进行严格审查，确保软硬件环境安全无风险，采集到的生物特征数据真实无篡改；在用户操作过程中，运用深度学习模型对用户面部动态进行细致入微的分析，捕捉微表情、肌肉纹理、眼神流转等细微特征，精准判断其是否为真人实时互动。
此外，蚂蚁集团天玑实验室会通过GAN模型生成超 30 万测试样本，交给 ZOLOZ Deeper 进行判别训练，每个月还会对其进行超过20000次的攻防测评，模拟上百种伪造攻击情况。“Deepfake攻和防是一个相对且不断精进的过程，你在进步，Deepfake也在进步，我们要做的就是跑在它的前面。”ZOLOZ 产品总监陶冶这样说道。
记者在发布会现场了解到，ZOLOZ 联合蚂蚁安全响应中心（AntSRC）设立了超百万的奖金池，支持安全极客来挖掘 ZOLOZ Deeper 的漏洞，通过“蚂蚁集团安全响应中心”官网提交漏洞情报。陶冶表示：“互联网世界没有绝对的安全，希望联合外部的安全技术人才持续提升 ZOLOZ 的安全水位，守护用户的安全感。”
据介绍，ZOLOZ早在 2019 年就启动了 Deepfake 算法研发，彼时主要应对一些简单的人脸攻击，比如把图片、视频、面具等虚假内容呈现在摄像头前面，攻破人脸识别系统。ZOLOZ Deeper 是针对注入式、活化等复杂攻击手段迭代而来的产品，在服务印尼某头部银行后，产品上线一个月时间内实现了 Deepfake 风险“0 漏过”。
Deepfake是“deep learning”（深度学习）和“fake”（伪造）两个单词的结合，指的是基于深度学习算法，从大量的视频和图像数据中学习，伪造出逼真的面部动画和语音。Deepfake 不仅增加了公众识别视频真伪的难度，也进一步滋生了诈骗、色情等违法犯罪活动的风险和隐患。
近年来，全球Deepfake事件呈 10 倍速度激增，北美、亚太地区等地成为 Deepfake 攻击的重灾区，2023年315晚会同样曝光了多起“AI换脸”诈骗案件。中国信通院人工智能研究中心安全与元宇宙部主任石霖指出，随着深度学习算法不断优化和创新，Deepfake带来的安全风险和隐私侵犯问题愈加严峻，且生成的内容越来越难以区分真伪，业界和学术界需要多管齐下，不断提高“以AI对抗AI”的能力。
公开资料显示，ZOLOZ 在2020年亚太第一家获得iBeta国际生物安全认证组织最高等级Level2认证，于 2023 年通过中国信通院深度伪造视频检测服务能力检验，满足安全可靠、透明性、数据保护、明确责任、公平性等方面的可信能力要求。