张嘴、摇头，摄像头在捕捉到观众的动作后，屏幕上原本静态的人像瞬间“动”了起来，动作幅度和真人完全一致，还能眨眼和露齿微笑，仿真度很高；甚至观众拍完一张照片后，几分钟内就能生成一段视频，将观众的脸自动替换掉某影视剧中知名演员的脸。11月8日，2022“互联网之光”博览会正式开幕，海淀企业北京瑞莱智慧科技有限公司演示的“换脸术”吸引了众多观众驻足围观。

据瑞莱智慧技术专家介绍，这背后采用的是深度合成技术，利用深度学习、虚拟现实等生成合成类算法，制作图像、音频、视频等信息。但这项技术却存在着安全隐患。“深度合成技术大大降低了信息造假的难度，只需要拿到一张照片，就能生成非常逼真的伪造视频，用于捏造虚假信息、影视资料造假、恶搞特定人物等。随着技术开源、标准化工具的推出，制作一段虚假内容的门槛越来越低，因此近年网络社交平台上虚假视频的数量呈高速增长。而且随着技术的不断成熟，合成视频在清晰度、流畅度、逼真度等各方面都有大幅提升，真假难辨的背后更是危害性的不断增强。”瑞莱智慧技术专家表示。

同时，这项技术还被黑产分子用于新型诈骗。工作人员现场给观众们演示了黑客如何利用“AI换脸”破解线上银行的人脸核验系统，通过表情操纵让照片做出“张嘴、眨眼、摇头”等指令性动作，再让智能设备不启动摄像头，直接底层注入合成的动态人脸视频，绕过活体检测，顺利破解人脸识别。据了解，这一方式被不法分子广泛用于盗刷银行卡、非法办理手机卡等诈骗场景。除了欺骗机器外，还可以通过伪造电话语音、视频通话画面等欺骗真人，引诱转账、实施敲诈等。

为了避免大规模的技术滥用，瑞莱智慧推出的深度伪造内容检测平台DeepReal，通过辨识伪造内容和真实内容的表征差异性、挖掘不同生成途径的深度伪造内容一致性特征，能够快速、精准地对图像、视频、音频内容进行真伪鉴别，有效打击财产诈骗、虚假宣传、证据造假等违法行为。据了解，DeepReal平台基于千万级训练数据，能够实现毫秒级检测速率，每帧画面检测时间仅需30毫秒，同时在主流数据集检测准确率达99%以上，在实际产业中检测准确率也达到业界顶尖水平。

据悉，瑞莱智慧在深度伪造视频检测赛中连续两年获得最高奖项，在世界顶级黑客竞赛极棒大赛中也连续多届荣获虚假人脸识别赛题的冠军。目前，瑞莱智慧已与多家单位机构开展合作，实现在网络虚假内容甄别、人脸资料审核、影像物证真实性检验等场景的落地应用，实现对真伪内容的高效鉴别。

深度合成技术的加速应用已成为现实趋势。瑞莱智慧在积极探索创新应用的同时，聚焦技术滥用风险，利用技术创新、技术对抗等方式，持续提升和迭代深度合成检测能力，致力于推动深度合成技术的健康发展。未来，瑞莱智慧还将进一步扩展深度合成溯源、深度合成鉴定等方面的能力，全面提升技术应对能力。 （记者 原梦雨）