生成式人工智能（GAI）时代，颠覆性的力量正在挑战人类社会固有的认知边界，连“眼见为实”这一传统信条也面临空前挑战。今年春节期间，OpenAI推出的文生视频模型Sora横空出世，被业界誉为人工通用智能（AGI）发展的重要里程碑，预示着视频生成方式的革命性变革。然而，Sora在科技界引发巨大振奋的同时，也引发了深度忧虑：这类技术可能会导致深度伪造视频数量激增，从而模糊真实与虚假之间的界限，OpenAI亦承认无法全面预见Sora的正面应用和潜在滥用。
    Sora出现前，AI深度伪造技术已在国内外引发广泛关注与担忧。今年1月底，知名艺人泰勒·斯威夫特遭遇大量基于AI技术伪造的不雅照片在网络疯传，震动美国白宫，并引发对人工智能安全问题的广泛讨论。随后不久，香港发生了一起诈骗集团利用AI深度伪造技术向跨国公司实施诈骗并成功骗取2亿港元的案件，堪称香港迄今为止最大规模的“换脸”诈骗案例。这些层出不穷的实例揭示了人工智能带来的新型焦虑正逐渐成为现实。
    深度伪造，源自英文“Deepfake”，现又称深度合成（Deep Synthesis），自2017年在美国诞生以来，迅速蔓延至色情、政治、广告、娱乐等多个领域。上海合合信息科技股份有限公司图像算法研发总监郭丰俊在接受《每日经济新闻》采访时表示，国内深度伪造技术的应用呈现双面性：一方面，在个人娱乐、教育、影视制作、医疗及艺术等方面展现出积极价值；另一方面，则被用于诈骗、色情等非法活动，严重危害社会秩序和个人权益。
    随着大模型技术的发展，深度伪造的门槛不断降低，普通用户也能轻易制作出高仿真的虚假。瑞莱智慧Real AI联合创始人兼算法科学家萧子豪指出，预计到2024年，利用深度伪造进行诈骗的案件将呈上升趋势，这不仅因为相关软件工具的普及使得制作过程更为便捷，还由于AI技术的进步令伪造更难识别。
    面对深度伪造可能带来的社会信任瓦解、媒体公信力受损、公共安全威胁以及个人名誉、财产损失等多重风险，国际社会对AI监管的关注度不断提升。相较于立法进程相对滞后的美国，中国已先行一步，在《网络音视频信息服务管理规定》《互联网信息服务深度合成管理规定》等相关法规中明确规定了深度伪造信息的标识要求及服务提供者的审核责任。
    面对深度伪造的挑战，用AI技术对抗AI造假成为可行之道。众多企业如中国电信、瑞莱智慧、中科睿鉴及网易、合合信息等，纷纷投入资源研发AI篡改检测技术，且在金融、保险乃至公共安全、媒体安全等领域取得广泛应用。其中，瑞莱智慧从2018年起便专注于深度伪造的检测与防御研究，通过持续迭代算法和开发深度伪造攻防靶场系统，以自动化对抗的方式提升防御能力。
    未来，反深伪检测技术需要融合多模态取证分析等多种能力，精准识别伪造，构建可信体系，以应对新型伪造方法的不断演变和网络传播环境的复杂变化。这场“猫鼠游戏”式的深度合成与检测间的较量，将成为推动相关技术和法规共同进化的重要驱动力。