2022年全国信息安全竞赛作品赛国家二等奖
王菲,朱圣宇,陈观荣,曹宏宇
近年来,深度伪造内容生成技术依托于深度学习, 正在以前所未有的速度发展,伪造视频的数量急剧上升,由此引发的安全问题正在严重干扰人们的生活,因此相应的深度伪造检测技术也亟需发展。同时,随着数据隐私保护的重要性逐步提高,如何保持数据隔离,满足用户隐私保护和数据安全的需求正在成为一项重要的议题和研究方向。在这样一个背景下,本作品应运而生。
针对以上背景,本团队以技术创新响应《互联网信息服务深度合成管理规定(征求意见稿)》号召,依靠自身技术力量,设计实现一个基于联邦学习的深度伪造视频检测平台,提供伪造人脸甄别服务。该平台内置实现了一种真伪视频鉴别分类网络,能够针对人脸深度伪造提取视觉伪影、图像残差,具有较高性能;通过此平台,用户还可以与其他机构或部门联合进行分布式训练,利用多方数据获取性能更加优良的模型,具有较高鲁棒性;用户既不需要共享自身数据,也不获取其他参与方数据,仅仅需要上传经过隐私保护处理的本地模型参数给可信的中心服务器来参与全局训练,而后中心服务器通过多轮次的安全聚合得到最终的全局模型,具有较高安全性。
本作品软件功能包含四部分:本地训练功能,联邦测试功能,检测结果显示功能,检测报告输出功能。
(1)本地训练功能
为提供不同客户对于不同特征训练的要求,本作品设置了本地训练功能板块,通过点击客户端一到四的对应路径选择对应的训练集,可以完成对本作品的本地训练。
(2)联邦测试功能
本作品的主功能是深度伪造检测功能。
测试流程:①点击选择路径选择要检测的视频,点击开始检测。②可以点击播放按钮选择播放原视频。
(3)检测结果显示功能
测试完成后,会在当前界面显示如下信息:①进度条拉满后是为检测完毕,检测途中右侧框图便随着绿边框或者红边框,分别对应该帧数的真与伪。②三盏灯,绿灯亮起即为真,红灯亮起即为假,黄灯亮起表示检测结果不确定。③最右端显示视频的格式信息和运行时间。
(4)检测报告输出功能
联邦测试完成后,本作品还附加了输出PDF格式的检测报告的功能。
文档第1页显示视频属性和检测结果(真、假),从文档的第2页开始,是视频每一帧的检测情况,用户可根据自己的需要查看具体某一帧的检测情况。
基于设计的平台,可以实现针对利用深度伪造技术合成的视频进行真伪检测,确保传递给用户的信息准确真实,也可以对日益发展的合法虚拟合成应用如虚拟主播提供认证和监管,为维护网络空间安全和信息安全提供有力支撑。