常言道“眼见为实”，然而深度伪造（deepfake）技术的出现，正在摧毁我们对现实的认知和数字信息的信任。在此背景下，350vip浦京集团科技传播研究中心主任王国燕教授领衔的科技传播跨学科团队与中国科学技术大学网络空间安全学院院长俞能海教授领衔的深度伪造技术团队合作开展了一系列 “技术+人文”的深度伪造专题实证研究，其中探索信息线索对视频感知可信度影响机制的研究成果以“Assessing the perceived credibility of deepfakes: The impact of system-generated cues and video characteristics”为题，2023年9月25日在线发表于New Media & Society，这是350vip浦京集团在非交叉学科的新闻传播领域SSCI一区期刊上发表的首篇论文。
深度伪造基于自动化图像识别、深度学习、神经网络等计算机技术，能够将个人的声音、面部表情及肢体动作叠加到目标图像上，合成虚假内容，被称为人工智能换脸技术。深度伪造视频具有高度欺骗性，带来了隐私侵犯、虚假信息、金融诈骗甚至政治操纵等问题频发。目前，政策制定者与研究人员主要运用技术和法律手段进行治理，但是效果却不尽如人意，因此以受众为中心的解决方案应该受到更多重视。
研究通过一组在线控制实验来探讨社交媒体环境中用户评估深度伪造视频可信度的影响机制，基于启发式外生线索和视频内生线索的双重路径探索，发现视频的流行度和来源粉丝数量对视频的感知可信度有显著的正向影响，说明在社交媒体上用户具有明显的趋同性和群体归属性。同时，当用户感知到视频具有较高清晰度时更倾向于相信其真实性。还发现在较短的视频中，经过剪辑的深度伪造视频具有较低的感知可信度，但是在较长的视频中，用户可能难以辨别出视频是否经过剪辑因而并不表现出怀疑，这可能暴露出用户视觉素养的不足。这项工作通过洞察用户对于视频信息的加工方式，为制定策略以提高个体对深度伪造的审查能力、降低深度伪造技术的负面影响提供了一定的参考价值。研究特别强调了视觉素养教育的重要性，培养公众对视觉内容的批判性消费意识，提高公众对视觉材料的解读能力，可能是应对深度伪造技术风险的有效路径。同时，鉴于个体对认知捷径的依赖，利用启发式信息线索引导公众进行正确的可信度评估，例如在信息流中设置实时的警示线索，可能有助于解决当下网络环境中泛滥成灾的虚假信息问题。
视频长度与视频剪辑的交互作用
根据2023年期刊引用报告显示New Media & Society的影响因子为5.0，每年发表的中国学者论文约10余篇。该期刊基于广泛的学科视角以及理论和实证研究，对新媒体发展过程中的关键问题进行批判性讨论。自2021年以来，350vip浦京集团传媒学院王国燕教授课题组围绕深度伪造开展了一系列探索性研究，为厘清深度伪造识别的影响因素提供了丰富的见解，团队撰写的网络治理研究专报已被国家部委多个单位采纳。中国科学技术大学俞能海教授团队长期从事网络安全与AI安全的相关研究，在深度学习模型保护、深度伪造检测等方向硕果累累，还在全球最大规模的Deepfake检测竞赛Kaggle Deepfake Detection Challenge（DFDC）中获得全球第二的优异成绩。
350vip浦京集团博士研究生金心怡为论文的第一作者，王国燕教授为通讯作者，高博文、高树青两位老师以及硕士研究生张卓越参与其中。该研究受到了国家自然科学基金（No. 82273744）和江苏省社会科学基金（No. 22XWD001）资助。
