本期主题：面向生成式大模型的取证和溯源

报告主题：随着生成式大模型在文本、图像、音频和视频等领域的快速发展，人工智能生成内容的逼真度和传播能力不断提升，在促进内容生产与产业创新的同时，也带来了深度伪造、恶意篡改、对抗攻击、数据投毒、版权侵权和虚假信息传播等安全风险。生成内容是否真实、模型与内容能否得到有效保护、生成结果能否追踪来源，已成为生成式人工智能可信应用亟待解决的核心问题。

本报告围绕“真实性判别、主动安全防护与生成来源溯源”三个相互关联的方向，介绍面向生成式大模型的取证与溯源技术体系。首先，针对现有生成内容检测方法在真实传播环境下容易受到未知生成模型、压缩处理、分布偏移和跨域变化影响的问题，研究生成痕迹形成与残留规律，构建面向未知伪造和复杂干扰的通用检测方法，实现对人工智能生成图像、人脸伪造和隐藏信息的可靠识别。其次，针对生成模型及其内容容易遭受对抗攻击、后门攻击、身份盗用和恶意编辑等问题，研究高效攻击评估与主动防御方法，通过语义与结构信息协同、不可感知对抗扰动、鲁棒水印和可逆信息隐藏等技术，提升模型及数字内容在复杂攻击环境下的安全性与可恢复性。进一步，针对生成内容来源不明、模型微调后水印失效以及未知生成模型难以识别等问题，研究潜空间模型水印与生成模型指纹技术，从生成内容中提取稳定、可区分的来源特征，实现对生成模型、伪造方式和内容传播链路的识别与追踪。相关研究成果已应用于多媒体司法取证、大模型舆情监测、生成内容鉴伪、电商交易安全和海外虚假信息分析等场景，初步形成从真实性检测、主动防护到来源追踪的一体化技术体系。未来，将进一步面向未知生成模型、复杂传播干扰和隐私敏感场景，重点突破取证泛化性、攻防鲁棒性、结果可解释性和隐私保护等关键问题，为构建安全、可信、可控、可追溯的生成式人工智能生态提供技术支撑。

主讲嘉宾：付章杰

时间：2026年10月28日（周三）下午15:30

地点：无锡学院行政楼121报告厅

参会人员：全院教师和部分学生

付章杰博士，教授，博士生导师，南京信息工程大学网络空间安全学院院长、数字取证教育部工程研究中心主任，国家级青年人才，江苏省杰出青年基金获得者。长期聚焦强对抗环境下的数字取证研究，主持国家重点研发计划青年科学家项目、国家信息安全专项、国家自然科学基金重点项目等。针对数字取证三大核心任务：真实性取证、来源取证和密文取证，揭示了扰动痕迹残留演化机理，构建抗攻击的伪造共性特征空间；提出了“语义—频域—表征”多元稳定性度量及弱线索增强方法，实现隐蔽性与鲁棒性的协同提升；揭示了真伪判别关系由明文向密文迁移的跨域保序机理，突破“先解密、后取证”的传统范式。以第一或通讯作者发表CCF-A类及IEEE会刊论文60余篇、IEEE GLOBECOM2026最佳论文奖，谷歌引用超7200次，授权国家发明专利30余项，长期服务国家安全、公共安全、司法鉴定和国产取证装备研发，相关成果获江苏省自然科学二等奖和江苏省自然科学一等奖各1项。