个人简介： 讲席教授，中国科学技术大学网络空间安全学院执行院长，教育部高等学校网络空间安全专业教指委副主任委员，中国图象图形学学会副理事长。主要研究领域为视觉计算与安全、媒体内容安全、数据安全等。近年已主持国家级课题20余项，国家重点研发计划"网络空间安全"专项项目负责人。在"IEEE TPAMI、TIP、TIFS、CVPR、ICML"等知名期刊会议发表高水平论文300余篇。获2021年国家网络安全先进个人奖，2021年安徽省教学名师，2020年军队科技进步一等奖，2019年安徽省自然科学一等奖，2004年国家863先进个人奖，此外获6项省部级科技进步奖，2019年国家网络安全优秀教师奖，2019安徽省教学成果特等奖。

个人简介： 微软"铸星计划"学者。CSIG数字媒体取证与安全专委会委员，青年组组长。主要研究方向为人工智能安全，发表ACM CCS、IEEE TPAMI等高水平论文四十余篇，获得ACM CCS杰出论文成果奖，获Facebook主办最高水准深伪检测挑战赛DFDC全球第二，30万美元奖金，入选2014年来中国人工智能安全领域8项创新成果，主导研发深伪工具DeepFaceLab，与OpenAI的GPT2共同入选2020年十大Github流行项目，主导"合成现实技术"，被央视官方解读为"新质生产力"代表性技术，并发布首个"合成现实数字人钱学森"，在总台"科技春晚播出"。主持国家自然科学基金、国家重点研发计划课题、安徽省重点研发、CCF-蚂蚁金服科研基金等项目，总经费超2000万。获得国家授权发明专利4项。

报告题目： 大语言模型对齐技术

报告摘要： 大语言模型对齐技术是确保大语言模型的行为和输出与人类价值观及安全伦理相一致的关键技术，对于增强大语言模型的指令遵循能力，确保生成式人工智能更加安全可靠具有重要意义。目前，基于人类反馈的强化学习（RLHF）是大模型对齐的主要技术，RLHF 通过对人类偏好进行建模，并采用强化学习相关技术，让模型根据人类对输出内容的反馈来优化自身，从而调整参数以产生更符合人类偏好的回复。本报告探讨了基于人类反馈的强化学习算法通用范式，如何利用偏好数据对人类价值观进行建模，如何使用近端策略优化等算法将大模型与人类的正确价值观和能力进行对齐，以及如何拓展人类反馈信号，从而实现更为精准广泛的监督。

个人简介： 复旦大学特聘教授、博士生导师，国家级领军人才。主要从事自然语言处理、信息检索和社会媒体分析研究，人工智能、自然语言处理学科方向带头人。兼任中国中文信息学会理事、社会媒体专委会副主任，中国计算机学会自然语言处理专委会副主任、学术工作委员会委员、中国人工智能学会女科技工作者委员会副主任、AACL执委，EMNLP 2021程序委员会主席。在高水平国际学术期刊和会议上发表了二百余篇论文，被引2万余次，8次入选优秀论文奖。负责的多个科研项目受到国家自然科学基金、科技部、教育部、上海市科委的支持。获2021年上海市育才奖，并入选"人工智能全球女性"、"AI 2000人工智能全球最具影响力提名学者"及"福布斯中国2020科技女性榜"。

报告题目： AI内在安全：从小模型到大模型到多模态具身智能

报告摘要： 随着深度学习、大模型、AIGC等技术快速发展和成熟应用，其可信、安全、可靠也广受关注。本报告面向AI模型的内在安全可信的问题，结合该领域的最新研究进展和团队在相关方面的研究成果，从数据输入、模型训练、模型输出、多任务应用等多个角度介绍AI模型的安全可信技术。此外，本报告将面向典型的AI应用场景，如自动驾驶场景，智能身份安全分析等，围绕相关的安全分析、测试与认证等内容开展简要介绍。

个人简介： 沈超，西安交通大学二级教授，教育部长江学者特聘教授(2022)，科学探索奖(2024)、青橙奖(2019)、基金委优青(2018)获得者，教育部创新团队负责人，教育部工程研究中心主任，国家重点研发计划首席科学家，国家基础加强计划技术首席科学家，重点研发计划"先进计算与新兴软件"重点专项指南专家组成员。主要从事智能系统可信、安全、控制与测试的研究工作，获最佳论文奖11次。牵头获2项省部级科学技术一等奖、霍英东青年教师一等奖、MIT TR35 China、IEEE SMC Early Career Award等。主持国家重大、重点、国际(地区)合作等项目30余项，制定国内外标准5项，多份建言被中央办公厅等采纳。担任IEEE TDSC、TCYB、TFS汇刊等10余个国际期刊编委、IEEE SMC&CS Xian 主席、ACM SIGSAC China副主席、中国人工智能学会组织工委副主任、中国指控学会智能测评专委会副主任等。

报告题目： 大模型认知安全

报告摘要： 基于大模型的生成式人工智能（AI）正在快速延申到人类生产、生活的各个方面。在网络安全领域，一方面生成式AI赋能各种网络攻防技术，带动了传统技术的升级；另一方面生成式AI深刻改变了认知安全的内涵和外延，不仅影响人类的认知安全，还导致机器认知安全成为日益凸显的问题。此报告将从机器认知安全和人类认知安全两个角度讨论生成式AI带来的网络安全新特质和新问题。

个人简介： 中国科学技术大学教授、博导、网络空间安全学院副院长。主要研究兴趣包括信息隐藏和人工智能安全。已在国际著名学术期刊和会议IEEE TIT、TPAMI、TIFS、TIP、CVPR、CCS、S&P、ICCV、NeurIPS、AAAI等发表论文200多篇。国家基础加强计划重点基础研究项目"首席科学家"，主持国家自然科学基金重点、国家重点研发课题、国家863等项目20余项。获得军队科技进步奖一等奖、安徽省自然科学奖一等奖、河南省自然科学奖一等奖、安徽省教学成果特等奖、ACM SIGSOFT杰出论文奖，CCS'24杰出成果奖。入选2021年长三角人工智能十大杰出人物，安徽省科技创新领军人才。

报告题目： 视觉大模型风险解析和治理

报告摘要： 视觉生成大模型（如Stable Diffusion和Midjourney系列模型）存在内生风险，用户可以利用无显性风险的提示攻击模型，从而生成风险图像。针对此问题，典型的解决方法是使用一系列风险因素过滤器，避免风险图像的生成或传播。然而，由于诱发生成模型产生风险的机理未知，无法从"治本"的角度阻断风险图像的生成。本报告将介绍团队针对视觉大模型内生风险机理研究，并提出相应风险防御策略。报告首先介绍诱发视觉大模型内生风险的通用攻击框架。基于攻击结果，我们分别从文本提示和特征空间挖掘出诱发模型生成风险内容的模式，最后基于风险诱发模式提出了相应的防御框架来增强模型生成内容的安全性。

个人简介： 天津大学教授，天津大学图像所所长，国家杰青，IET Fellow。从事视觉内容解析、生成与决策研究，服务于网络媒体安全审核与引导、智能监控等。作为负责人承担国家基金联合重点、重点研发课题等；以第一完成人获天津市科技进步特等奖；发表高水平论文百余篇；担任4个IEEE/ACM期刊编委，连续6年担任CCF-A类国际会议ACM Multimedia领域主席。

报告题目： 视觉算力生命线：GPU运维守护每一帧精彩

报告摘要： 在多模态大模型与生成式AI快速发展的背景下，GPU运维成为保障视觉计算稳定性的核心。本报告聚焦GPU集群在大规模并行计算中的技术挑战。以“智能运维赋能大算力”为理念，通过智能化、标准化运维方案，构建运维与硬件协同创新机制，推动视觉计算从"可用"向"好用"跨越。最终实现模型训练精度、推理实时性与系统稳定性的全面提升，为智能视觉应用提供可持续的有效算力底座。

个人简介： 维云信息科技CEO，顺维科技创始人，深耕AI服务器研发与AI服务器运维领域多年，主导研发多项核心专利技术。秉承“智能运维赋能大算力”理念，搭建全球化的运维服务体系，带领团队与腾讯、字节等头部企业建立深度合作，助力客户实现算力资源的高效调配与运维优化。

报告题目： 《生成式人工智能学科发展报告》特别发布

报告摘要： 生成式人工智能技术滥用带来了不可忽视的安全挑战，为探讨生成式人工智能学科发展，中国图象图形学学会数字媒体取证与安全专委会在学会和相关单位的支持下，编著完成了《生成式人工智能学科发展报告》，从领域学科技术、国家监管等方面探讨了生成式人工智能技术的可持续发展。此次报告发布，将为生成式人工智能学科的快速发展奠定良好基础，为领域的推动指引方向。

个人简介： CSIG多媒体取证与安全专委会主任，国家百千万人才，国家"有突出贡献中青年专家"，国家重点领域创新团队负责人，国家"万人计划"领军人才，享受国务院政府特殊津贴，获中华人民共和国成立70周年纪念勋章。中国图象图形学学会理事，全国金融标准化技术委员会委员、全国专业标准化防伪技术委员会委员。从事金融安全与监管、多媒体内容安全、人工智能安全领域研究。发表学术论文50余篇，出版专著4部。主持完成国家自然科学基金重点、国家重点科研专项等40余项国家、省部级项目，35次获省部级科技进步奖，2006年获国家技术发明二等奖，2009年获国家科技进步二等奖，2016年获国家科技进步二等奖，2019年获国家科技进步二等奖，2011年获国家科技进步一等奖。

周文柏

中国科学技术大学

welbeckz@ustc.edu.cn