当大模型越来越像“人”，伦理与安全边界如何守住？| CNCC 2026

简介：秦兵，哈尔滨工业大学长聘教授、博导，社会计算与交互机器人研究中心主任，中国中文信息学会常务理事，中国中文信息学会情感计算专委会主任，科技部科技创新2030-“新一代人工智能”重大项目管理专家组专家；长期从事自然语言处理及大模型技术等方面的研究工作，发表论文近200篇，累计被引3万余次，连续多年入选爱思唯尔高被引学者榜单，入选2020年福布斯中国科技女性榜及2025年全球顶尖2%科学家；获教育部科学研究优秀成果奖工程技术一等奖，黑龙江省科技进步一等奖、CCF科技成果奖科技进步一等奖、钱伟长中文信息处理科学技术奖一等奖等。

报告题目：拟人化交互中的情感计算与安全

报告摘要： 情感计算旨在赋予人工智能理解与表达人类情感的能力，是实现自然人机交互、提升智能系统社会适应性与服务温度的关键支撑，也是拟人化交互中不可或缺的核心环节。本报告将系统梳理情感计算领域的发展脉络，确立以“情感感知-情感认知-情感表达”为核心的能力链条：在感知层融合多模态信号以全面捕捉情绪状态，在认知层基于心智理论深度解析情绪成因与意图，在表达层通过策略驱动实现个性化情感输出。在此基础上，报告进一步探讨该能力体系在拟人化交互与智能体协同场景下的边界拓展，分析情感交互如何从单纯的虚拟对话延伸至具身行动与物理世界的主动干预与服务。最后，针对拟人化交互中技术演进所伴随的安全误用与伦理风险，提出面向价值对齐与安全可控的设计原则，为构建可信赖的下一代情感智能系统提供系统性思路。

个人简介｜中国科学技术大学教授，主持青年科学基金A类项目（原国家杰青），国家科技重大专项（原科技创新2030）首席科学家；长期从事人工智能、网络空间安全、多模态理解与生成大模型等方面的研究工作，多次获CCF-A类会议最佳学生论文奖、杰出论文奖等；现任中科院一区期刊 IEEE-TMM、IEEE-TCSVT 编委，长期担任CCF-A 类会议领域主席，被评为 ACM-MM 2024 杰出领域主席；获2023年国家技术发明二等奖、2022年教育部技术发明一等奖等。

报告题目｜面向拟人化交互的安全可信智能体

报告摘要｜安全可信的大模型智能体是当前网络内容安全治理领域的研究前沿和重点问题，亦是国家的重大需求。现有大模型智能体在面临多轮次、长时程、多智能体交互的复杂任务时，难以保证生成内容的全过程安全可信。本报告围绕多模态大模型的全过程行为一致约束、长期价值干预引导、群体协同交互治理，探讨多模态大模型由简单任务向复杂行动、单次回答向长期交互、个体对话向群体系统演进过程中的价值安全治理路径。

个人简介｜中国人民大学高瓴人工智能学院副教授，博士生导师，曾任微软亚洲研究院首席研究员，入选北京市人才计划青年项目，获吴文俊人工智能青年科技奖、CCF自然科学二等奖，2篇论文入选IEEE TVCG（CCF-A期刊）封面论文。研究领域为大模型解释与对齐,研究成果落地支付宝百灵大模型、微软必应搜索、Outlook及MSN，影响上亿用户，年收入增益上亿元。担任ICML、AAAI领域主席、Visual Informatics （Q1）青年编委。曾任IEEE VIS（CCF-A）组委会档案主席。

报告题目｜大模型的三重安全风险及应对方法研究

报告摘要｜本报告围绕大模型三重安全风险展开介绍，结合全球人工智能安全战略布局与《2026年国际人工智能安全报告》，系统剖析恶意使用、模型故障、社会系统性风险三大核心安全问题。针对上述风险，梳理现有技术方案及前沿进展，例如基于模型内部机制解释的高效攻击与防御方法、以构念评测与内生价值观对齐解决模型故障的方法，以及依托高阶思维能力分析应对社会系统性风险的思路。最后，指出当前面临数据缺失、多因素建模困难、风险量化不足等现实挑战，并探讨大模型安全研发、治理与落地的未来技术路径。

个人简介｜香港中文大学（深圳）副教授、博士生导师，深圳市跨模态认知计算重点实验室副主任，主要研究语音交互、语音生成、跨模态智能与音频鉴伪。曾在Meta、苹果、爱丁堡大学及微软亚洲研究院等机构工作，发起Merlin、Amphion、Emilia等开源项目，并组织语音鉴伪和语音转换国际评测。现任IEEE语音与语言处理技术委员会委员、IEEE/ACM TASLP及SPL编委。

报告题目｜拟人化语音交互与语音大模型安全对齐

报告摘要｜语音不仅承载文字内容，也包含情感、口音、年龄及环境场景等信息。报告将介绍口语理解、共情语音交互与语音基座模型的研究进展，并讨论AI合成及声音处理技术带来的身份混淆、隐私泄露和伪造鉴别挑战。报告将进一步说明语音所携带的文字外信息如何形成隐私与身份风险，强调AI语音清晰标识与安全治理的重要性。

个人简介｜英国贝尔法斯特女王大学哲学博士，复旦大学科技伦理与人类未来研究院青年研究员，硕士生导师。研究兴趣包括科技伦理、人工智能伦理，医学伦理。近5年，主持参与国家级项目多项，校企合作项目多项，出版英文专著1部，授权专利1项，参与《医疗人工智能伦理》等多部教材编写，在AAAI、Nursing Ethics (SCI, Q1)、BMC Medical Ethics (SCI, Q1)、American Philosophical Quarterly (AHCI, Q1)、Journal of Medicine and Philosophy (AHCI, Q1)、Intelligent Medicine (EI, Q1)等国际权威期刊发表文章十余篇。担任国际知名医学哲学丛书（Philosophy and Medicine Series）副主编。

报告题目｜大语言模型医疗伦理风险评估——合规之外我们还会期待什么？

报告摘要｜大语言模型在医疗健康咨询场景中的应用，正引发越来越多对医疗伦理风险的关注。此类风险主要包括伦理合规风险、不当共情风险以及对脆弱性忽视的风险。现有研究多聚焦于合规性风险，而对后两类风险的关注相对不足。基于此，本研究选取医疗场景中常见的哀伤辅导、坏消息告知和医疗偏见等情境，对国内外主流大语言模型开展评测，以识别并评估其在医疗咨询场景中的伦理表现。

CNCC是一个宏观论述技术趋势的大会，具有规格高、规模大、内容丰富等特点，会议形式包括大会特邀报告、大会论坛、专题论坛、特色活动及展览。大会汇聚两院院士、国内外顶尖学者、知名企业家等亲临大会，展望前沿趋势，分享创新成果。ACM、IEEE CS、IPSJ、KIISE等国际计算机组织的代表也多次获邀现场参加这一盛会。CNCC2026将于10月21-24日在四川省成都市举办，大会主题是“数聚驱动，智算未来”，欢迎各界前来参会。