AI Security and Privacy: From Model to Agentic Systems
本次讲座将围绕人工智能安全与隐私，从模型底层威胁到智能体系统的跨层安全展开讨论，分析当前攻击与防御的差距，并提出该领域亟待解决的关键研究问题。
报告介绍
大语言模型正逐步进化为具备规划、记忆、工具调用以及多智能体协作能力的自主智能体。不同于传统大模型仅输出文本，这类智能体能够自主执行任务，一旦遭到入侵，将直接实施有害行为，而不只是生成有害文本。
本次报告基于七项近期学术调研，围绕人工智能安全与隐私展开论述。报告从模型底层威胁切入，介绍越狱攻击、提示注入、数据泄露等经典风险，进一步拓展至智能体系统的跨层安全视角。
在这一框架下，攻击不再局限于模型输入层面，还可经由外部工具与长期记忆模块侵入系统，劫持智能体的任务规划流程，链式触发各类有害操作。报告分析表明，当前攻击危害程度与防御成熟度之间的差距正在不断扩大。
记忆投毒、工具供应链入侵、多智能体操控等新型攻击在已公开实验中的成功率高达 77%–90%，然而现阶段仍缺少能够在真实场景落地部署的有效防御方案。报告最后凝练出该领域亟待攻克的关键开放性研究问题，包括智能体记忆完整性保障、精细化权限管控机制、多智能体间信任构建、差分隐私框架以外的隐私保护新思路，以及面向智能体安全的统一评测体系，为后续相关研究指明方向。
报告人介绍
伍绍恩博士现任肯尼索州立大学信息技术系主任、正教授，同时担任 IEEE 多媒体通信技术委员会（MMTC）指导委员会主席。他曾任伊利诺伊州立大学信息技术学院州立农场冠名讲席教授；
在鲍尔州立大学期间，担任科研副教务长奖学金顾问委员会委员、院长教师顾问委员会委员、计算机科学系副主任；还曾任职于南密西西比大学计算学院助理教授、ADTRAN 公司科研科学家、朗讯科技贝尔实验室技术专员。
他多次担任国际会议大会主席或程序委员会主席，包括 2021 年全球通信大会（Globecom 2021）大会专题主席。伍博士主持多项由美国联邦机构与企业资助的科研项目，项目经费总额达数百万美元。
