3月22日至23日,中国发展高层论坛2026年年会在北京举办。清华大学薛澜教授出席会议并发表演讲,聚焦快速发展的AI智能体,分析技术特征并提出针对性治理方案,为智能体安全规范发展提供治理思路。
薛澜表示,传统大模型仅具备思考能力,而智能体相当于为AI加装工具与记忆,可自主完成复杂任务。他以近期火爆的“养龙虾”现象为例,指出国内在智能体培育发展方面具备良好基础优势。伴随智能体技术快速迭代,各类安全治理风险随之凸显,完善治理体系迫在眉睫。
对此,薛澜强调,智能体治理必须坚守以人为本、智能向善的核心原则,采用敏捷治理、多元共治的管理模式。他提出治理需完成三大转变:由内容安全拓展至行为安全、由静态边界升级为动态边界管理、由单纯风险防控转向人机可信交互。
在具体治理举措上,他给出多维度建议。技术层面,坚守安全底线,搭建可追溯、可干预的技术架构,保留人类关键主导权;监管层面,明确权责划分,规范用户授权,实行分级审慎监管;社会层面,通过能力重塑、就业缓冲、社保兜底、公共教育四项举措,缓解AI带来的就业冲击,提升全民AI认知水平。
本次发言明确了智能体的治理逻辑与实施路径,为我国规范智能体发展、平衡技术创新与安全管控提供重要参考。
来源:新浪财经(睿见Economy)