薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则

薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则p 专题 中国发展高层论坛 2026 年年会 p p 中国发展高层论坛 2026 年年会于 3 月 22 日至 23 日在北京召开 本届论坛主题为 十五五 的中国 高质量发展与共创新机遇 清华大学苏世民书院院长 教授薛澜出席并演讲 p 薛澜指出 近期智能体发展速度极快 他解释道 如果把传统的 AI 大模型比作 大脑

大家好,我是讯享网,很高兴认识大家。这里提供最前沿的Ai技术和互联网信息。



 

专题:中国发展高层论坛2026年年会

  中国发展高层论坛2026年年会于3月22日至23日在北京召开,本届论坛主题为“‘十五五’的中国:高质量发展与共创新机遇”。清华大学苏世民书院院长、教授薛澜出席并演讲。

  薛澜指出, 近期智能体发展速度极快。他解释道,如果把传统的AI大模型比作“大脑”,那么智能体则是给这个大脑加上了“手”、工具和记忆,使其能够真正自主完成复杂的任务。在应用层面,他提到国内近期活跃的“养龙虾”现象,用户通过多种方式给系统“喂”Token,将其培养成真正的个人助手。他认为,实现这一目标需要一定的前提条件,而中国目前在这方面具备许多基础优势。

  就如何应对智能体治理风险,薛澜认为, 必须始终坚持“以人为本、智能向善”的基本原则,并强调采取适合智能体特点的“敏捷治理、多元共治”模式。他提出,治理模式需在原有大语言模型治理基础上进行三点调整:首先,从“内容安全”延伸到“行为安全”,不仅要管控文本内容,更要确保智能体执行动作的边界可靠;其次,从静态边界管理转向“动态边界管理”,随着技术迭代和安全边界的扩大,治理模式必须同步升级;最后,从单纯的“风险防控”转向“可信交互”,只有建立起用户对智能体的信任,才敢授权其处理订酒店、机票等关键任务。

  在具体治理举措上,薛澜提出了三方面建议:

  第一,从技术角度,要以安全可控为底线,通过技术架构确保智能体行为可验证、可干预、可追溯。具体包括实施权限隔离与人类控制,确保关键环节由人主导;搭建部署安全智能体,进行持续监控评估;以及构建安全可信的执行环境。

  第二,从监管角度,要以权责清晰为基础,通过制度设计明确各方责任,为创新提供秩序轨道。重点在于明确用户授权,遏制平台权限滥用,并建立包容审慎的分级监管制度。

  第三,从社会角度,需采取多项应对措施:一是“能力重塑”,培养劳动者指挥Agent协作的新技能,提升人机协作能力;二是建立“就业缓冲”机制,通过转岗帮助受冲击群体寻找新就业方式;三是完善“社会保障”,健全失业与再就业支持机制,兜底暂时未就业群体;四是加强“公共教育”,提升全民对人工智能的认知与风险意识,既避免盲目跟风应用,又鼓励大众积极拥抱新技术。

GPT plus 代充 只需 145 

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

小讯
上一篇 2026-03-27 07:03
下一篇 2026-03-27 07:01

相关推荐

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/249644.html