智能体行为风险的分级治理

传播影响力
本库下载频次:
本库浏览频次:
CNKI下载频次:0

归属学者:

郑志峰

作者:

郑志峰 ; 袁梦

摘要:

智能体技术形态下,人工智能正逐步由工具走向行动者,行为风险的治理成为新的课题。智能体行为风险区别于内容风险、算法风险与系统风险,集中表现为自主决策引发的执行偏离、授权关系的权限失范、跨域工具调用与跨智能体协同风险。既有分级分类治理框架以系统或者技术架构本身为规制基点,难以捕捉执行行为在性质、强度及后果上的差异。对此,可适应性改造“基于风险的方法”,以行为可归责性为分级基础,从执行自主性、后果不可逆性、效果外溢性三个维度展开评估,辅以场景要素加以校准,构建起“禁止执行、高度受控、一般规制、自主管理”四级谱系。规范内容上,依据架构性控制力与操作性控制力的现实分配,对各级行为分别设置预先阻断、授权确认、日志留存等差异化义务。

语种:

中文

出版日期:

2026-09-11

学科:

人工智能法学

收录:

CSSCI

提交日期:

2026-10-20

引用参考:

郑志峰,袁梦. 智能体行为风险的分级治理[J]. 学术交流,2026(08):102-116.

全文附件授权许可:

知识共享许可协议-署名

  • dc.title
  • 智能体行为风险的分级治理
  • dc.contributor.author
  • 郑志峰;袁梦
  • dc.contributor.affiliation
  • 西南政法大学民商法学院
  • dc.publisher
  • 学术交流
  • dc.identifier.year
  • 2026
  • dc.identifier.issue
  • 08
  • dc.identifier.page
  • 102-116
  • dc.date.issued
  • 2026-09-11
  • dc.language.iso
  • 中文
  • dc.subject
  • 人工智能;智能体;行为风险;分级治理;人机协同;
  • dc.description.abstract
  • 智能体技术形态下,人工智能正逐步由工具走向行动者,行为风险的治理成为新的课题。智能体行为风险区别于内容风险、算法风险与系统风险,集中表现为自主决策引发的执行偏离、授权关系的权限失范、跨域工具调用与跨智能体协同风险。既有分级分类治理框架以系统或者技术架构本身为规制基点,难以捕捉执行行为在性质、强度及后果上的差异。对此,可适应性改造“基于风险的方法”,以行为可归责性为分级基础,从执行自主性、后果不可逆性、效果外溢性三个维度展开评估,辅以场景要素加以校准,构建起“禁止执行、高度受控、一般规制、自主管理”四级谱系。规范内容上,依据架构性控制力与操作性控制力的现实分配,对各级行为分别设置预先阻断、授权确认、日志留存等差异化义务。
  • dc.identifier.CN
  • 23-1048/C
  • dc.identifier.issn
  • 1000-8284
  • dc.identifier.if
  • 1.833
回到顶部