#智能体
共 2 篇相关内容 · 安全漏洞、AI动态、技术文章
技术文章 2
主权执行代理:如何为AI智能体装上'安全锁',确保生产环境不被非确定性推理所破坏
随着AI智能体越来越多地连接到云部署和数据控制工作流中,如何确保生产环境的变更权限不被非确定性推理过程所滥用成为关键问题。本文介绍了主权执行代理(SEB)——一种基于证书绑定的运行时强制执行边界,通过分离提案、准入和执行三个阶段,将认证权限转化为短时效、可撤销、可审计的运行时能力,在AWS和Kubernetes上验证了其可行性和低开销特性。
让AI智能体学会「记账」:LedgerAgent如何用结构化状态解决工具调用中的策略一致性难题
在客服等领域,AI智能体需要跨多轮对话调用工具并遵守策略规范。传统方法将所有信息塞进提示词,导致智能体容易遗忘关键状态或违反策略。LedgerAgent提出了一种轻量级推理时方法,通过维护独立的「分类账」来追踪任务状态,并在工具调用前检查策略约束,显著提升了策略一致性和任务完成率。