arXiv 隐私论文· Kshitij Mishra·· 14 小时前精选AI 评分62
PROBE：训练 LLM 审计器审查工具型智能体的策略合规
PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents
AI 导读
论文提出 PROBE（Policy Rule Observation via Behavioral Exploration），用于训练基于 LLM 的审计器，以真实用户身份与已部署智能体进行多轮、工具介导的对话，探测其在定价、隐私、确认、安全等策略上的违规行为。
推荐理由
论文把智能体的策略合规审计形式化为双人马尔可夫博弈，并比较 GRPO、DPO 与 GFlowNet 的训练效果，为多轮工具调用场景的合规评估提供可迁移方法。
来源：arXiv 隐私论文 · arxiv.org