arXiv 隐私论文· Justin Tan·· 15 小时前AI 评分58
AgentPhishing：面向 LLM 邮件智能体的自适应钓鱼攻击基准
AgentPhishing: A Benchmark of LLM Email Agents Under Adaptive Attack
AI 导读
研究提出 AgentPhishing 基准，用于评估说服性钓鱼攻击能否绕过 LLM 邮件智能体的检测并诱导其执行恶意请求，同时给出针对单个智能体优化可复用邮件生成技能的 PhishOpt 方法。在九个智能体的评测中，有四个的钓鱼检测率低于 10%、恶意请求遵从率高于 45%；这些智能体能安全处理既有钓鱼邮件，却仍易受针对智能体行为改编的攻击影响。
来源：arXiv 隐私论文 · arxiv.org