Anthropic 发布 AI 滥用报告：从网络攻击到诈骗，关注实际使用风险

报告覆盖哪些内容

Anthropic 于 2026 年 9 月 10 日发布 AI 滥用相关报告，整理其团队在 2025 年 12 月至 2026 年 8 月发现并阻断的活动。报告涵盖网络行动、影响行动、监控、诈骗、其他危险用途及模型蒸馏等七个领域。

公司表示，报告选取的是具有代表性或新颖性的案例，并非所有使用情况的统计样本。因此不能直接将案例数量理解为所有 AI 用户的风险发生率。

需要怎样理解这些案例

报告讨论 AI 对攻击活动速度、规模及深度的影响，也介绍了阻断行为、加强防护和适当分享情报等应对方式。这些观察来自提供服务的厂商，读者需要保留对其观察范围的认识。

本文仅概述报告内容，不复述具体攻击步骤，也未独立验证每一个案例。

CoinFunds 观察

对软件团队而言，这类报告的阅读重点可以放在异常使用行为的识别、权限边界和事件处理流程。启用 AI 后，仍需要明确谁可以调用工具、访问什么资料，以及发现异常后由谁处理。

这是一种产品治理视角，不代表本文证明任何工具已经解决所有滥用风险。持续跟踪厂商报告，有助于更新团队提出的问题和核对方式。

资料说明

原报告由 Anthropic 发布。正文中的事件描述归属该报告，编辑观察与厂商结论分别呈现，方便读者返回原始资料核查。