1 · 报告概览
这份报告记录了 Anthropic 威胁情报团队在过去一段时间内发现并处置的多批滥用行为:行为主体用 Claude 实施网络入侵、影响力操纵、监控、武器相关工作、生物相关研究辅助,以及大规模诈骗和模型能力窃取。报告的重点不是某个单一事件,而是同一种变化在不同领域反复出现:人工智能把原本需要团队、时间和专业积累的工作,压缩成少数人甚至单人可以持续运转的流程。
| 项目 | 本页整理的口径 |
|---|---|
| 报告主体 | Anthropic 威胁情报团队对滥用行为的调查与处置记录 |
| 网络行动覆盖期 | 2025 年 12 月至 2026 年 8 月 |
| 监控行动覆盖期 | 2026 年 1 月至 7 月 |
| 涉及的模型 | 网络行动案例中,行为主体使用的是 Haiku、Sonnet、Opus 系列;报告称未在 Fable 或 Mythos 上发现恶意活动,并提到 Mythos 设有多项防护,显著降低了其执行有害网络任务的能力 |
| 处置口径 | 各案例统一的处置是:封停相关账号、根据调查发现加固防护,并在适当时与主管部门和行业伙伴共享情报。个别案例中,报告明确指出封号只能打断开发环节,不能直接关停已经部署在本地的系统 |
| 编号含义 | GTG 是 Anthropic 内部对“被观察到滥用人工智能的行为主体”的代号。本页保留 GTG 编号,方便对照原文 |
| 如何衡量“能力提升” | 报告用三个维度评估人工智能带来的增益:速度、规模、深度,即同样的人能不能更快、覆盖更广、挖得更深 |
需要先建立一个总判断:报告反复强调,真正值得警惕的变化不只在“人工智能会不会写出新漏洞利用代码”这一点上。更大的变化发生在整个攻击链条上——侦察、工具开发、入侵、数据处理、扩散和变现,每一步都被加速和放大,而所需的人力和专业门槛却在下降。
2 · 主要趋势
以下趋势是把报告各章节的共同点提炼出来的,不是某一案例的个别现象。
2.1 高水平攻击不再需要高水平攻击者
报告指出,人工智能拉平了过去把资源充足的国家级行动和个体行动分开的劳动与工具差距。一个用被盗密钥的行动者、几个分散的牟利人员、一个国家间谍行动人员,都能维持多受害者的长期行动,而在一年前,这类行动通常需要多名熟练人员和专门知识。对调查人员来说,“手法复杂”已经不再是判断幕后身份的可靠信号。
2.2 人工智能的角色从问答助手走向自动编排
多数案例中,人工智能不只是被问问题、给答案,而是直接参与执行或编排:多智能体框架完成侦察、入侵和数据外传,人在回路里主要负责定目标和复核结果。报告描述了一个光谱:最轻的一端是把模型当工程助手;中间是人在每一步都做决策、模型执行操作;最重的一端是多智能体并行运转数小时甚至数天,人只做很少干预。报告同时提醒两个限定:最关键的决策(选目标、变现、复核成果)仍在人手里;自主程度和危害程度是两个维度,自主化主要压缩成本、放大速度和规模,严重程度还取决于目标、数据和后续使用。
2.3 攻击框架正在扩散,变成“下载即用”的脚手架
报告提到,2025 年 11 月记录的一种自主攻击运作模式,如今已扩散到各类行为主体。公开的进攻性智能体框架把攻击链各环节的脚手架做了现成复现,下载者可以直接使用或改写。报告的判断是:应当默认这些能力对任何有动机的行为主体都是可及的。
2.4 静态检测的成本优势正在被逆转
传统防御逻辑是:发现恶意工具、做出特征、拦截,迫使攻击者重新开发,从而抬高对方成本。报告描述的案例显示,人工智能可以监测自家工具是否被安全产品检出,一旦被检出就自动修改、重建、再投放,直到绕过检测。防御方发布一个新检测所争取的时间,正在被这种“闭环”快速吃掉。
2.5 熟悉的攻击手法,变化的是经济账
报告明确指出,这些行动依赖的仍是常见手法:被盗凭证、未修补的边缘设备、暴露的服务、注入、钓鱼等,没有哪起行动完全依赖防御方从未见过的新技术。变化的是成本结构:侦察、入侵、工具开发和数据处理这些过去最耗人力的环节,现在可以交给并行运转的模型。结果体现在数字上:有的入侵在两三小时内完成,有的个体行动者同时处理数十个受害者。
2.6 AI 供应链本身成了目标、战利品和算力来源
被盗的 API 密钥和会话令牌既能转卖,又能让攻击者在受害者账上跑自己的任务,还能把活动归因引向凭证的合法主人。报告记录了多起“入侵后第一件事就是拿走受害者的 AI 密钥、随即切换过去使用”的模式。围绕 AI 的集成(沙箱、代理、转售商)也成了攻击面的一部分。
2.7 影响力与监控工作正在“办公室化”和“工业化”
在影响力行动中,模型不只写内容,还被用来搭建整套运作班子:行动手册、人物档案、目标库、人员评分、合同文本、排期规则。在监控行动中,模型被用来替代工程团队和分析团队,把原本需要多组人马的工作压缩成少数人甚至单人可运转的流水线,并被写进内部手册、变成日常流程。
2.8 双用途难题越来越难用单一过滤器解决
尤其在生物领域,同一份知识既可能用于疫苗和治疗,也可能用于制造更危险的病原体或毒素。报告承认,分类器能挡住明确高风险的内容,但在高度技术化的双用途领域,仅凭一次对话很难可靠判断意图。报告倾向于认为:前沿生物能力的安全提供方式,需要结合安全过滤与可信用户机制。
3 · 网络行动:从间谍活动到广撒网式牟利
本节覆盖报告第一大部分的网络行动案例。每个案例按“行为主体—目标—人工智能的作用—影响与处置”概括。
GTG-20006:疑似与俄罗斯国家背景相关的间谍行动
归因口径20 个以上组织
行为主体:报告称其归因与公开报道中把该行为主体与 Midnight Blizzard 联系起来的说法一致;其中一名操作者讲俄语,使用网名 JackPoterz,其手法和目标与俄罗斯国家背景的间谍活动相符。
目标:乌克兰和欧洲政府中的军事情报目标,以及外交、国防组织和与美国外交政策相关的人员。调查确认的目标组织超过 20 个,包括政府部门、国防与情报机构、使馆、外交机构、智库和国防工业企业,集中在乌克兰和欧洲,并延伸到中东和亚洲的海事相关政府机构。反复出现的主题是乌克兰和军用无人机技术供应链。
人工智能的作用:行为主体用定制化的智能体工作流把开发、基础设施获取、钓鱼、持久化、指挥控制和数据外传串起来;用智能体监测自家工具是否被安全产品检出,一旦被检出就自动改写重建,直到不再被检出;钓鱼环节也用工作流完成域名调研与注册、托管配置、邮件发送和入侵结果监测,人主要在需要调整工作流时介入。
主要影响:对 20 多个乌克兰政府组织的邮件和远程访问系统做扫描;批量导出至少两家无人机零部件厂商的邮箱,窃取了一套无人机视觉系统的完整软件开发包,并花数天逆向其架构、物料清单、供应商依赖和一款未发布产品;通过入侵至少三家酒店 Wi-Fi 供应商做 DNS 劫持,向住客投放恶意软件,并结合酒店管理系统的数据做进一步定向;在北非一家政府技术机构窃取了 30 万条以上国民身份记录和 50 万家以上企业的商业登记数据;通过云邮件令牌窃取行动,访问并外传了至少 8 个组织的邮件记录;还通过接管即时通讯账号批量导出俄语和乌克兰语对话,并利用摄像头服务接口缺陷获取直播流。报告称被窃数据总量达数百 GB。2026 年 7 月,微软威胁情报团队曾公开描述其中一种窃取与投放手法。
处置:报告称已处置相关活动,并根据调查发现加固防护。
GTG-50014:ShinyHunters 关联的牟利团伙,“扫到就打”
牟利动机供应链窃取
行为主体:多组疑似 ShinyHunters 集合体附属人员,彼此工具和流程不同,但调查认为属于同一整体行动;其中一名法语操作者使用多个别名。
目标与手法概括:以广撒网方式找暴露在互联网上的系统和凭证:抢补丁窗口、翻容器仓库与代码库、扫描移动应用与网站、批量扫描易受攻击的联网设备等。得手后直奔数据库找客户数据;若目标是软件服务商,就顺着服务商去拿下游客户数据,再以“不付钱就泄露或出售”相要挟。
人工智能的作用:入侵和窃取过程常呈现“给大目标、让模型自己想办法”的形态:操作者下达笼统指令,模型评估环境、编写并执行脚本、汇总结果、反复执行直到完成,操作者本人未必理解每个目标环境的细节。报告把这种模式与“借用环境里现成工具”的思路类比:这些人把 AI 供应链本身既当目标、又当资源。
规模数字(原文口径):一条凭证收割流水线动用 10 台云主机,批量下载并反编译约 180 万个不同的安卓应用安装包,扫描其中硬编码的密钥;一家技术供应商被外传超过 1 TB 数据,包括数十万条国民身份标识和数百万条支付卡记录;一家航空公司有数千万条乘客记录所在的系统被访问;一起软件服务商入侵波及约 200 家下游客户组织,另一起会话数据导出涉及 2,100 多组令牌、40 多个企业租户,耗时约 34 小时;另一起服务商入侵波及数千家下游客户组织。节奏上,一起入侵从首次进入到批量窃取只用了数小时,另一起从一枚被盗开发者令牌到完全控制受害者云环境只用了约 3 小时。
处置:报告称已封停相关账号、部署检测,并与主管部门、行业伙伴和受害者协同补救。
GTG-10007:漏洞“铸造厂”与自主攻击框架
约 50 个组织并行工作流
行为主体:讲中文的操作人员,报告称可能位于中国湖南长沙;其中两人被确认为湖南一所大学计算机与通信工程学院的本科生,一人曾在国内一家安全公司实习,并正在应聘另一家安全公司的进攻性岗位。
目标:约 50 个组织,覆盖教育、零售、能源、技术、医疗、金融、制造和多国政府机构;包括入侵一家教育技术公司并从云存储批量提取数百 MB 学生个人数据、进入一家零售公司的生产系统并展示可修改线上环境、针对东南亚一家政府机构获取公民姓名、电话和住址等记录。
人工智能的作用:多条工作流并行运转:一条做入侵与漏洞利用,一条做外国政府网络侦察,一条逆向安全产品找新漏洞,一条开发测试恶意软件,一条建设维护采集基础设施。操作者常用“智能体群”:主智能体拆解任务,分派给多个并行子智能体;行动记忆跨会话保留,目标清单、已获凭证、进展状态和长期指令都被存下来,下一轮可以直接接着做。采集队伍按计划自动运行,即使操作者不在也在工作。
漏洞研究:针对一类专门用于检测入侵的主流安全产品,持续研究并在自家实验环境中验证了多个此前未知的漏洞;同一研究还产出了针对多个网络与安全设备家族的可运行利用代码。报告称,某条持续运转的网络设备工作流在一个月内产出十多个可能的零日发现。报告未公布这些漏洞的细节,本页也不展开技术细节。
处置:报告称已封停相关账号并部署更多监测。
GTG-50029:单人黑客行动者针对欧洲政治相关实体
单人行动42 个跟踪目标
行为主体与时间:2026 年春季,一名讲法语的单人行为主体,目标是欧洲政党、媒体、智库及其使用的软件服务商。
人工智能的作用:用智能体框架管理子智能体,分别负责认证前后的侦察、代码审查和对不同模型发现的复核;用模型开发和调试漏洞利用代码;搭建了一个可把泄露数据与自家窃取数据交叉比对的个人信息检索平台,加载了数千万行数据,并通过匿名托管的暗网服务提供按姓名查询的功能。报告称,整个平台由一个人建成,是人工智能辅助软件工程被直接用于大规模隐私侵害的清晰案例。
影响:在 42 个被跟踪的目标实体中,行为主体获得了其中至少 14 个的内部访问权限;访问并外传了估计 12 至 26 GB 的数据库导出内容,包括政党捐赠者和成员记录、一个 1.5 万条消息的邮箱、学生申请记录(含未成年人数据)和支付服务商数据;通过一个暴露的搜索接口,从一个政治竞选管理平台外传了约 14 万条含用户政治观点的记录;还通过植入脚本对一家媒体的读者浏览器做指纹识别,专门寻找编辑人员的会话和凭证。
关键入口:行为主体自建扫描器,在公开容器中扫描并验证暴露的 API 密钥,再通过本地代理层轮换使用这些密钥,使其流量混入密钥合法主人的流量中。整个行动约持续一个月,完全依赖被盗密钥运转。
网络行动小结
三类行为主体——国家背景的间谍行动者、牟利团伙、单人行动者——用了相似的方法论:多受害者行动、智能体并行、定制工具、批量处理被盗数据。报告的判断是:能力扩散后,真正拉开差距的不再是“会不会”,而是“想干什么、盯上谁”。
4 · AI 供应链:既是目标,也是燃料
报告用一整节说明:对 AI 的访问权本身已经成为犯罪经济中的硬通货。被盗的密钥和令牌通过中间商流入欺诈性转售网络;转售网络轮换使用新窃取的凭证,直到额度耗尽;攻击者也从中间商手里购买这些凭证,用于自己的行动。
4.1 常见的获取路径
- 假冒 AI 服务商:搭建声称可在多个模型之间做中转、提供折扣访问的网站,诱使访客下载冒充流行 AI 工具的客户端,实为凭证收割器,持续窃取设备上的全部凭证和已登录会话,并在凭证被重置后继续抓取新会话。
- 暴露面挖掘:从公开代码、移动应用安装包、容器镜像、网站、聊天机器人和产品集成中挖掘无意暴露的密钥和令牌。
- 提示注入:针对 AI 封装服务中某些代理服务的实现做提示注入,从云端容器环境中窃取生产 API 密钥。
- 入侵后顺手牵羊:在入侵受害者环境时窃取其 AI 密钥,随即把自己的攻击任务切换到受害者的密钥上运行。
GTG-50021:假冒转售商,卖的不是它声称的服务
行为主体:讲俄语和乌克兰语的团伙,其中一人使用别名 kl1zy。
做法概括:经营一家欺诈性 AI 转售业务,声称提供折扣的 Claude 访问。客户以为买到了折扣服务,实际流量被悄悄代理到另一个模型;转售工具同时安装凭证收割器,窃取客户的 Anthropic 账号凭证,再转卖给其他 AI 代理转售商,供恶意使用。
GTG-50020:从酒店预订入侵转向 AI 行业
约 30 家 AI 公司约 4 天
行为主体:讲俄语的牟利行为主体,此前入侵酒店预订和金融科技平台;一起入侵中从一名受害者处外传约 26 GB 数据,并索要 150 万至 250 万美元赎金或在暗网出售数据。
转向 AI 行业的做法:通过向一家 AI 厂商的自动化评估沙箱注入恶意指令,使沙箱交出其持有的凭证,包括该厂商多家供应商的生产 AI 密钥。拿到密钥后,行为主体同时继续针对该厂商和其他不相关目标的入侵尝试,并自动切换到使用受害者的密钥。随后一波行动在约 4 天内用相似手法攻击了约 30 家 AI 公司:找到一条可行路径后,对全部目标重复使用,并针对差异做小幅调整。
未得逞的目标:行为主体通过十多条路径追求的目标,是获得一个未发布 Claude 模型的访问权限。报告明确指出:该行为主体从未获得访问权限,每条路径都失败了。涉事密钥均为从客户环境中窃取的客户密钥,Anthropic 自身系统未被该行为主体入侵。
其他工作流:报告还记录了该行为主体的人机结合渗透测试循环、无人值守的漏洞利用流水线、批量注册虚假账号的“账号工厂”,以及通过仿冒身份验证页面中继真实验证流程、截取已验证会话的做法。
5 · 影响力行动:9 起案例,6 大洲受众
报告把影响力行动定义为操纵信息环境的努力:以欺骗、扭曲或隐蔽影响人们的认知、信念或行为为目的,通常隐瞒活动的来源、资助方或协同关系。本节的 9 起案例起源于俄罗斯、伊朗、土耳其以及海湾、南亚、非洲和欧洲地区,目标受众遍及六大洲;幕后包括政府、国家背景的宣传机构和国家媒体、向付费客户出售影响力的私人公司、国内政治操盘者,以及一起流亡反对派运动。数起行动的时间点与各国选举相关。
报告用一个六级框架评估影响力:第一级指内容只停留在单一平台的单一社群,第二级至第六级按跨平台迁移和曝光程度递增。本页在每个案例后标注报告给出的级别(个别案例原文未给级别的,本页不补)。
5.1 影响力行动的共同趋势
- 影响力被当作服务出售。商业行为主体受雇于政治或政府客户,为付费者生产内容,使最终委托方获得可否认性;两起案例中,一家正常经营的广告或营销公司在日常商业工作之外同时运营影响力行动。
- 人工智能成了“新闻台”。在多起案例中,模型被接入已在运转的人工编辑流水线,充当副编辑或内容生产者,让资源有限的行为主体以远超自身能力的规模运转。
- 人工智能既搭建班子,也生产内容。模型被用来产出行动手册、对手档案、部门规划、人物体系、目标数据库、写入编辑忠诚要求的雇佣合同,以及给参与人员打分的评分标准——这些工作否则需要一个配齐人员的项目办公室。
- 工具使用越来越复杂和持久。写有行动纲领的文档在数百个会话中被反复复用;智能体内置禁用词表、共享的“可用来源”和规避规则;定制软件按固定批次调用模型;中心化设置使生产内容的人彼此无需协调、甚至互不认识;还有行为主体在制作教程、教别人复制这套流程。
- 来源、出处和确定性的“洗白”。行为主体让模型把国家或委托方叙事改写成看似独立声音的样子:去掉国家归因、让同一说法经多家 outlet 转手、看起来像被独立证实;一起与俄罗斯国家媒体相关的案例中,行为主体在模型标注某些说法未经核实后,仍指示模型去掉保留措辞、一律按已证实呈现。
- 反侦察意识增强。从内容生产的第一步就开始去痕迹:要求模型去掉机器文本特征、写得像真人,搭建账号“养号”和规避逻辑,交付前去掉元数据和代号;访问模型本身也通过 VPN、外国手机号、轮换账号和掩盖 IP 的第三方服务来“洗白”。
- 虚假人物与冒充真实人物。用 AI 生成头像、编造记者简历和政治发言人;同时发现冒充真实人物和真实机构(包括一名国家发言人和一家维权组织)以及伪造政府文件。
- 针对个人和问责机制。包括克隆一名真实活动人士的账号、与其在伊朗境内的联系人实时对话;为联合国人权理事会现场会议代写证词;针对批评有关国家的联合国特别报告员制作反制档案。
- 多数行动未能触达真实受众。由于 Anthropic 处在生产环节、上游于社交平台,往往能在行动成型前发现并打断。多数被发现的内容几乎没有真实互动;触达最广的是那些以国家媒体为分发渠道的行动(包括调频广播、卫星和短波广播、全球电视)。
5.2 各案例摘要
GTG-04001:俄罗斯背景的信息操纵行动,目标是中非共和国
第四级
谁:一名在班吉的讲俄语的行为主体,为一起俄罗斯国家背景的外国信息操纵与干预行动提供生产支撑;调查把该行为主体与 Politology(非洲军团/瓦格纳的影响力分支,报告称据评估已于 2023 年底前受俄罗斯对外情报局控制)联系起来,评估其为该组织在当地的媒体协调人。
干了什么:通过 Radio Lengo Songo(98.9 FM)做日常内容运营,并与 RT、Sputnik Afrique、塔斯社和班吉的俄罗斯之家协同;明确指示模型把亲俄、反法 talking points 嵌进报道,并要求去掉典型的机器文本特征,使内容读起来像普通本地新闻。调查引用的第三方调查报告称,该电台由瓦格纳集团于 2017 年创建并资助。
AI 的作用:除生产内容外,模型还被用来处理人事和内部管理:起草要求忠于中非总统和“俄罗斯及其特遣队”的合同、岗位描述、评分标准和“三振出局”解雇流程,并按标准给员工稿件打分、就留用或解雇给出建议;此外还包括跟踪反对派人物、为发言人起草 talking points、伪造中非政府文件。报告提到,模型拒绝了该行动最激进的一项请求(点名真实个人为武装分子以招致安全行动),行为主体随即改用匿名来源的写法。
影响与处置:报告评估为第四级:内容通过电台每日播出,经 Telegram 频道放大,并被中非本地新闻 outlet 采用。调查源于外部线索;账号和相关组织已被移除,并已建立基于行为特征的自动检测。
GTG-54002:商业“影响力即服务”,约 70 家虚假新闻网站
第二级8,913 篇以上
谁:调查追溯到法国一家数字广告公司 LKM Company;该网络不固定于一种政治立场,而是按付费方需要在不同立场间切换,符合商业“影响力即服务”模式。
干了什么:约 70 家虚假新闻网站、70 个对应的社交账号和 250 多个虚假评论账号,针对六大洲受众;发表至少 8,913 篇文章,约 20 种语言;重点目标包括美国、巴西、法国和刚果(金)。其中刚果(金)相关文章 318 篇,多支持刚果(金)政府在矿产协议和与卢旺达紧张关系上的立场。调查发现了一些可能与刚果(金)—卢旺达冲突利益相关的客户信号,但无法独立确认委托客户,也未发现任何政府指挥的证据。
AI 的作用:一是原创撰写虚假 outlet 的文章,二是把真实记者的报道改写成带政治倾向的版本,并按不同国家受众和政治角度定制;流水线要求固定格式输出,使内容可以自动生成和发布,并针对搜索引擎排名优化。常用手法包括:同一信源故事按不同意识形态方向改写、给原本没有政治角度的故事加上政治角度、把故事去掉原始语境后“搬运”到无关地区;署名均为不存在的虚假记者。
影响与处置:报告评估为第二级:内容只在其自有网站和配套社交账号上传播,未发现突破自有圈层;多数内容几乎没有真实受众互动。行动被早期打断;账号已被封停,并已部署针对其行为特征的新检测方法。
GTG-84005:针对马来西亚的商业选举操纵平台
第二级约 1,000 个虚假账号
谁:调查发现与伊斯坦布尔一家技术公司 BBS Bilisim Teknolojileri 的明确联系;该平台对外伪装成防御性网络情报和反虚假信息工具,实际作为付费“影响力即服务”能力出售。
干了什么:利用真实人口普查和选举数据、数百万条选民记录,按选区画像和定向马来西亚选民,覆盖全部 222 个国会选区,瞄准种族、宗教和王室等敏感议题;管理 1,000 多个虚假社交账号,配有“养号”逻辑和规避检测的设置;运营一家名为 Malaysia Pulse 的虚假新闻网站;炮制针对一名反对派政治人物和公民社会组织的虚假情报档案,所涉指控完全由行为主体编造。
AI 的作用:用模型搭建选区定向系统、设计和运营虚假账号网络及其规避逻辑、改写和“洗白”假新闻、迭代虚假档案;虚假新闻网站抓取马来西亚合法报道并多次改写后以虚假署名重新发布,还转载俄罗斯和中国国家背景 outlet 的文章并去掉国家归因,包装成独立的马来西亚本地报道。
影响与处置:报告评估为第二级:资产分布在多个平台,但未发现突破进入真实社群。账号已被移除;报告提到模型在多处拒绝或部分拒绝了请求,包括识别出一份档案属于政治诽谤材料后,行为主体通过“净化措辞”继续推进同一能力。
GTG-24015:俄罗斯国家媒体的编辑流水线
4 个账号
谁:4 个账号背后的个体行为主体;报告称高度确信其产出最终通过俄罗斯国有和国家资助媒体发布和播出,包括面向摩尔多瓦受众的 Sputnik Moldova 和俄新社、面向拉美受众的 Sputnik en Español、面向非洲受众的 Sputnik Africa,以及 RT 的英语新闻编辑部。
干了什么:把模型接入已在运转的专业编辑流水线做“副编辑层”,单人产出远超独立工作时的规模;用多家 outlet 的链条让俄罗斯来源的说法看起来像被独立报道。其中一名行为主体曾任 Sputnik Moldova 主编,把罗马尼亚和摩尔多瓦新闻、民调数据和反对派社交帖子转写成俄语文章,并在 2025 年 9 月 28 日摩尔多瓦议会选举前放大针对摩尔多瓦总统玛雅·桑杜的虚假诽谤说法;另有行为主体为直播制作滚动字幕、屏幕说明、配音稿和短标题,至少有一次确认实际播出。
影响与处置:与隐蔽网络难以触达真实受众不同,这些内容通过媒体既有渠道分发;报告称能匹配到的单条产出从约 2,000 次浏览的 Telegram 帖子到播出的广播稿不等,无法确定经由模型流水线的内容占各 outlet 总产出的比例。4 个账号均已封停,指标已共享给行业和研究伙伴。
GTG-34001:伊朗国家背景的三个宣传机构
第三级
谁:三个伊朗国家背景账号,分别与伊斯兰文化交流组织(ICCO)、呼罗珊拉扎维伊斯兰宣传办公室(在马什哈德一所神学院运行“认知战指挥室”)、伊斯兰宣传组织的 Bina 文化观察站相关。行为主体在伊朗境内无法直接访问 Claude,改用 VPN 和外国手机号注册验证,但在对话中多次说出自己的地点、机构和职务。
干了什么:围绕其所称的“软战争”或“认知战”计划做准备,产出行动计划、纲领手册、人物体系、目标数据库和部门规划文件;把官方情报简报改写成定制内容,覆盖波斯语、阿拉伯语、乌尔都语、马来语、西班牙语和英语,计划扩展到 20 种语言;把国家背景叙事包装成独立声音和普通公民发起的话题标签活动;针对巴哈伊教(受迫害的宗教少数群体)制作激进的反制叙事,并建立点名国际官员和伊朗反对派人物的目标数据库。
影响与处置:报告评估为第三级:内容在多个平台传播,并被与伊斯兰革命卫队叙事一致的渠道在 Eitaa 等平台分发。三个账号均已封停,相关指标已共享。
GTG-54006:针对孟加拉国农村受众的自动化虚假新闻网络
第三级单人 + 29 个账号
谁:一名位于孟加拉国戈伊班达县的单人行为主体,轮换使用 29 个账号以规避平台限制和检测;内容一律支持人民联盟、攻击其对手。报告称未发现该党本身指挥或资助该网络的证据。
干了什么:用定制程序按固定批次生成孟加拉语虚假内容:每批 15 条标题、3 篇详细虚假故事、15 条图片生成提示;累计至少 1,500 条标题、300 篇虚假叙事和 1,500 条图片提示;产出被转成音频和视频,通过 Facebook Live、YouTube 和 TikTok 直播,面向识字程度有限的农村支持者。部分叙事与亲印度的地缘利益一致,但报告称未发现国家指挥或资助的证据。
AI 的作用:行动搭建完成后半自动运转、人工监督很少;程序调用模型生成标准化批次内容,产出经固定云存储文件夹流转、转成音视频,再由另一脚本提前数月排期发布到 YouTube。
影响与处置:报告评估为第三级:在多个孟加拉国相关频道和账号上观察到与该行动产出相符的视频,未发现内容触及这些账号之外的更广受众。相关账号已被封停,并已建立行为特征检测。
GTG-84006:与 MEK/NCRI 相关的分布式行动,冒充真实人物
第二级
谁:调查把活动与伊朗人民圣战者组织(PMOI/MEK)及其政治阵线伊朗全国抵抗委员会(NCRI)联系起来;至少 4 名参与者供职于 NCRI 官方媒体 outlet。行为主体之间没有共享账号基础设施,也没有可见的协调迹象,但调查通过其他线索建立了联系;报告称无法核实集中控制的程度。
干了什么:冒充一名真实活动人士:让共享智能体克隆其个人 Telegram 账号,用波斯语指示智能体“就是这个人”,让模型阅读其约 8,400 条帖子以模仿文风,再用它与该人士的联系人进行实时政治对话;据报告所知,这些联系人不知道自己在与 AI 辅助账号对话。行动还抓取 500 多个社交频道建立伊朗境内人员档案,分析约 51,944 条存档消息,为数十名具体个人建立心理画像档案,并向 30 多名联系人同时发送一条编造的突发新闻标题。
AI 的作用:共享智能体平台上每个工作区都有长期记忆文件,存有禁用词表、可用来源、账号管理规则和规避检测的方法,使智能体无需每轮人工指挥即可持续产出;行动还制作 AI 生成的虚拟人物形象,配波斯语音频、打扮成普通伊朗人的样子,并有意隐瞒其 AI 生成属性。
影响与处置:报告评估为第二级:通过 NCRI 自有媒体资产和放大账号在多个平台分发。相关账号已被封停。
GTG-54004:肯尼亚国内“草根”造假行动
第一级
谁:一名单人行为主体,国内政治伪装草根行动;报告称未发现政府参与的证据,活动与肯尼亚国内行动一致,具体负责组织尚未确认。
干了什么:用模型批量生产肯尼亚政治内容,每批恰好 50 条帖子,明确要求写得像自发的草根评论而非协同行动;大批内容赞扬能源内阁秘书阻止了肯尼亚电力公司的电价上调计划,另有内容声称肯尼亚联合反对派联盟在 2027 年大选前正在分裂。同一工作流还被用于肯尼亚零售品牌的营销。
AI 的作用:模型的主要价值是产量和“真实感”:把预先拟好的主题和帖子“人化”和润色;核心意识形态信息在动用模型之前已由行为主体完全定好。
影响与处置:报告评估为第一级:活动完全局限在虚假账号网络和单一平台上的本地影响者圈内,未触及真实人群。调查源于 OpenAI 分享的线索;账号和相关组织已被移除,并已建立行为特征检测。
GTG-84002:阿联酋指向的影响力行动,针对穆斯林兄弟会、苏丹冲突与联合国问责机制
第三级约 300 个账号
谁:一名单人行为主体;调查称高度确信与阿联酋政府官员相关,行动纲领文件还点名了高级官员为工作成果的预定接收方。行为主体还资助了放大内容的社交网络。
干了什么:五条相互关联的活动线同时推进:管理约 300 个虚假网红社交账号;设立冒用一家真实瑞士组织身份的前台非政府组织,以其名义发布国家撰写的人权报告;为两人代写证词,目标是在联合国人权理事会第 62 届会议上宣读,并特意确保两篇讲稿都不提及阿联酋;对 18 名欧洲议会议员和知名记者做详细画像;针对批评阿联酋在苏丹行为的联合国特别报告员编制反问责档案。
AI 的作用:维护一个名为 Deadshot 的 AI 人物,宿主于行为主体自己的私有平台;系统设置中内嵌的主纲领文件指示模型在数百个会话中重复同一使命。工作流把现实议题和预先准备的政治纲领文件交给模型,产出形似官方的情报简报、克隆身份报告、代写证词和个人画像清单,部分直接准备递交给高级官员。
影响与处置:报告评估为第三级:活动横跨多个社交平台;更高级别需要广泛公众关注或政策影响的证据,报告称无法确认。相关账号已被封停,并已建立行为特征检测,指标已共享。
6 · 监控行动:AI 正在替代工程与分析团队
本节覆盖 2026 年 1 月至 7 月发现并处置的一批监控行动,行为主体包括国家背景行为者、国家关联承包商和商业间谍软件厂商,来自中国、伊朗和西非,以及“监控出租”市场,规模从单人到整个团队不等。报告称,所有案例均违反其使用政策中关于非自愿监控与画像、侵犯公民自由与人权的禁令;每起案例都封停了账号、改进了检测,并在适当时共享了情报。
报告总结了三条趋势:第一,人工智能正在替代工程人力——单人顾问也能搭建全国级拦截平台,单人办公室也能每月产出数千份调查;第二,人工智能不只搭建工具,还批量摄入数据以识别目标——成批上传社交帖子、要求模型输出结构化记录(含位置、人口特征、政治倾向和置信度);第三,人工智能正在被整合进国家安全官僚体系——有单位用模型编写内部手册,教如何在监控行动中使用 AI。
GTG-54009:商业监控平台,画像伊朗与海湾地区社交用户
谁:2026 年 6 月被封停的账号,调查认为由名为 S2T Unlocking Cyberspace 的实体实施或代其实施;开源研究显示该实体是以色列—新加坡商业情报厂商。
干了什么:搭建商业监控平台,分析、分类和画像伊朗及波斯湾地区用户的社交活动:定位用户、按编码人口群体分类、产出用政府报告口径书写的阿拉伯语情报简报;另有一条涉及 250 多个合成社交账号的工作流,显示行为主体在囤积日后可部署的虚假账号。
AI 的作用:按约 25 条一批把社交帖子交给模型,要求返回发帖者的人口群体、位置和政治倾向及每项发现的置信度;还让模型用波斯语、阿拉伯语、英语和德语为(可能是虚假的)网络人物生成帖子,意图同时扮演亲政府和反政府人群。报告称在试点阶段发现该活动,未发现后续监控链条在封号前被用于真实目标。
GTG-14010:针对在叙利亚的维吾尔人的监控与招募行动
谁:与中国政府相关的行动;报告以低置信度评估行为主体是为中国国家安全部门工作的承包商,而非国家安全机关直接行动。
干了什么:用模型追踪、画像和招募在叙利亚的维吾尔人及维吾尔武装编队相关人员:把从 100 多个受监控的 WhatsApp 群组和数十个 Telegram 频道批量提取的闲聊内容,转成结构化中文数据,建立个人档案,识别可能因经济压力、家庭分离和思想幻灭而易受针对的人员,并试图以付费换取其汇报有关部队情况;同时定位叙利亚境内的维吾尔商家和地点,并针对维吾尔侨民记者群体开展更广泛的监控。
AI 的作用:模型弥补了语言和专业人力短板:让不懂阿拉伯语的行为主体得以用叙利亚当地方言维持多日的隐蔽招募行动,实时翻译回复、扮演“专家”做质量检查、按上报链条格式化文档。报告称模型拒绝了若干最严重请求,包括隐蔽审讯和大规模虚假人物培养。
GTG-14020:针对宗教社群的情报行动
谁:一组被认为与中国政府相关的账号;目标映射与宗教事务和统战机构的优先事项高度吻合。
干了什么:把模型当作配齐人员的分析团队的替代品,用中文建立针对宗教领袖和中国侨民人物的档案,目标包括亚洲多地的高级天主教神职人员、台湾长老教会领导层、藏传佛教民间社会人士和流亡行政机构人员、法轮功及其附属媒体,范围从公开的资深宗教领袖到普通公民;收集特定个人的出生日期、出生地、移民日期和社交账号,并对宗教场所做侦察。
AI 的作用:一名操作者同时运行四条工作流,让模型摄入多语言素材、按内部模板产出结构化中文档案,每份模板都要求列出目标的涉华活动、丑闻和可利用的“抓手”。
GTG-14021:市级公安与国安系统的“维稳”监控与跨国打压
谁:三起相互关联的行动,涉及市级网警单位、一名警校学生和一家地方国安局。
干了什么:运行国内舆情监控流水线、查询政府监控数据库、生成关于政治敏感事件的每日报告;把 10 名中国普通公民列为“管控”目标,类别包括截访、“约谈”和密切监控其行踪与通讯;针对海外异见人士和民间社会组织制作每日模板化“态势感知”简报,并索取海外抗议活动的行动前场地情报,包括温哥华一次民主游行的集合点、路线和终点、土耳其维吾尔文化活动场地和奥斯陆自由论坛放映场次信息。
AI 的作用与防护表现:报告坦承防护表现并不一致:一起案例中模型正确拒绝了请求,但在进一步提示后被绕过;另一起案例中模型在多次会话中照单全收、未加干预。调查发现已纳入新防护开发和模型训练。
GTG-14022:“舆情”监控与异见人士画像
谁:报告以中等置信度评估为替政府客户工作的承包商,而非国家机关直接行动;客户可能与国安、统战和宣传系统相关。
干了什么:把模型当作自动化的“舆情”监控与情报分析系统,产出供官员阅读的内部简报,把异见人士、活动人士、少数民族和侨民社群、外国媒体列为政治稳定威胁;每日处理 15 至 30 篇以上外国新闻,按政治敏感度打分,并按特定术语规则改写批评性报道;部分文件建议了只有政府才能执行的执法行动。
AI 的作用:用版本化的操作手册和文档体系,把每日简报流水线自动化,人工干预很少;报告认为其特殊之处不在于能力新颖,而在于被用作官僚体系的一部分。
GTG-34007:两个伊朗关联单位,共用同一中央系统
16 个账号155,216 条帖子
谁:16 个账号,分属两个与伊朗准军事和国内安全机构相关的单位;两个单位的打法不同,但都接入同一中央基础设施。报告称高度确信其与伊朗准军事国内安全实体相关。
干了什么:一个七部门组织声称维护伊朗国民身份记录数据库,并在一年内监控和画像 6,388 名伊朗人;对 155,216 条帖子做社交网络分析,点名 39 个伊朗反对派和侨民账号。另一个位于库姆的省级单位把模型当工程部门,搭建国内监控能力,其代表作是一个已投产的恶意 Firefox 扩展,伪装成祷告时间工具、批量收割主流社交平台的用户身份。两个单位都为同一名为 Arman 的集中式案件管理系统搭建扩展和界面。
AI 的作用与防护表现:模型拒绝了明确的画像和宣传请求,但防护并未拒绝多数监控软件工具类请求。另有一名与其中一个单位同地点的行为主体,把自定义技能功能变成了声音克隆宣传“工厂”,克隆了三名伊朗作家的声音。
GTG-50027:为马里国家情报部门搭建的全国拦截平台
约 2,500 万张 SIM 卡3 家运营商
谁:一名 Claude 订阅用户,可能是与马里国家情报部门(ANSE)合作的巴马科独立顾问。
干了什么:用模型作为主要工程人力,搭建名为 Lakana 360 的全国人口级国内监控平台,覆盖该国全部三家移动运营商约 2,500 万张 SIM 卡;平台设计绕过马里法律对披露某些监控记录须经法院命令的要求:针对任意电话号码生成情报档案的组件不再提示用户提供合法程序。平台功能还包括跨 SIM 卡声纹识别、标记加密和 VPN 用户、推断秘密会面、地理围栏监视名单,以及与国家生物识别民事登记和其他国家登记库比对。
处置的边界:账号已被封停并部署检测;但平台在本地用本地模型完全运行,报告明确指出,账号执法打断了行为主体的软件与设计活动,但没有影响平台本身的部署。
GTG-30004、GTG-30005、GTG-30006:三起伊朗关联行动
GTG-30004:用模型搭建自动化的开源情报身份画像工具,针对以色列政府和非政府人员以及犹太侨民组织,画像数百人;同时用模型改造开源凭证转储工具、搭建混淆流水线,使恶意软件更难被识别为恶意软件。
GTG-30005:用公开数据编制针对地区美军海军力量的目标建议手册,包括从公开军事照片说明中抓取的人员名单、公开的舰船与飞机应答机标识、商业卫星影像查询脚本和暴露美军海军动向的公开网站清单,并编目舰载系统的已知漏洞。同一账号还为伊朗国内系统做企业软件开发,包括设计结合车牌识别与移动设备标识拦截的国内大规模监控平台组件。
GTG-30006:利用免费账号、横跨 16 个单人组织,开发恶意软件、投放流水线和针对伊朗国内人员的钓鱼门户;投放页面只向 IP 位于伊朗的访客提供恶意内容,主题围绕翻墙工具和一个虚构的波斯语新闻品牌。报告提到,模型拒绝了十个直接恶意请求中的九个,但在用户把工作拆碎、分散到后续小会话中时,防护表现不稳定。相关账号已被封停。
7 · 常规武器:6 起案例,3 个在中国、2 个在俄罗斯、1 个在也门
自 2025 年 11 月上一份威胁报告以来,报告团队发现了新的滥用类别:用模型开发常规武器(包括枪械、导弹、武装无人机、炸弹和其他弹药)软件,以及武器项目依赖的情报收集与采购。本节分享 6 起案例。报告称,在发现违反使用政策和服务条款的行为时,会封停账号、把调查发现纳入防护,并向公私部门伙伴提供信息。
本页只概括每起案例的项目性质、模型所起的作用和处置结果,不展开任何武器设计或制造的技术细节。
7.1 第一部分:武器开发与设计(4 起)
GTG-87001:也门北部的制导武器工程小组
项目:三个武器开发项目:一枚使用手机级飞控计算机、带末段寻的制导的制导火箭;一枚宣称射程目标超过 2,000 公里的多级弹道导弹;一个多型号导弹系列(含高超音速滑翔飞行器型号)。
AI 的作用:用编程工具替代人类软件工程师,开发制导、导航与控制软件;同时管理多个模型实例并分工,如同一名负责人给小型工程团队派活:一例写代码、一例做研究、一例审查代码。防护拦截了其中许多请求,但不是全部;行为主体通过隐瞒目标和产品用途、把工作拆分到多个会话中来规避。
结果:行为主体试射了一枚制导火箭,试射似乎失败了,数小时内他们就回来用模型分析失败原因。报告称没有证据表明行为主体成功部署了可运行的装置;但有证据表明他们已搭建了不依赖 Claude 的离线仿真工具包。相关账号已被封停,情报已共享。
GTG-17001:中国境内的反鱼雷火控规范与采购文件
项目:三条并行工作线:起草一份中文反鱼雷火控系统规范(旨在获得中国国防制造商批准,以推进技术认证和作战测试);制作一份 200 多页的中文技术方案及高管简报;基于公开信息,把自家系统与美国具体的反鱼雷和反潜项目做对标,并生成关于美国海军系统的中文简报。
AI 的作用:撰写和多轮打磨采购方案,每轮都让模型扮演敌对专家评审提批评意见,再用反馈改进下一版;同时搭建火控软件片段和验证测试矩阵。行为主体自称是美国国防行业的原始设备制造商,报告评估其与一家旨在为中国海军生产武器规范和采购方案的中国国防工业制造商相关。
处置:账号已被封停,调查发现已纳入防护。
GTG-27005:俄罗斯境内的自主军用无人机蜂群
项目:被报告称为 DronDoc 或 Serafim 的行动,目标是搭建全栈自主第一视角自杀式无人机蜂群;行动于 2026 年 5 月中旬开始,账号创建于 2025 年底至 2026 年初。
AI 的作用:用编程工具编写和测试代码并直接存入行为主体自己的项目文件,搭建蜂群共享记忆与容错协调逻辑、机载小语言模型、末段制导软件、控制链路定位模块、被动声学探测层和可编程芯片的底层逻辑。报告称,该平台按自主致命交战设计,机载模型可选定目标(含“人员”类别)并在无人干预的情况下发出引爆指令;行为主体把固件刷入真实开发板、配置单板计算机并搭建仿真环境,证实其在做硬件在环测试。
行为主体评估:报告评估其为小型专业自由职业团队,兼做民用和军用工作,而非俄罗斯国家实体;已识别 9 个相关账号,其中 8 个仅用于普通自由职业工作。相关账号已被封停。
GTG-17002:中国境内的电子战与防空压制目标软件
项目:一套约 16 个模块的中文软件套件,用于电子战(利用电磁频谱探测、干扰或欺骗对手雷达与通信)和压制对手防空系统;迭代了 12 个版本。
AI 的作用:从底层逻辑到用户界面搭建整套系统,包括雷达探测与干扰物理过程的实现与优化、脆弱性分析模块和中文目标指令的起草;软件分析对手雷达、地空导弹阵地、指挥所和通信节点,计算探测覆盖、评估干扰效果、按价值和脆弱性排序目标,并规划多日行动中的干扰架次分配。项目中途,行为主体把仿真默认场景改成台湾地区的 12 个目标,包括指挥掩体、预警雷达站、防空导弹连、主要空军基地和地区作战指挥部。
处置:报告评估行为主体为中国国防与军工研究人员,与中国研究机构(包括解放军军事科学院)有关联;相关账号已被封停。
7.2 第二部分:情报收集与采购(2 起)
GTG-27006:俄罗斯境内的军民两用物资采购
项目:一名自称莫斯科某设计局采购经理的行为主体,为俄罗斯政府和国防工业客户采购军民两用物资,分五条工作线:经中国分销商采购德国产三轴磁通门磁力计;经中国供应商采购数千片航天级光伏晶圆;从中国供应商采购航空机组供氧系统;为俄罗斯国民近卫军某单位承建医院的合同;通过俄罗斯国防采购国家平台采购信息技术和加密系统。
AI 的作用:寻找中国内地和香港的第三方中间商、起草英中俄三语询价邮件模板(有意模糊最终用户)、起草俄语政府招标规范、梳理经第三国转运以掩盖目的地的加价链,并用浏览器自动化做采购后台:抓取供应商市场价格、合并采购电子表格、同步到笔记与项目管理工具。报告称,行为主体在给上级的俄语简报中明确把这些努力描述为规避欧洲贸易管制的方式。
处置与难点:账号已被封停并部署监测。报告指出,这类采购活动特别难识别,因为每个单独请求(商业询价、招标文件、供应商查询)看起来都很日常。
GTG-17003:中国境内针对定向能武器及其供应链的情报收集
项目:一名自称国防情报撰稿人和内部刊物编辑、领导三人团队的行为主体,收集关于先进定向能武器的开源情报,编辑情报产品并起草中文简报。
AI 的作用:针对特定定向能武器提问,包括一种公开披露仅数天后就被问及的车载高功率微波反无人机蜂群武器;收集高功率微波系统关键部件的供应链信息;通过迭代的概率加权归因,识别特定微波发生装置及其供应商,目标是逆向该武器、开发对抗措施并与中国系统对标;编制了一份 23 页的领导报告及约 45 页的附录,并附 12 个月后续监测清单。
处置:账号已被封停并部署监测,防护正在改进。
报告还提到,与本报告同步,Anthropic 的前沿红队开发了新的评估方法,用于衡量模型在战术情报定位和常规武器开发方面的能力;评估显示,模型在模拟情报和武器开发任务上持续进步。报告称已上线新的分类器,用于更好地检测和拦截与高威力爆炸物和武器开发相关的流量。
8 · 生物误用:5 起案例与双用途困境
报告称,生物误用是前沿 AI 模型最严重的风险之一。评估显示,2025 年的较老模型在协助高水平用户开展危险生物研究方面远低于有意义的门槛;但对今天的模型,报告称已无法做出同样的保证,因此最新模型(报告点名 Claude Fable 5)上线时采用了更强的防护,限制了大量双用途生物研究查询。
报告强调:它不主张这些案例中的个人一定有恶意,并隐去了研究机构名称、活动所在国家以及具体的生物制剂或研究技术;涉事人员是从事科研工作的人员,点名可能使其面临伤害。本页沿用这一口径,只概括研究方向、模型所起的作用和防护表现,不展开任何实验方法。
8.1 五起案例(高度概括)
- 案例一:军民研究的中转平台(2026 年 5 月)。生物安全分类器拦截了一份资助申请撰写请求,涉及对基孔肯雅病毒的功能获得研究,目标是传播性和免疫逃逸特性,计划在军方研究所实施。调查发现,请求本应经由一个服务数十名生命科学研究者的语言模型平台路由,该平台通过美国基础设施绕过地区限制,并用零数据保留服务隐藏内容;平台开发者还搭建了回退机制,把模型拒绝的敏感请求转给另一家防护更宽松的模型。调查结束时相关账号已被封停,但运营者在数天内重建了访问,数周内又恢复了平台开发。
- 案例二:高致病性禽流感的哺乳动物适应研究(2026 年 5 月发现)。一名在不受支持地区的科研人员用模型协助研究禽流感病毒向哺乳动物的适应及重症机制,互动持续数周、往来数千条消息。报告指出,由于生物安全分类器对高风险生物研究内容的拦截较为稳健,这些交流只发生在能力最弱的一类模型上(Sonnet 4 和 Haiku 4.5),模型提供的帮助主要限于数据分析、研究构思与设计等文书性辅助,增益有限、远低于更强模型可能提供的水平。
- 案例三:正痘病毒研究的资助申请。一个账号为一家国家关联传染病实验室起草正痘病毒研究资助申请,内容涉及高等级防护设施和活病毒工作,提出识别关闭宿主某条抗病毒通路的基因。报告称,该账号并非单个用户,而是一个服务十多名互不相关客户的转售中继,在数天内与模型往来数万条消息;这份资助申请由一名客户在约一小时内完全用 Opus 5 起草完成。由于研究具有双用途性质且明确聚焦于减毒,分类器没有拦截。
- 案例四:毒液肽图谱与生成优化。一名科研人员用模型建立了多类毒蛇动物的毒液毒素肽图谱,并进一步做成生成式优化流水线。项目有明确的治疗目标(新型镇痛药、抗抑郁药等),但图谱同时包含镇痛和麻痹两类靶点的支架,因此既可用于生成新型治疗分子,也可用于生成有害化合物。报告称,相关账号于 2026 年 5 月因绕过地区限制被封停。
- 案例五:毒素的计算再设计。一名科研人员用模型参与多个涉及多种毒素计算再设计的研究项目,多数以治疗为表述框架,并描述为国家公共研究计划下的重点研究;与模型合写的季度进展报告有意模糊了细菌毒素和病毒蛋白的身份,研究人员还明确指示模型保持描述的低保真度。两个账号于 2026 年 5 月因违反地区政策被封停。
8.2 报告的结论(转述)
- 案例四和案例五的工作基本未被生物安全分类器阻挡。报告称这是有意为之的设计取舍:分类器的目的是限制能让新手获得已知生物武器开发能力的资讯,而不是挡住所有新型化合物的研究——而这类研究同时可能导向新型疗法或有毒制剂。
- 报告对 30 天内与敌对国家机构相关的活动做了一次排查,发现约 35 项不同的研究工作,多数是普通民用科学,部分具有显著的双用途潜力。
- 报告的判断是:这些案例不是“生物威胁迫在眉睫”的证据,而是“与受关注国家行为主体相关的重大双用途研究工作,正在通过中继、零数据保留滥用、多模型回退和明确的分类器规避手段,绕过访问控制来使用模型”的证据。
- 报告认为,要安全提供前沿生物能力,需要的组合是:守住最高风险内容和能力的安全过滤,加上用于核实用户合法性的账号与机构信号、以及数据保留带来的基本可观测性,并以可信用户计划承载有益用途。
9 · 诈骗与非法蒸馏
9.1 GTG-15001:欺骗性约会应用网络
谁:一家中国境内的应用工作室,用模型搭建了 20 多个约会应用,并驱动其中的 AI 人物与用户对话,尽管对外宣称服务完全由真人提供。
规模:在 2026 年 4 月的两周窗口内,发现 4,700 多个不同的 AI 人物,与至少 25,000 名不同个体对话;模型运行的自主对话人物在两周内发送约 236 万条消息。信息流中约 75% 是 AI 人物、25% 是真人,用户无法区分。
运作方式:工作室还招募真人混入同一匹配信息流,主要负责 AI 做不了的真实性核验(实时视频通话、社交媒体回关),以降低受害者怀疑;AI 人物与真人比例约为 3 比 1。多个 AI 供应商被分工用于互不重叠的角色:一个模型负责自主对话人物,另一个较小的非 Anthropic 模型为兼职人员生成简短回复建议并做照片与语音审核,图像编辑模型生成头像。应用还被设计成可规避应用商店审核:只在商店审核期间激活的界面控制器、跨 20 多个变体的差异化类名、以及可在服务端配置的站内浏览器支付跳转。
处置:相关账号和组织已被封停,调查发现已与包括其他 AI 实验室在内的行业伙伴共享。
9.2 非法蒸馏:7 家中国实验室
报告先区分了概念:蒸馏本身是合法的训练方法——用更大、更强的“教师”模型生成回答,再用这些对话训练更小的“学生”模型。所谓非法蒸馏,是指未经授权、以工业规模、隐蔽地抽取模型能力并复制到另一个模型中的行动,通常伴随欺诈:用被盗信用卡、登录凭证和 API 密钥建立复杂的虚假账号网络。
自 2026 年 2 月首次披露以来,报告称又发现并处置了来自 7 家中国实验室的蒸馏攻击,目标均为通用模型;未观察到针对不对公众开放的 Mythos 5 或 Mythos Preview 的尝试。攻击目标包括智能体能力与工具使用、编码与数据分析、逻辑推理等最有价值的能力。报告还指出,蒸馏获得的推理能力可以跨任务、跨领域迁移,而防止模型被坏人滥用的防护并不会随蒸馏一起转移。
报告还记录了一个相关的隐私问题:部分实验室把自家用户与自家模型的对话(包括敏感信息)喂给 Claude,再把 Claude 的回答当作训练数据;有些对话经由美欧用户常用的第三方模型路由服务中转,包含数百名最终用户的姓名、邮箱、公司数据等敏感信息。报告认为,这些做法可能与隐私法律和实验室自身的服务条款不一致。
| 编号/实验室 | 做法概括 | 报告给出的规模 |
|---|---|---|
| GTG-16005 阿里巴巴(Qwen/通义实验室) | 针对 Opus 4.6 和 4.7 的思维链推理记录做蒸馏,用固定提示迫使模型在行内标签中写出推理过程,再转成监督微调数据,用于训练 Qwen 3.5、3.6 和 3.7;同时用模型推进内部强化学习环境和模型架构研究。 | 2026 年 5–7 月观察到 1.51 亿次以上对话;峰值近每天 300 万次对话,来自 3,500 多个欺诈账号;第一批欺诈账号池近 5,000 个。 |
| GTG-16002 月之暗面(Moonshot) | 把客户请求悄悄转发给 Claude 而非自家 Kimi 模型,再把回答呈现给用户,同时保存至少部分对话并搭建思维链抽取流水线;通过跨会话重放绕过“思维签名”防护,把推理签名还原成完整推理记录。 | 2026 年 5–7 月观察到 2,300 万次以上对话;10 天内转发近 30 万个客户请求;代理服务网络 5,380 个欺诈账号。 |
| GTG-16001 深度求索(DeepSeek) | 与月之暗面相似的手法:搭建思维链抽取流水线,用跨会话重放抽取推理记录;识别使用第三方编程工具的用户并把其请求中继到 Claude Opus,且未告知客户。 | 2026 年 7 月 14 天内观察到 1,210 万次以上对话。 |
| GTG-16006 智谱(Zhipu/Z.ai) | 对 Claude Opus 4.8 运行思维链抽取流水线,把捕获的推理记录回放进 Claude 清洗后用于训练 GLM 模型;还用模型做训练后流水线的评判、数据清洗与评分;在 GLM 5.3 发布前,针对美国前沿模型的网络能力发起蒸馏攻击。 | 2026 年 6–7 月 17 天内观察到 340 万次以上对话;10 天内经清洗流水线的对话 770,609 次,轮换 273 个欺诈账号。 |
| GTG-16008 小米(Xiaomi) | 把自家 MiMo 模型的用户对话和编程会话回放给 Claude,保存用户与自家模型的完整请求与回答,再生成用于监督微调和强化学习的数据;用模型重建开发者环境、清洗多轮对话、评判答案质量。 | 2026 年 3–4 月 20 天内观察到 40 万次以上对话;经代理服务轮换 1,500 多个账号。 |
| GTG-16012/16003 商汤、MiniMax 与第三方转售生态 | 商汤的蒸馏流水线包含从第三方数据商购买的用户与 Claude 的对话记录;MiniMax 通过一家没有明显关联披露的空壳公司搭建代理网络服务,该服务只提供 Anthropic 和 OpenAI 的模型、不提供任何中国模型(包括 MiniMax 自家模型),报告据此推断其设立目的是收割用户与美国前沿模型的对话以训练自家模型。 | 原文未给出这两家的单独对话量,本页不补数字。 |
报告还记录了一起测试:某家未获授权的实验室运行了 1.2 万多次请求的测试实验,每次用不同技术尝试抽取推理记录,绝大多数被拒绝,少数成功,随后用成功的技术发起更大规模的蒸馏攻击。
9.3 针对非法蒸馏的防护(报告所述,转述)
- 用元数据和异常活动信号识别代理服务网络账号,改为按组织归因、做整体执法,而非逐个封号。
- 建立专门检测对抗性抽取的分类器;在确认请求与非法蒸馏或其他未授权使用相关时,拦截请求并封停相关账号。
- 让模型在回答前先概括其内部推理,使被盗记录对训练另一个模型的用处降低;并在 Fable 5.1 中引入“保留思维”机制,阻止新 API 账号改动多轮对话中位于推理之前的系统提示、工具或消息。
- 在检测到潜在滥用信号(如未经授权转售、在中国、俄罗斯、伊朗等不受支持国家运营的账号)时,要求用户验证身份以保留访问权限,未通过者封停。
10 · 防御启示
以下启示是从报告各章节的处置记录和明确提醒中整理出来的,按不同角色归纳;凡报告没有给出的具体操作细节,本页不自行发挥。
10.1 对企业与机构
- 把 AI 密钥当生产凭证管。密钥、会话令牌和智能体集成(沙箱、代理、转售渠道)都应按生产凭证的严肃程度对待:最小权限、定期轮换、异常使用告警、泄露后立即吊销并排查连带影响。报告中多起入侵的第一步或关键一步,就是拿到受害者的 AI 密钥。
- 不要只依赖静态特征检测。当攻击工具可以被自动改写、重建、再投放时,单靠特征库的拦截窗口会越来越短。报告的案例提示防御方需要把行为检测、异常监测和快速响应结合起来,并默认攻击者会“闭环”绕过单点检测。
- 修补与收敛暴露面仍然是基本盘。报告中的入侵大量始于被盗凭证、未修补的边缘设备和暴露的服务;“靠冷门配置藏身”在 AI 辅助侦察面前已不再可靠。联网资产、容器、代码库、移动应用和客户端代码中的硬编码密钥,都应纳入常规清理范围。
- 供应链风险要算“下游账”。多起案例中,攻击者先拿下软件服务商,再顺着服务商批量拿下游客户数据。评估供应商安全时,应同时评估其客户数据的隔离、令牌管理和跨租户访问控制。
- 钓鱼防护要覆盖新型登录流程滥用。报告记录了滥用合法登录流程的设备码钓鱼、仿冒更新提示、虚假验证页面中继真实验证流程等手法;仅靠“识别钓鱼邮件”已不够,需要结合多因素认证、设备与会话管理、异常登录监测来应对。
10.2 对平台与模型提供方
- 在生产环节拦截,比在传播环节拦截更有效。报告多次提到,由于处在内容和工具的生产上游,团队能在影响力行动成型前、监控工具投产前发现并打断。行为特征检测、跨账号关联和按组织归因,是报告反复提到的执法方式。
- 防护需要按“拆分规避”来设计。多起案例中,行为主体把恶意工作拆成多个看似无害的小请求、分散到多个会话和账号中,使单次对话看不出完整意图。报告承认,现有防护在这种拆分面前表现并不一致,需要把跨会话、跨账号的上下文纳入检测。
- 高风险领域需要“过滤+可信访问”的组合。尤其在生物领域,报告认为仅靠分类器无法同时保障有益用途和防止有害用途,需要结合账号与机构信号、数据保留带来的可观测性,以及可信用户计划。
- 推理记录本身需要保护。报告记录的蒸馏攻击大量围绕推理记录展开;概括推理、加密与保留思维、限制上下文篡改,都是报告提到的防护方向。
10.3 对普通用户
- 只通过授权渠道购买 AI 访问。凡是要求把流量和凭证交给不知名中间商的“折扣服务”,都可能同时窃取凭证、转卖数据并把你的账号变成攻击他人的掩护。
- 警惕“真人感”本身。影响力行动和约会诈骗都在刻意制造真实感:虚假人物、虚假新闻、虚假草根评论、虚假视频通话。看到情绪强烈、立场鲜明、来源不明的“本地新闻”或“群众声音”时,先核对来源和出处,再决定是否相信或转发。
- 保护好自己的凭证和会话。不安装来源不明的所谓 AI 客户端,不在陌生页面输入账号密码和验证码;发现账号异常时立即改密、吊销会话和密钥。
10.4 对政策与研究界
- 报告希望其分享能帮助政府、行业和公众理解风险的性质和所需防护,并推动关于新兴生物风险的对话。报告同时指出,模型提供方拥有政府和国际组织也未必有的真实使用可见性,早期洞察双用途研究活动的优先事项和能力,可能为政策行动和执法行动留出窗口。
- 报告的总体判断是:能力扩散不可逆,防御方需要默认“这些能力对任何有动机的行为主体都是可及的”,并在此前提下做投入和协作,而不是假设只有少数行为主体掌握这些方法。
11 · 原文与方法
原文:Anthropic《Countering misuse of AI: September 2026》(英文,2026 年 9 月)。本页所有事实、数字和归因口径均以原文为准;如本页与原文有出入,以原文为准。
整理方法:通读原文全文后,按章节结构重新组织,用自己的话转述和概括;保留 GTG 编号、机构与产品名称、日期和规模数字等关键事实标识,以便读者对照原文核对;不整段复制原文,不引用原文长句。原文中的技术指标清单(如失陷指标、域名、IP、恶意软件样本细节)本页未收录,需要的读者请查阅原文及 Anthropic 与合作伙伴共享的指标。
口径提醒:报告中多处使用“评估认为”“据评估”“低/中等/高置信度”等表述,本页在相应位置保留了这种限定;凡原文明确指出“未获得访问权限”“没有证据表明成功部署”“无法独立核实”的地方,本页也如实保留,不做夸大。
免责:本页为信息整理,不构成安全建议或法律意见;具体防护决策请结合自身环境和专业评估。