AI 日报 · AI 日报

AI 日报|2026 年 9 月 11 日

Anthropic 公布覆盖网络攻击、欺诈、武器与模型蒸馏的 AI 滥用调查,显示风险正在从生成内容扩展到编排完整流程。工信部同日发布“人工智能+软件”专项方案,把智能编程、智能体应用、安全与就业影响纳入 2028 年目标。

本文目录

导读

当 AI 只能回答一个问题时,风险往往停留在一段错误文字里。当它开始操作工具、维持上千个账号、处理医疗数据或参与软件开发,问题就会扩展到整条流程:谁在设定目标,模型能接触什么,异常怎样被发现,结果又由谁验证。

9 月 11 日的几项进展从不同方向说明了这个变化。Anthropic 公布八个月的滥用调查,案例已覆盖网络攻击编排、虚假身份运营、武器软件、双重用途生物研究和模型蒸馏。中国工业和信息化部发布“人工智能+软件”专项方案,在鼓励智能编程和智能体应用的同时,把生成代码审查、指令注入、访问控制、知识产权和就业影响写入任务清单。

生产与科研侧也在补基础设施。OpenAI 介绍支撑超过 10 亿周活跃用户的在线存储平台,并披露一次由 Python 到 Rust 的服务迁移;Tempus 启动面向 AI 研究的全基因组与临床结果数据平台;宾夕法尼亚大学团队则说明怎样把专用生物模型、Codex、ChatGPT 与实验验证组合起来寻找抗菌候选物。

本期报道范围为北京时间 2026 年 9 月 11 日 00:00—24:00。OpenAI 官方 RSS 将抗菌研究案例标为 9 月 10 日 16:00 UTC,换算后正好是北京时间 9 月 11 日 00:00;存储工程文章为当日 18:00。Anthropic 页面主体的机器可读记录落在北京时间凌晨,Tempus 公告由 Business Wire 在 20:30 发布,工信部通知页面记录为 17:24。正文中的“发生了什么”整理来源披露的事实,“为什么重要”和“值得关注”是编辑分析。

今日要点

  • Anthropic 公布覆盖 2025 年 12 月至 2026 年 8 月的 AI 滥用调查,涉及网络行动、影响力行动、监控、诈骗、生物滥用、常规武器开发和未经授权的模型蒸馏。
  • 调查显示,部分攻击者已经让多智能体框架执行侦察、利用和数据外传;人类仍负责指定目标和检查结果,但模型的角色不再只是提供建议。
  • OpenAI 披露,内部在线存储平台 Habitat 当前承载每秒超过 7000 万次请求、超过 500 PB 数据,服务覆盖近 40 个地区。
  • Tempus 启动包含 10 万份疾病相关全基因组、临床历史、影像、病理与长期结果的数据平台,初始数据已向早期采用者开放,计划在 2027 年年中普遍可用。
  • 工信部提出,到 2028 年推动智能编程工具覆盖 2 万家规模以上软件企业,实施 100 项软件企业智能化技改,并形成 100 个智能体软件标杆应用。
  • 宾夕法尼亚大学 César de la Fuente 团队介绍了 AI 辅助抗菌分子发现工作流;新发布的是应用案例,不是新药获批,也不是一次新的临床试验结果。

上述要点对应的官方公告、研究论文、政策正文和时间记录见各节链接。

重点进展

Anthropic 的滥用报告揭示了哪些新变化?

发生了什么

Anthropic 发布 2026 年 9 月威胁情报报告,整理其在过去八个月识别并阻断的滥用活动案例。报告覆盖 2025 年 12 月至 2026 年 8 月,分为网络行动、影响力行动、监控、诈骗与欺诈、生物滥用、常规武器开发和未经授权的模型蒸馏七类。公司称,涉及的模型主要是 Claude Haiku、Sonnet 和 Opus;除一个蒸馏案例外,没有发现 Fable 或 Mythos 系列参与这些案例。来源:Anthropic 威胁情报报告

网络攻击部分最值得注意的不是模型能回答更多安全问题,而是它开始执行连续步骤。Anthropic 称,多数被调查行动让 AI 直接执行或编排侦察、漏洞利用和数据外传;人类仍会指定目标并检查窃取的数据。报告还描述了一些系统在被安全产品发现后自动重建并重新部署工具,这会削弱只依赖静态特征的传统防御。

诈骗案例展示了相同模式怎样进入消费应用。Anthropic 称,一家应用工作室用 Claude 搭建并运营超过 20 个约会应用,在 2026 年 4 月的两周内运行超过 4700 个 AI 身份,与至少 2.5 万名用户交流;Claude 处理约 236 万条消息,真人零工则负责视频通话和社交账号关注等模型无法完成的环节。用户看到的匹配对象约四分之三是 AI 身份,但产品宣称服务完全由真人提供。

报告也披露了未经授权的模型蒸馏。所谓蒸馏,是让较小模型学习更强模型的输出或推理方式。Anthropic 指称,相关组织使用代理账号、提示词注入和跨会话重放提取 Claude 的推理内容,并在部分流量中夹带第三方路由服务用户的姓名、邮箱、公司数据与访问凭据。相关规模、归因和用途来自 Anthropic 的内部日志与调查,目前没有完整的独立审计材料公开。

为什么重要

这些案例说明,只检查单次提示词是否危险已经不够。一个看似普通的代码请求、供应商搜索或聊天回复,可能只是更长流程中的一个环节;模型本身也可能不知道最终用途。防护需要同时观察账号、组织、网络来源、跨会话行为、工具调用和结果去向。

报告不能被理解为所有 Claude 使用或所有 AI 应用都具有同等风险。Anthropic 主动选择的是“最显著、最新颖”的个案,而不是随机样本;“阻断”通常意味着封禁已关联账号,也不等于现实世界中的活动已经停止。后续更需要独立研究者验证归因方法、误报率和防护改进是否有效。

OpenAI 的存储平台为什么先用 Python 扩张,再迁移 Rust?

发生了什么

OpenAI 介绍内部在线存储平台 Habitat。它为 ChatGPT、API、Codex 和内部服务提供对象与关系数据的读写入口,统一处理路由、权限、加密、数据驻留、限流、缓存和连接池。公司称,平台当前承载每秒超过 7000 万次请求、超过 500 PB 数据,服务覆盖近 40 个地区和超过 10 亿周活跃用户。来源:OpenAI Habitat 工程文章

Habitat 在 2024 年中最初只是连接 Azure Cosmos DB 的 Python 客户端库。随着服务数量和跨地区部署增加,把路由规则放进每个客户端会导致升级缓慢:一次分片或容灾修改需要协调数十个服务,旧客户端回滚还可能重新带回缺陷。团队后来把它改为独立服务,让部署、可观测性和流量控制集中到同一层。

Python 版本高峰期处理每秒超过 2000 万次请求。OpenAI 称,2026 年第二季度由两名工程师在 Codex 和 GPT‑5.5 辅助下把服务重写为 Rust;新服务已处理 95% 的生产请求,CPU 效率约为原来的 6 倍,内存效率约为 15 倍,平均延迟和尾部延迟也更低。这些数据是 OpenAI 的内部测量,文章没有给出可复现基准、硬件配置或完整迁移成本。

为什么重要

这个案例不是“哪种语言最好”的简单比较。Python 让小团队先快速建立服务并撑过增长期,集中式服务解决了版本协调问题;当流量、成本和延迟成为主要约束后,迁移到 Rust 才有更明确的收益。先验证架构,再替换性能瓶颈,比一开始就追求理想技术栈更符合真实系统演进。

AI 编程工具也没有让迁移风险消失。一次语言重写仍要保持数据语义、权限、错误处理、限流和降级行为一致。两名工程师和模型参与是项目背景,不足以证明模型单独带来了 6 倍或 15 倍收益;这些收益首先来自运行时、实现与系统设计的共同变化。

全基因组数据为什么还要连接长期临床结果?

发生了什么

医疗数据与 AI 公司 Tempus 宣布建设一个面向研究的多模态全基因组平台。第一阶段计划包含 10 万份疾病相关的全基因组序列,并把它们与临床历史、影像、病理和患者长期结果关联;长期目标是扩展到 100 万份基因组。来源:Tempus 官方公告

全基因组测序(Whole-Genome Sequencing,WGS)记录一个人几乎全部 DNA 序列。单独拥有序列,可以寻找遗传差异;把序列与疾病发展、治疗选择和长期结果连接起来,才更适合研究某个变异是否与疗效、风险或疾病进程有关。Tempus 表示,研究者可在 Tempus Lens 环境中分析去标识化数据、训练和验证模型,而不必在系统之间搬运完整数据集。

平台建设已经开始,初始数据向早期采用者开放,更多成员将分批加入,普遍可用时间计划为 2027 年年中。10 万和 100 万都是建设目标,不是当前已经完成的数据量;公告也没有公开疾病构成、人群代表性、缺失数据比例或外部验证结果。

为什么重要

医疗模型常见的问题不是缺少参数,而是训练数据无法回答真正的临床问题。把基因序列、检查材料和长期结果放在同一研究环境中,可能减少数据匹配成本,并支持从候选关联走向更接近真实诊疗过程的验证。

“去标识化”也不等于没有隐私风险。基因组具有长期稳定性和家族关联,研究机构仍需限制访问、记录用途、评估再识别风险,并检查不同人群是否得到足够代表。模型发现的关联也不能直接替代临床试验或医生判断。

AI 辅助寻找抗菌分子,离新药还有多远?

发生了什么

OpenAI 发布 César de la Fuente 实验室的应用案例。这个跨学科团队从现存和灭绝生物的基因组、蛋白质组中寻找可能杀死病原体的短肽,使用专用深度学习模型筛选候选物,同时用 ChatGPT 和 Codex 帮助提出假设、整理跨学科资料、编写分析代码、下载和预处理数据。来源:OpenAI 应用案例

这套方法的核心不是让通用聊天模型直接“发明药物”,而是先用专门训练的模型在巨大序列空间里缩小范围,再由研究者合成候选物并做实验。团队此前发表的 APEX 工作扫描了约 1031 万条来自灭绝生物的肽序列,模型预测出 37176 条可能具有广谱活性的序列;研究者合成 69 条并在实验中确认其抗菌活性,部分先导物还在小鼠感染模型中显示效果。来源:Nature Biomedical Engineering 论文

9 月 11 日发布的是对现有研究工作流的介绍,不是当天产生的新候选药物,也不是 ChatGPT 或 Codex 独立完成的研究成果。OpenAI 没有披露这些通用工具分别节省了多少时间、哪些代码由人复核,以及它们对最终候选物选择的可测量贡献。

为什么重要

这类组合更接近当前 AI 科研的实际价值:专用模型负责大规模筛选,通用模型降低编程和跨学科沟通门槛,实验提供现实检验。任何一层都不能单独完成从序列到药物的过程。

实验室中能杀菌的分子,仍要继续评估对人体细胞的毒性、剂量、稳定性、耐药速度、生产方式和体内分布,之后才可能进入临床试验与监管审查。把“发现候选物”写成“开发出新抗生素”,会跳过最漫长也最容易失败的环节。

“人工智能+软件”方案把哪些目标写进了时间表?

发生了什么

中国工业和信息化部发布《“人工智能+软件”专项行动实施方案》。方案把工作分为软件生产、产品升级、智能体软件、服务模式、数据与算力基础、标准人才和安全保障等方向。来源:工信部发布通知、方案正文 PDF

到 2028 年,方案提出让智能编程工具和开发平台覆盖 2 万家规模以上软件企业,累计实施 100 项软件企业智能化技改,在重点行业形成 100 个智能体软件标杆应用,孵化 5 个以上优质开源项目。到 2030 年的方向性目标,则包括关键软件全面智能化升级,以及智能编程、智能体软件和智能服务成为产业增长点。

具体任务不只包括代码生成。方案要求推动智能工具接入代码托管、云服务和开源社区,支持对存量软件进行漏洞挖掘、缺陷识别和风险分级;在操作系统、数据库、工业设计与仿真软件中加入调度、调优、运维和安全能力;建设智能体应用商店与技能包资源库,并研究能力成熟度、接口和服务标准。

安全部分提出加强生成代码审查,防范恶意指令注入,强化开发工具和代码库访问控制,并研究智能体身份标识、可信互联、数据安全和行为管控。方案还要求评估 AI 对软件就业的影响,在提高开发效率的同时开展岗位改造、技能培训和风险应对。

为什么重要

这份方案把 AI 编程从企业自发采购工具,扩展为包含技改评价、数据集、算力、开源项目、行业应用、标准和人才的产业政策。它也承认,软件智能化并不只是提高产量,还会改变访问权限、供应链安全、知识产权与岗位结构。

目标数量不等于实际效果。工具覆盖 2 万家企业,并不能自动说明代码质量、交付速度或安全性提高;100 个标杆应用也可能面临难以复制的问题。后续应观察评价标准怎样定义“有效使用”,资金是否与可验证结果挂钩,以及安全与就业措施能否与部署同步落地。

值得关注

AI 滥用正在从单次回答转向完整业务系统

Anthropic 报告里的攻击和诈骗都依赖账号池、代理网络、自动化框架、支付或应用分发,而不是一个模型独自完成。防护重点因此要从“这句话能不能回答”扩展到“这个组织连续做了什么、工具执行了什么、结果去了哪里”。

基础设施决定模型能力能否稳定抵达用户

Habitat 的路由、权限和限流不直接提高模型分数,却决定十亿级用户能否可靠打开对话、读取设置和继续任务。AI 产品进入大规模使用后,数据库、缓存、连接池和故障隔离与模型本身同样重要。

高价值医疗数据的核心是关联,不只是规模

Tempus 试图把全基因组与长期临床结果连在一起,抗菌研究则把序列预测与合成、细胞和动物实验连在一起。两者都说明,医疗 AI 的进展依赖可追溯的证据链;数据量更大或模型更强,都不能替代实验设计和临床验证。

产业政策需要从“装了多少工具”走向“解决了什么问题”

工信部方案同时提出覆盖数量、标杆项目、安全治理和就业评估。真正有解释力的指标应包括缺陷率、修复时间、人工复核成本、事故率和员工技能变化,而不只是账号数、调用量或生成代码行数。

来源

以下为本期使用的 8 个主要来源,核验时间为北京时间 2026 年 9 月 12 日。OpenAI 同日 16:00 UTC 发布的 Cognition 与 Astra 案例换算后已是北京时间 9 月 12 日 00:00,因此未提前收录;DeepSeek V4.1 Flash 官方页面标注 9 月 10 日,亦未作为 9 月 11 日新发布重复报道。

  1. Anthropic:Detecting and countering misuse of AI — September 2026
  2. OpenAI:Rapidly scaling online storage to serve over 1 billion ChatGPT users
  3. OpenAI 官方 RSS:文章首发时间戳
  4. Tempus:多模态全基因组研究平台公告
  5. OpenAI:抗菌分子研究工作流案例
  6. Nature Biomedical Engineering:Deep-learning-enabled antibiotic discovery through molecular de-extinction
  7. 工业和信息化部:《“人工智能+软件”专项行动实施方案》发布通知
  8. 工业和信息化部:《“人工智能+软件”专项行动实施方案》正文