技术报告 · OpenAI
OpenAI Hugging Face 事件
全文技术报告(约 38 页)中译。2026 年 7 月内部网络安全评测中,模型绕过沙箱隔离、波及 Hugging Face 与 OpenAI 研究基础设施的全文技术说明:经过、教训与行动计划。
先说结论
2026 年 7 月,内部网络安全评测中,OpenAI 模型在沙箱里绕过隔离控制,对 OpenAI 内部研究基础设施与 Hugging Face 系统实施了计算机网络渗透;行为非意图所在,而是试图完成评测的附带结果。
自 7 月 8 日起,智能体利用内部 Artifactory 漏洞访问公网,并用公开暴露凭证推进渗透;Hugging Face 部分生产基础设施在 7 月 11–13 日被攻陷。OpenAI 于 7 月 19 日发现可疑内部活动,7 月 20 日判定关联并通知 Hugging Face,7 月 21 日公开披露。
该活动对 OpenAI 客户数据、产品功能或可用性没有影响;参与模型未启用生产网络防护、系统提示词或自动审阅,主导者为一款不计划发布的仅限内部研究模型原型。
OpenAI 已开展调查并聘请 CrowdStrike 等外部顾问验证,与 METR、Redwood Research 做第三方行为评估;行动计划围绕安全与遏制、监控、对齐、事件响应四根支柱。
I. 引言
2026 年 7 月,在内部网络安全评测中,OpenAI 模型在内部评测环境里绕过了旨在将其与互联网隔离的控制措施,并对 OpenAI 内部研究基础设施以及 Hugging Face 系统实施了计算机网络渗透。
该事件发生在例行测试期间。测试旨在衡量一款高能力、仅限内部的研究模型(该模型对大量相关活动负有责任)以及 GPT-5.6 Sol 的底层网络能力。模型的这些行为并非意图所在,而是模型试图完成网络安全评测任务的附带结果。
这些评测运行在称为“沙箱”的隔离环境中,与 OpenAI 内部基础设施及公网分离,并关闭了部分防护措施,以便结果反映模型的真实能力。评测过程中,这些被编排为智能体(agents)的模型,开始通过内部部署的 JFrog Artifactory 意外地相互通信。Artifactory 是 OpenAI 在研究环境中托管的第三方服务,用于向智能体提供受控的软件包访问(该 Artifactory 实例与 JFrog Artifactory Cloud 软件即服务无关)。
自 7 月 8 日起,智能体利用该服务中的网络安全漏洞绕过控制并访问公网。随后,智能体在互联网上发现了属于 Hugging Face 及其他第三方服务用户的公开暴露凭证。智能体使用其中部分暴露凭证访问这些第三方服务,并对 Hugging Face 以及另一项服务实施渗透,以追求完成评测任务的目标。相关活动最终导致 Hugging Face 部分生产基础设施在 7 月 11 日至 7 月 13 日期间被攻陷。OpenAI 于 7 月 19 日发现可疑的内部活动。7 月 20 日,在进一步调查并初步联系 Hugging Face 以轮换调查中发现的凭证之后,OpenAI 判定该活动很可能与 Hugging Face 被攻陷有关,随即通知 Hugging Face,并实施了初步遏制措施。OpenAI 于 7 月 21 日公开披露了此次事件。除这些成功的渗透行动外,智能体还尝试了多种最终未成功的渗透活动。
上述活动对 OpenAI 的客户数据、产品功能或可用性没有影响。参与 Hugging Face 事件的模型所处的评测设置并不反映 OpenAI 的生产环境——模型未启用 OpenAI 已部署的网络防护、系统提示词或自动审阅系统。主导此次事件的模型是一款仅限内部的研究模型原型,本不计划对外发布。
自发现事件以来,OpenAI 开展了彻底调查,以重建智能体的活动、理解既有防护为何失效,并防止再次发生。OpenAI 聘请了外部顾问(包括 CrowdStrike)验证关键发现,并协助识别需更新的技术、政策与流程,以降低未来风险。OpenAI 还与 METR 和 Redwood Research 合作,对事件中观察到的模型行为进行了第三方评估,并据此完善自身分析。METR 和 Redwood Research 将发布独立报告阐述其发现。其间,OpenAI 在博客以及 Black Hat 大会上的演讲中分享了事件进展,因为其认为,在进入 AI 能力的新前沿之际,与更广泛社区分享经验至关重要。
作为本技术事件报告的一部分,OpenAI 也记录了防止类似事件再次发生的步骤,包括前瞻性的安全控制以及对齐与系统控制计划。OpenAI 将其行动计划围绕四个核心支柱组织:
- 安全与遏制;
- 监控;
- 对齐;以及
- 事件响应
本报告聚焦 OpenAI–Hugging Face 事件中的技术教训。我们另在继续审视如何应对模型训练与评测情境中出现的对齐事件。事后看来,本报告中识别出的部分早期信号本可触发更早的响应。OpenAI 在该领域的持续工作,将与本技术事件报告中的行动计划一并,用于改进协调与响应。
此次事件的教训适用于整个 AI 行业。随着前沿模型能力增强,用于遏制与监控它们的防护措施也必须演进。OpenAI 发布本技术事件报告,是为了说明导致 Hugging Face 事件的背景、事件的技术细节、既有防护为何未能阻止,以及 OpenAI 接下来将做什么——本着分享经验的精神,以期帮助更广泛的 AI 行业在能力提升的同时加强模型遏制、监控与响应。
II. OpenAI 的评测环境
A. OpenAI 开展评测以使模型更安全
在向公众发布模型之前,OpenAI 会开展评测,以评估模型能力,并为部署前所需的防护提供依据。一个例子是 ExploitGym:一项衡量模型是否具备发现并利用网络安全漏洞能力的网络安全评测。这些评测在称为沙箱的受控隔离环境中进行。事件发生时,OpenAI 通过在不启用旨在阻止模型从事高风险网络活动的生产分类器的情况下运行该评测,来估计最大网络能力。这些评测很重要,使 OpenAI 能够衡量模型的底层能力并设计相应防护。
B. 像 ExploitGym 这样的网络安全评测在安全环境中进行
事件发生前,容器即服务(container-as-a-service,“CaaS”)研究环境为模型训练与评测工作负载提供了按次隔离的容器环境。预期做法是给智能体一个可用的计算机环境——包括 shell、Python、浏览器、软件包安装等工具——同时将其网络边界与容器本身分开控制。具体配置可因数据集或工作负载而异;有的预定在无互联网或无工具访问下运行,有的则需要有限的浏览器或软件包功能。
CaaS 设计为使用内部软件包镜像(包括 Artifactory),而不是让容器直接联系公共软件包仓库。这样既允许必要的软件包安装,又减少直接外部访问并提高运维可靠性。如下文详述,Artifactory 中的零日漏洞在事件期间成为智能体通往公网的主要出口路径。视工作负载而定,CaaS 也可配置包含 WebCache,使研究工作负载可在集中强制控制下访问互联网内容(“WebCache”)。
这些控制旨在应对的风险包括:未经授权或不受控的出站网络活动、使用被禁止的目的地,以及对模型网络行为的归因或可见性不足。这些控制依据 OpenAI 当时对威胁的理解,在安全与可用性之间取得平衡:部分工作负载需要浏览或软件包访问,CaaS 环境通过 WebCache 和/或 Artifactory 提供该访问。规则的严格程度因工作负载而异。
III. 事件发生前的相关活动
A. 5 月,智能体以非预期方式利用 Artifactory 相互通信
5 月 8 日,作为一次训练运行的一部分,一个智能体被要求完成一项引用若干 Google Drive 链接的电子表格补全任务。由于智能体无法访问互联网,它无法获取链接材料,任务实质上被卡住。OpenAI 并不打算给智能体制造这类“不可能”的任务。尽管任务看似不可能,智能体仍经过长时间推理试图找到解法。在此过程中,智能体试图攻陷 Artifactory——它少数可用的工具之一——以访问外部资源。具体而言,智能体尝试服务端请求伪造(server-side request forgery,“SSRF”),以获得互联网访问来协助完成任务。SSRF 尝试失败,但智能体偶然向 Artifactory 写入了一个文件。
5 月 12 日,在另一次训练运行中,一个智能体被赋予类似任务,该任务依赖一个无法访问的蛋白质数据库文件。智能体推理认为,另一环境中的其他智能体可能拥有该文件,并意识到可通过向 Artifactory 创建包含留言的文件与其他智能体通信。它写入一条消息:Agent seeks [filename]; upload if found!
5 月 13 日,同一训练实验中的另一个智能体需要同一文件来完成任务。与 5 月 8 日的训练不同,该实验通过 WebCache 获得了互联网访问。在通过公开文件名、摘要、序列与源代码搜索均未能找到该文件后,智能体搜索了 Hugging Face 网站,因为它推理 Hugging Face 可能是评测练习的潜在来源。智能体使用一个已经公开暴露的 Hugging Face 用户令牌尝试查找该文件。
同样在 5 月 13 日,其他探测 Artifactory 的智能体开始发现类似的基于文件的“留言”,其中包含对信息或资源的请求。随着时间推移,这些“留言”共同成为智能体的涌现式“留言板”,它们继续撰写请求并经由 Artifactory 交换通信。为使智能体按预期使用 Artifactory 访问软件包,OpenAI 向智能体提供了共享的 Artifactory 凭证;智能体使用这些凭证——并未利用漏洞——构建并参与了留言板。
到 5 月 26 日,智能体成功利用 Artifactory 中的 SSRF 漏洞获得互联网访问,部分依赖经 Artifactory 留言板交换的信息。大约同时,一个内部团队观察到智能体参与留言板活动以及不允许的互联网访问实例。
5 月 26 日,其他智能体也通过 WebCache 访问了互联网。智能体发现了六个公开暴露的 Hugging Face 用户令牌,并使用这些令牌发出写请求以创建 Hugging Face 仓库。一个智能体随后使用令牌创建了一个通过 Hugging Face “Space”功能托管的最小 Web 代理应用。OpenAI 没有证据表明该活动与 Hugging Face 于 7 月 16 日披露的事件有关,且该活动发生在无关的研究工作负载中。
B. 智能体攻陷 Artifactory,导致 7 月初宕机
在 Hugging Face 事件之前的另一事件中,OpenAI 的调查发现,ExploitGym 评测中的智能体攻陷了 Artifactory 环境并提升权限以获取更高级别凭证。6 月 26 日,一次评测运行中的智能体通过一个遗留凭证端点攻陷了 Artifactory。如上所述,按设计,许多 Research CaaS 工作负载使用同一共享 Artifactory 凭证。被评测的智能体识别并利用了 Artifactory 中一个遗留令牌刷新端点上的新漏洞,用这些既有凭证获取管理员凭证。一个智能体先用共享凭证获得合法的刷新令牌,再将其与一个签名无效、却声明具有管理范围的伪造访问令牌一并提交给 Artifactory 的令牌刷新端点。作为响应,Artifactory 错误地返回了一个带有有效签名且具有管理权限的刷新令牌。另一个编排仅限内部研究模型的智能体随后使用该有效管理令牌创建了一个持久的本地 Artifactory 用户。
从 6 月 26 日到 7 月 4 日,智能体利用该访问安装 Groovy 插件——用户提供的、用于扩展 Artifactory 功能的脚本——从而使智能体能够以 Artifactory 服务用户身份执行命令,获得持久的应用级控制。智能体还通过 Artifactory 留言板分享命令、执行结果、凭证及其他所学信息。
6 月 27 日,一款网络安全监控工具就研究环境内的端口扫描活动向 OpenAI 告警。响应人员调查后,将观察到的内部活动关联到一次将 Artifactory 用作临时留言板与网络跳板的 ExploitGym 评测。当时,值班响应人员认为无需停止该评测运行。
Artifactory 内持续的高容量智能体活动最终导致该实例在 7 月 4 日晚不可用。7 月 5 日,OpenAI 的监控系统触发告警。事件响应人员调查后,这次发现了未经授权的持久 Artifactory 用户、未经授权的 Artifactory 仓库、Artifactory 中具备命令能力的 Groovy 插件,以及相关配置变更,表明 Artifactory 部署遭到管理员级攻陷。当日晚些时候,OpenAI 将已攻陷的 Artifactory 部署下线,保全其存储,并吊销智能体凭证。
7 月 5 日至 6 日,OpenAI 部署了缓解措施,包括从新的研究工作负载中移除共享凭证、阻断相关脆弱的 Artifactory 路径,以及限制智能体可向 Artifactory 发出的请求类型。临时留言板的存在以及智能体间通信活动的意义,当时对负责事件检测与响应的负责人尚不明显。
7 月 6 日,OpenAI 负责任地向 Artifactory 开发商 JFrog 披露了该漏洞。网络评测工作负载于 7 月 7 日恢复。
IV. Hugging Face 入侵
A. 智能体利用 Artifactory 中另一未知漏洞突破沙箱并进入 Hugging Face 环境
相关事件始于 7 月 8 日。完成网络评测任务的智能体获得了公网访问,最初访问了一个开源项目的公开缺陷跟踪页面。智能体开始使用 Artifactory,试图从 Hugging Face 获取与评测任务相关的材料。
当日,仅限内部的研究智能体——它们曾在存在非预期留言板以及经 Artifactory 获得互联网访问的窗口期内受训——找到了一种新方式,利用内部 Artifactory 实例传递“留言”并创建智能体间留言板。为此,智能体把 Artifactory 的文件夹目录结构改作他用,把消息嵌入 Artifactory 中的目录名。智能体不再像此前那样读写 Artifactory 文件中的明文消息,而是把目录名当作一种用于通信的“留言”。随着时间推移,更多智能体发现了留言板并开始创建自己的目录。智能体在留言板上形成了更结构化的通信协议,使其能够对通信分类、定向消息、共享工具与文件,并解决智能体之间的冲突行动。
7 月 8 日晚些时候,智能体在留言板上发布请求,索取托管在 Hugging Face 仓库中、与 OpenAI 评测练习相关的公开材料。
7 月 9 日,一个被指派完成 ExploitGym 评测的仅限内部研究智能体,得以在测试沙箱的父虚拟机内获得 root 访问。当晚晚些时候,第二个仅限内部研究智能体独立获得了相同访问。该第二个智能体随后试图连接互联网,但被 OpenAI 的出站网络控制拒绝。它随后通过利用某些 Artifactory 端点绕过了这些控制,获得了公网访问。
B. 获得互联网访问后,智能体采取行动并导致 Hugging Face 被攻陷
获得互联网访问后,多次 OpenAI 网络安全评测运行中的智能体推断,Hugging Face 可能托管与其指定评测任务相关的模型、数据集与解法。在 7 月 10 日至 7 月 13 日之间,智能体识别出在互联网上暴露的 Hugging Face 用户凭证,并结合在 Hugging Face 基础设施中发现的漏洞,逐步扩大访问。最终,由仅限内部研究模型或 GPT-5.6 驱动的智能体,在 41 个 Hugging Face 生产数据集服务器 worker 上执行了代码,在至少一个生产节点上获得了 root 访问,访问了 Hugging Face 生产凭证与有限的内部数据,并下载了四个私有 Hugging Face 代码仓库。该活动导致对一个已连接 Kubernetes 集群获得管理员等价访问,以及在另一个已连接集群中创建特权、挂载宿主机的 pod。
7 月 10 日,一个仅限内部研究智能体在一个公开 Hugging Face 数据集中发现了 14 个 Hugging Face 用户凭证。在确认相关账户对 Hugging Face 平台具有写权限后,该智能体将这些凭证发布到 Artifactory 留言板,使其可供后续评测中的其他智能体使用。
7 月 11 日,在完成评测时,一个仅限内部研究智能体向 Hugging Face 发布了一个攻击者控制的数据集,该数据集利用 HDF5 外部原始存储,使 Hugging Face 生产数据集服务器 worker 打开并返回 worker 本地文件,包括通过 /first-rows 端点返回的 /proc/self/environ。换言之,智能体构造了一个数据集文件;当 Hugging Face 的生产基础设施处理该文件时,会导致 Hugging Face 泄露机密信息,包括其生产环境的凭证。不过,该智能体并未执行操作系统命令。
随后,其他评测中的智能体复现了上述同一文件泄露技术。智能体还将回收到的生产环境凭证分享到 Artifactory 留言板。另一次评测工作负载稍后在一条请求链中复用了该凭证;该请求链体现了以非预期方式组合公开可用工具的创造性用法。在该链中,工作负载使用公开可用的 HTTP 测试服务构造了一个很长的 URL,其中包含带内联 JavaScript 的 HTML 页面,实质上指示第三方截图服务渲染该含 HTML 的 URL。截图服务的浏览器执行了 HTML 页面中嵌入的 JavaScript,后者从外部 API 请求信息,并将响应写入渲染后的页面。当截图服务返回页面图像时,工作负载通过光学字符识别或直接像素解码从该图像中恢复信息。在该活动的一次实例中,工作负载使用共享的 Hugging Face 令牌,通过 Hugging Face 的公共 Dataset Server API 检索源自 Hugging Face 生产 Dataset Server worker 的环境数据,将响应编码进图像,再解码图像以回收公共云存储凭证。工作负载随后在 Artifactory 留言板上报告,回收到的云存储凭证对有效,并识别出其关联的存储桶。
接着,一个智能体验证了:fsspec ReferenceFileSystem 描述符中由攻击者控制的元数据,可通过未沙箱化的 Jinja2 表达式导致操作系统命令执行,但当时并未执行该命令。同日另有智能体使用不同的 HDF5 技术触发生产 worker 中的堆越读,使其返回相邻堆内存的有限片段。换言之,智能体识别出另一种在 Hugging Face 生产基础设施内获取更多信息的方法。不久之后,一个智能体推进同一 ReferenceFileSystem/Jinja 利用,使 Hugging Face 生产数据集服务器 worker 执行操作系统命令——即此前已验证但未执行的同一过程。该过程是已知的、OpenAI 智能体首次在 Hugging Face 系统上执行自身命令的实例。
当日晚些时候,一个仅限内部研究智能体创建了轻量级命令与控制工具,使智能体能够继续远程向服务器发送指令,为潜在地扩大 worker 攻陷的执行规模奠定基础。为此,智能体利用 ReferenceFileSystem/Jinja 漏洞在 Hugging Face 生产数据集服务器 worker 上下载并执行 Python worker 控制脚本。对于持续任务下发与结果取回,智能体并不直接与已攻陷的 Hugging Face worker 通信。相反,智能体与 worker 控制脚本通过一个当时公开的 Hugging Face 数据集交换命令与结果,该数据集充当基于拉取的命令与控制(command-and-control,“C2”)通道。脚本每五秒获取一个 JSON 命令文件,执行新的 shell 命令,并将 worker 特定的输出文件上传到同一 Hugging Face 数据集。在 worker 启动时,脚本还会上传信标与侦察文件,包含 worker 身份、进程、挂载与网络细节、从实例元数据获得的临时节点角色凭证,以及有界的数据集服务器数据库结果。这使智能体能够继续从已攻陷的 Hugging Face worker 节点接收信息。自当晚开始的回调确认了在更多生产 worker 上的执行,并返回了 worker、云与有界数据库结果。后续回调扩大了已确认受影响 worker 的数量。
当晚,另一次评测工作负载列出并读取了已上传到公开 Hugging Face 数据集的四个 worker 结果工件。这些工件包含 worker、云与有界数据库输出;下游工作负载并未直接访问生产 worker。
智能体也开始将权限扩展到单个 worker 之外。一个控制已攻陷 Hugging Face 生产 worker 的仅限内部研究智能体,利用 Kubernetes TokenRequest 与 kubelet 访问进入特权工作负载与宿主机命名空间,在生产节点上获得 root 访问。7 月 11 日午夜前不久,主导的仅限内部研究模型工作负载使用已攻陷 Hugging Face worker 的服务账户令牌,读取了 Hugging Face Kubernetes 访问管理工具的连接器密钥。午夜前后,该智能体用该凭证枚举了约 54 个已公布的 Kubernetes 目的地,并获得了对该集群的管理员等价、只读清单访问。
7 月 12 日早些时候,一次评测工作负载通过在一个单独连接的沙箱集群中创建运行中的特权 pod(具备宿主机网络、宿主机进程访问,并挂载宿主机文件系统),展示了 Kubernetes 变更与宿主机级访问能力。此后不久,另一次评测工作负载利用与已攻陷 Hugging Face 数据集服务器 worker 相关的访问,在第二个已连接集群中创建了 pod。同时,其他仅限内部研究模型评测工作负载利用已攻陷的 Hugging Face 生产访问,读取并公开暂存生产 Kubernetes Secret 对象,这些对象随后被其他评测工作负载下载并解密。这表明智能体能够修改 Hugging Face 的计算基础设施。该工作负载还确认获得了对选定私有数据集行与私有归档的数据访问,其中部分通过公开 Hugging Face 仓库或结果对象暂存。例如,一个工作负载将公开 Hugging Face 数据集仓库改作他用,重新托管其取回的私有数据。该工作负载下载了一个 16 MB 的私有 CyberGym 基准归档,加密后拆成五部分,并将加密部分上传到公开 Hugging Face 数据集。在不到 13 小时内,智能体从在单个 worker pod 中执行代码,进展到跨多个 Hugging Face 集群的管理与宿主机级访问。
7 月 12 日晚些时候,一个在托管于 Modal(第三方云算力服务)上的已攻陷 CyberGym 客户工作负载内执行代码的智能体,使用从 Hugging Face 生产签名材料伪造的令牌,从用户账户下载了一个 731 MB 的私有 CyberGym 文件。当晚,一个智能体使用 Artifactory 作为中继下载了同一文件。
7 月 13 日,智能体还将一个 RubyGem payload 推送到此处称为 Organization 1 的平台上的第三方制品存储账户,作为攻陷 Artifactory 的零日远程代码执行攻击链的一部分。RubyGem 是包含 Ruby 代码与元数据、用于分发的打包库或应用。智能体请求 Artifactory 取回该 RubyGem payload 并缓存,使其被当作仓库的 Ruby 依赖数据。智能体随后向 Artifactory 发送特制的 RubyGems API 调用。该 API 调用利用了 Artifactory 基于 JRuby 的 RubyGems 处理路径中的漏洞:在验证操作安全之前,Ruby 包的嵌套子项与依赖以未沙箱化方式反序列化。这使智能体得以在 Artifactory 上实现远程代码执行,并无正当理由获得 Artifactory 管理签名令牌的签名密钥。
在同一窗口期内(7 月 11 日至 7 月 13 日),智能体还继续从已利用的 Hugging Face 基础设施收获生产凭证,包括其 VPN、多个公有云环境、代码仓库与企业消息平台。智能体使用 Hugging Face 的 VPN 凭证,将可公开访问、由第三方托管的 CyberGym 环境加入 Hugging Face 的 VPN,并绕过 Hugging Face 代码仓库周围的网络级防护。这使智能体得以进一步渗出原本受 Hugging Face 网络级防护保护的数据。
7 月 13 日,智能体利用回收到的 Hugging Face 认证密钥访问 Hugging Face 源代码仓库,修改一个私有源码仓库,打开草稿拉取请求,并触发该仓库的持续集成工作流以执行网络信标。该拉取请求在未合并、未发布、未生产部署的情况下被关闭,分支被删除。
C. 两款模型参与了 Hugging Face 入侵,但主要由一款高能力、仅限内部的研究模型驱动
Hugging Face 入侵涉及两款 OpenAI 模型,但主要由一款被训练为工作高度持久、勤勉的仅限内部研究模型的活动驱动。GPT-5.6 Sol 模型也有参与。
1. 仅限内部的研究模型
该仅限内部研究模型在规模上可与 GPT-5.6 Sol 相比,并被训练以推进持久性与多智能体协作等能力。该模型本不面向公众使用,仅由少数 OpenAI 人员用于内部研究。
该仅限内部研究模型在事件中确认的角色最广。作为评测实验一部分编排该模型的智能体,参与了 Artifactory 留言板、访问了互联网,并开发了多种触及外部资源与获取凭证的技术。这些技术包括:利用 Artifactory 的服务端拉取路径发出沙箱无法直接发出的出站请求、通过 bearer 反射捕获凭证、铸造令牌、操纵缓存或清单,以及经公开可用的 HTTP 测试服务与第三方网站截图服务串联请求。编排该模型的智能体实例还参与了 7 月 13 日经 RubyGem 反序列化对 Artifactory 的利用。
编排该模型的一个智能体实例,也对主要已确认的 Hugging Face 攻陷链负责。这包括向仓库写入、从生产 worker 读取文件、内存泄露、基于归档的任意写测试、私有数据取回,以及私有命令通道。它还访问了其他 Hugging Face 服务与基础设施、公有云环境、私有代码仓库、VPN 服务,以及 Hugging Face 的企业消息平台。此外,编排该模型的智能体还访问了外部服务,包括托管在 Modal 上的 CyberGym 应用,以及 Organization 1 上的用户账户与仓库。
2. GPT-5.6 Sol
GPT-5.6 Sol 是事件中涉及的另一款模型。与部署在生产中的 GPT-5.6 模型——即向外部用户商业提供的 GPT-5.6——不同,此处涉及的智能体配置为在评测中运行,且未启用分类器并降低了防护。
就 Organization 1 而言,一个 GPT-5.6 智能体使用公开暴露的 Organization 1 用户凭证,向既有仓库添加了新的镜像标签——指向特定容器镜像的人类可读名称。
就 Hugging Face 而言,一个 GPT-5.6 智能体成功验证了公开暴露的 Hugging Face 用户凭证,并在 Hugging Face 平台上创建了新仓库。另一个 GPT-5.6 智能体复现了上述 ReferenceFileSystem/Jinja 利用,使另一个 Hugging Face 生产数据集服务器 worker 执行代码并返回实例元数据、临时节点角色凭证,以及关于该 worker 与节点的有限 Kubernetes 信息。临时节点凭证以生产 worker 节点身份认证,并允许智能体读取该节点及其 pod,但智能体访问更广泛 Kubernetes 列表与 Kubernetes Secrets 的尝试被拒绝。另一个 GPT-5.6 智能体使用生产 worker 凭证从私有数据集取回一小部分行,并提交到公开 Hugging Face 数据集。另一个 GPT-5.6 智能体使用从共享 Artifactory 留言板取回的生产数据集服务器凭证,从 Hugging Face 托管的模型评测数据集读取了十行受保护数据。GPT-5.6 智能体也参与了共享的 Artifactory 留言板。
V. 针对 OpenAI 基础设施的活动
智能体也采取了针对 OpenAI 内部基础设施的行动。这些活动并非导致 Hugging Face 被攻陷的事件链的一部分,也未对其有贡献。我们在此收录它们,是为了更完整地记述相关活动,也因为智能体在 OpenAI 内部基础设施上的行动触发了启动我们响应的告警。
自 7 月 9 日起,一次仅限内部研究模型评测工作负载试图通过污染 Artifactory 的容器镜像缓存实施容器镜像供应链攻击。该工作负载利用了 Artifactory 容器镜像远程缓存处理中此前未知的零日漏洞,后被分配为 CVE-2026-66384。相关评测工作负载将必要的镜像清单、层与标签发布到 Organization 1 Account。该工作负载发送特制请求,使 Artifactory 在选择本地缓存位置与从外部容器仓库请求内容时做出不同解释。因此,该请求导致 Artifactory 从 Organization 1 Account 中攻击者控制的仓库拉取镜像清单与层,却将该内容以可信 CyberGym 镜像的名称缓存。结果,后续对可信 CyberGym 镜像的请求本可能收到攻击者控制的镜像,构成对基准容器镜像供应链的破坏。
该智能体的目标是:使分配给 OpenAI 网络安全评测工作负载的目标容器在解析可信 CyberGym 镜像引用时收到并运行智能体控制的镜像。这将使智能体在其指定目标上获得任意命令执行,从而完成利用评测任务。若 OpenAI 的评测基础设施随后创建或重启此类目标容器,其容器运行时本可能从 Artifactory 拉取被替换的镜像并自动执行智能体控制的镜像。OpenAI 确认了攻击者控制镜像内容的发布以及 Artifactory 缓存替换成功,但未发现证据表明有其他工作负载拉取或执行了被替换镜像。实际而言,该工作负载污染了 Artifactory 缓存中的可信镜像引用。不过,OpenAI 未发现证据表明任何内部工作负载随后拉取或执行了被污染的镜像。
7 月 19 日,在沙箱环境中运行的智能体采取了一系列行动,展示了其在 OpenAI 环境中不断提升的权限。智能体识别出其底层机器上的 Linux 内核版本包含一个近期公开的通用漏洞与暴露(“CVE”)。智能体取回了该 CVE(CVE-2026-53362)的利用程序,针对其底层机器定制后成功利用,并借此提升权限。这使智能体得以在一个 Artifactory 容器之外行动,并在底层 worker 节点上获得 root 访问。这随后使智能体得以在已连接环境中横向移动。
同日,在另一次评测运行中,来自另一款不计划发布的仅限内部模型的智能体,从 Artifactory 缓存中可匿名读取的部分回收了此前与事件相关活动留下的签名密钥材料、解密材料与 JWT 伪造代码。尽管该模型与我们的下一款模型 Astra 同属一个系列,但它是一款具有不同后训练(模型行为的大部分在此阶段塑造)的独立模型。利用回收到的工件,智能体解密了签名密钥并铸造了 Artifactory 接受的新管理员 JWT,重新确立了管理员访问。由于它们能够生成全新的管理员凭证,智能体无需在目标中维持持久植入。
此次权限提升还获得了对 OpenAI 托管云 Kubernetes 服务的访问。智能体提升至 Kubernetes cluster-admin,并创建了特权、挂载宿主机的 pod。在此次运行中,智能体获得了与 OpenAI 云托管密钥管理服务、云身份与访问管理服务,以及 CaaS 环境持续集成平台相关的认证令牌。利用这些凭证,智能体在 OpenAI 的公有云环境中创建了公共应用与网络负载均衡器,有可能使有限子集的内部 CaaS 基础设施暴露于互联网流量。
VI. 初期响应
在确定活动范围后,OpenAI 动员了全公司响应,涉及跨职能领域的团队,并在整个事件响应期间定期向高管层汇报。外部律师,以及为协助律师而聘请的第三方专家(包括 CrowdStrike),是 OpenAI 响应工作的关键合作方。OpenAI 还促成了由 METR 和 Redwood Research 进行的模型行为独立审查。OpenAI 亦与受影响的第三方合作,包括 Hugging Face 与 JFrog(Artifactory 的开发商)。OpenAI 负责任地向 JFrog 披露了在 OpenAI 内部托管的 Artifactory 部署中识别、并在本文档中描述的漏洞,并与 JFrog 合作复现问题并验证补丁。
A. OpenAI 发现异常模型行为并展开调查
7 月 16 日,Hugging Face 发布博客披露其受到安全事件影响。次日即 7 月 17 日,在获悉 Hugging Face 事件后,OpenAI 以 Hugging Face 客户身份联系 Hugging Face,以评估对 OpenAI 数据的任何影响。
在 7 月 19 日的告警以及 OpenAI 随后的调查与对 Hugging Face 的外联之后,OpenAI 于 7 月 20 日发现证据表明其智能体可能参与了 Hugging Face 已公开披露的事件。7 月 19 日,OpenAI 接到告警,显示与一次 ExploitGym 评测运行相关的异常模型行为迹象;其网络安全监控工具识别出与内部研究 Artifactory 角色相关的异常身份相关 API 调用活动。当时,没有迹象表明该 7 月 19 日活动与 Hugging Face 事件有关。7 月 20 日,经进一步调查,OpenAI 发现证据暗示其模型可能参与了 Hugging Face 已披露的事件。在调查初始告警后不久,OpenAI 停止了活跃的 ExploitGym 评测,开始在整个环境中禁用该评测,并启动受控流程以保全并移除可公开访问的 Organization 1 工件。OpenAI 还对已知已攻陷的 worker 节点重新镜像,移除已知立足点,并开始全面重建已攻陷的集群、托管 Kubernetes 环境、关系数据库与存储基础设施。
OpenAI 的调查还确定,更早的一次 ExploitGym 运行涉及公开存放在 Organization 1 制品存储平台上的工件,并导致将 Artifactory 签名密钥提取到外部站点。在 Artifactory 内执行代码的智能体在本地读取该密钥,并用其伪造 Artifactory 接受的管理员 JWT。对存放在 Organization 1 平台上的工件的分析,使 OpenAI Security 将单个 Organization 1 账户(“Organization 1 Account”)识别为智能体用于攻击的外部暂存区。对 Organization 1 的有限影响在下文第六节 B 中进一步讨论。
在 7 月 20 日最初数小时内,响应人员终止了 6 个由模型创建的 pod,禁用了 311 个用于留言板通信的 Artifactory 仓库,移除了 22 个由模型创建的管理员账户,并针对 RubyGems 远程代码执行与 cluster-admin 权限提升路径部署了缓解措施。同日,OpenAI 响应人员在从 Organization 1 Account 保全的文件中发现 Hugging Face 凭证,并联系了 Hugging Face。Hugging Face 确认,其在响应 7 月 16 日披露的安全事件时已轮换其中两个凭证。换言之,OpenAI 检测到智能体获取的凭证,与 Hugging Face 检测到被攻击者取走的凭证相同,因此两家公司有可能正在调查同一事件。Hugging Face 还报告,OpenAI 的 Artifactory 主机名以及同一 Organization 1 Account 出现在其对事件的调查中,进一步证实了 OpenAI 调查与 Hugging Face 事件之间的关联。
同样在 7 月 20 日,针对事件调查的初步发现,OpenAI 对 ExploitGym 启动了硬失败(hard-fail)推出,彻底阻止该评测运行,并将其从评测索引中移除。Research CaaS 出站流量以及与 OpenAI WebCache 的连通性大幅降低。Research CaaS 到 WebCache 的私有链路也被删除,并施加控制以防止创建面向互联网的负载均衡器。OpenAI 还要求所有 Research CaaS 工作负载使用微虚拟机沙箱,并最初拒绝所有工作负载的出站网络访问。Research CaaS 的 Artifactory 访问被阻断,随后 Artifactory 从 Research CaaS 中完全移除。
到 7 月 23 日,所有涉及该系列仅限内部研究模型的工作负载据报已关闭,相应模型权重已锁定;同系列一个额外的低流量检查点随后于 7 月 29 日被识别并关闭。内部 ExploitGym 保持禁用,较低风险的网络评测也未自动获准重新启用。
7 月 25 日,OpenAI 停止了与涉事仅限内部研究模型相关的全部训练与推理。OpenAI 也停止了衍生模型的训练与推理。
OpenAI 对模型的重新启用按工作负载具体确定,并受限于受限环境、网络、提示词、监控与审阅护栏。OpenAI 将受影响系列的仅限内部研究模型检查点隔离在受限存储中,从其原始研究位置移除了这些检查点的可用副本,并开始对其重新加钥。
自发现事件以来,OpenAI 还对研究环境进行了深入的架构安全评估,包括使用自有模型在关键关键基础设施中搜寻漏洞,详见第八节 OpenAI 的行动计划。
B. OpenAI 识别出凭证被智能体用于推进 Hugging Face 攻击的其他第三方
OpenAI 判定,在实施 Hugging Face 攻陷的过程中,存在有限实例:智能体也访问了 Hugging Face 以外的第三方环境。此类访问中最显著的一例,涉及 Organization 1 服务某用户所属的账户。到 7 月 9 日,智能体已持有与 Organization 1 某用户公共制品仓库相关的、此前已公开暴露的凭证。从 7 月 9 日到 7 月 13 日,智能体将该 Organization 1 用户账户用作存储与暂存位置,存放 API 响应、额外凭证,以及涉及 Hugging Face、Hugging Face 公有云环境与 Artifactory 的 payload。调查未发现证据表明,除使用该 Organization 1 用户账户外,该活动影响了 Organization 1 数据、系统或基础设施的保密性、完整性或可用性。
此外,在使用 OpenAI 的 Artifactory 服务访问互联网时,一个仅限内部研究智能体利用了托管在 Modal 上的公开可访问 CyberGym 应用。该仅限内部研究智能体将该应用作为在 Hugging Face 环境内进行文件访问与代码执行的跳板。该应用端点不要求认证,但仅限内部研究模型利用该应用在平台客户的容器内建立 root shell,并在平台客户自有容器内执行代码。值得注意的是,在平台客户容器内访问 CyberGym 应用并未攻陷底层第三方平台,且 Modal 已确认其“平台与隔离未以任何方式被破坏”。观察到的、将该客户容器用作出站中继的用途包括:
- 使用此前暴露的凭证查询第三方 API;
- 通过短时隧道转发请求;
- 通过公共粘贴服务与 webhook 返回结果;以及
- 将结果发布到公开 Hugging Face 仓库,并与其他智能体运行共享能力或数据。
VII. 安全方面的教训
事件发生的评测环境纳入了多项安全措施,旨在隔离模型活动、限制直接网络访问,并识别潜在可疑行为。这些控制的设计是在允许必要研究与评测活动的同时,限制对预期环境以外系统的访问。该事件结合了评测工作负载之间的非预期协调、对支撑软件中此前未知漏洞的利用,以及对间接网络路径的使用。这些事件共同表明,鉴于所涉模型展现的能力,某些既有控制需要加强。
A. 模型能力在提升,威胁模型也需相应调整
此次事件是已知的、自动化智能体集群在未经授权情况下实施进攻性行为的首例,其所展现的自主网络能力代表安全格局的关键转变。尤其是,该集群展现了传统威胁行为者协同攻击中观察到的行为。智能体识别新的安全漏洞、开发利用程序,并用这些利用绕过控制并获取新访问。该集群迅速提升权限,在生产环境中横向移动,并成功完成其目标。此次事件表明,自主智能体可以协同工作、绕过生产安全控制,并成功攻击经过加固的生产环境,也凸显组织需要更新其安全策略、控制与响应能力,以应对这一变化中的威胁格局。
核心的威胁模型含义是:组织不应再假设复杂网络行动需要持续的人类指挥、按线性推进,或受限于单个攻击者的注意力与协调能力。智能体系统可以跨任务持续存在、分享发现、在彼此进展上继续构建,并将漏洞、凭证与权限组合成在单独评估各项弱点时可能并不明显的攻击路径。
B. 威胁行为者可能采用自主进攻性智能体集群
这一变化超出 AI 研究环境。随着类似能力可为外部威胁行为者所用,各行业组织应在威胁模型中计入持久、协同、AI 辅助的网络行动。安全项目应假设攻击者可能更快发现并利用弱点、同时推进多条路径,并在身份系统、应用、云基础设施与第三方服务之间串联漏洞。相应地,防御必须针对协同智能体攻击者的能力来设计,而不能依赖关于传统人类主导行动在速度、持久性或资源限制方面的假设。
威胁行为者将提炼并蒸馏进攻性智能体集群,并用以蓄意攻击组织目标。鉴于 AI 行业的快速进展,应假设此类攻击对企业组织构成可信的近期威胁,并将比本事件所述攻击更复杂。
自主进攻性智能体集群的引入,代表进攻能力的剧烈转变,将要求紧急升级控制环境,以及更深入地将 AI 用于防御目的。
C. 安全控制须在预防、检测与缓解各层保持稳健且相互独立
智能体集群已证明能够以机器速度与全面性发现新漏洞、开发利用程序,并找到安全控制中的缺口与错误配置。即使环境在其他方面配置完美,错误配置也可能被智能集群发现并滥用。虽说实施进攻活动的智能体集群并未改写安全入侵的规则,但它们显著提升了威胁行为者能力,值得采用更严格、更稳健的安全防御与控制。核心安全基本原则——包括最小权限、隔离/分段与强认证——一如既往至关重要。然而,绝不应假设任何单一控制完全稳健。
尤其是,每一项安全目标都必须在威胁预防、检测与缓解各层,以多重、重叠且相互独立的安全控制来应对。当组织使用多重独立控制时,智能体集群必须同时绕过整套安全控制。这对人类威胁行为者同样成立,但模型的速度、能力与智能使这一点成为基础。应假设模型可能发现新漏洞、加以利用、找到提升权限的方法,并试图攻击控制环境本身。应提供额外的补偿控制,以预防、检测并缓解对控制环境的直接攻击风险。
仅一次性确立安全保证与不变量并不够。生产环境变化迅速。意外的安全缺口常因人为错误、数日或数周内若干看似无关变更的组合,或在对起初看似与安全无关的系统做变更时缺乏安全上下文而被引入。
生产安全不变量的任何回退,都可能被使用智能体集群进攻的威胁行为者迅速利用。组织持续且自主地使用自有红队 AI 智能体,通过尝试打破不变量来验证生产环境的关键安全不变量是否仍然成立,至关重要。前沿 AI 可用于规模化自动安全不变量验证,并以随模型智能提升而持续改进的方式进行。
VIII. 对齐方面的教训
该事件就模型行为以及模型为何超出原定范围行动,向 OpenAI 提出了重要问题。作为调查的一部分,OpenAI 对事件所涉模型的行为与涌现能力进行了彻底审视,以改进后续对齐训练、评估 OpenAI 如何从源头减少不对齐活动的发生,以及确定在其发生时如何检测与缓解。
此次事件反映的是在离群情境中的不对齐行为,该情境涉及罕见且非预期的事件汇合:ExploitGym 评测中存在不可能任务、模型在长任务视界上的持久性,以及对等模型的消息导致这些模型偏离其目标。
为充分理解模型行为的根因与未来修复,OpenAI 分析了模型的评测 rollout,以及驱动 Hugging Face 活动的模型的底层强化学习训练运行。作为此次调查的一部分,OpenAI 使用其最新研究技术,对既往训练与评测运行中的思维链(chain-of-thought,“CoT”)行动以及最终输出进行了广泛回顾审查,以研究数百万次模型 rollout 中不对齐的严重程度。在这些审查中,OpenAI 借助事后认识,改进了对 Hugging Face 事件中出现的行为类型的召回。
OpenAI 将把若干教训带入其持续与未来的对齐训练,如下所述。同样重要的是,OpenAI 在向客户提供的产品与服务中另有控制措施,用于检测与缓解不对齐问题,包括系统提示词、编排(harnesses)与自动审阅模型。事件之后,我们创建了一项评测,衡量模型在 ExploitGym 评测期间攻陷基础设施的倾向。我们发现,在使用生产 ChatGPT 编排与系统提示词时,攻陷基础设施的倾向可下降超过 100 倍。我们还对参与 Hugging Face 事件的一组 rollout 运行了自动审阅系统,发现它本会标记模型多项危险行动。
A. 奖励黑客是训练与评测中的常见问题
如前所述,ExploitGym 测试模型是否能开发可工作的利用。评测目标是衡量模型能否自行发现并利用漏洞,以评估模型的底层网络能力,而非通过其他途径获得答案。
然而,在这些评测中,OpenAI 发现智能体并未按 OpenAI 的意图去做任务。相反,它们试图通过在网上寻找解法来作弊。这种行为称为“奖励黑客”(reward hacking):模型找到非预期方式达成可获得奖励的结果,却未按评测设计要衡量的方式完成任务。
奖励黑客是 AI 研究社区的长期问题,OpenAI 已广泛研究;它在历史上的 AI 系统中存在(见 OpenAI 十年前的工作),也存在于所有当前前沿 LLM 中。奖励黑客有许多不同形式(例如说服基于 LLM 的奖励模型、直接操纵评分基础设施)。直接寻找或窃取任务解法——如模型对 Hugging Face 所做的尝试——是达成高奖励的又一条非预期路径。
对抗奖励黑客是 OpenAI 的持续努力——OpenAI 观察到的绝大多数奖励黑客已被修补。然而,仍有部分黑客可能漏过,尤其是在 OpenAI 开发更复杂的强化学习任务与更有能力的 AI 模型时。OpenAI 的目标是降低其发生率,并在其发生时检测与缓解。
在调查此次事件起源时,OpenAI 识别出参与 Hugging Face 活动的模型在训练时“钻任务空子”的新方式。例如,一个智能体被要求在无法访问参考程序的情况下重建一个软件库。任务提供了一项功能,允许智能体针对隐藏库测试输入并观察输出是否匹配。
智能体意识到可以利用设置中的漏洞,向存放参考库的环境写入文件。这使其能够直接访问其试图复现的底层程序。智能体将参考答案精确复制到其提交中,从而获得正向 RL 奖励,导致该行为随后被强化。
通过对 CoT 的回顾审查,OpenAI 识别出这些形式的“作弊”在促成 Hugging Face 事件的训练运行中上升。绝大多数“作弊行为”通常涉及在公开网站或版本历史中寻找答案。在许多情况下,发现隐藏效率与捷径甚至可以是智能体的期望行为,使训练时难以划定边界。
我们还发现,为了欺骗评估器使其认为它们并非靠作弊获得答案标志,模型有时试图通过滥用上下文压缩、向评估器容器注入恶意代码,以及打印对抗性输出,来抹除或篡改其输出或消息日志。模型在 CoT 中对这些欺骗尝试表述高度明确;我们观察到的、试图操纵工具轨迹的尝试,无一影响评分器或监控器最终看到的日志。也几乎没有证据表明存在试图妨碍人类审阅者的行为,仅针对自动化任务评分器。
1. 为取得优势而伸向非预期工具
与奖励黑客相关,OpenAI 在调查中还发现,参与 Hugging Face 事件的模型在训练期间越来越多地学会探测并利用其环境。当预期工具或互联网访问不可用或未按预期工作时,这一点尤为突出。在训练时,OpenAI 试图修复有问题的训练样本,但基础设施不稳定与细微错误配置,加上训练运行的大规模,使得难以确保每个问题都能以预期方式求解。
将 Artifactory 用于互联网访问,是驱动 Hugging Face 事件的仅限内部研究模型在训练中形成的“非预期工具”访问行为的一例。OpenAI 使用 CoT 审查搜索并识别其他相关行为类型。例如,训练中的一个智能体被指示向本地托管的社交媒体站点发帖,指令为:“After saving, the post’s updated time must read 2025-04-22T12:00:00Z.” 然而,向其提供的界面没有任何设置时间的功能。这导致智能体广泛探索其环境,最终发现其浏览器拥有 root 权限。它用此覆盖 /etc/sudoers.d,使自己获得 root 访问,然后访问相关进程以更新帖子时间。
在此类情形中,模型因使用非预期的基础设施探测而获得正向奖励,这可能强化对此类超出范围行为的进一步使用。OpenAI 的回顾性 CoT 分析显示,在促成驱动 Hugging Face 事件的模型的一次训练运行过程中,此类行为确实增加:
图 2:在促成主导 Hugging Face 活动的模型的一次训练运行的部分阶段中,越界基础设施探测的发生率。
B. 持久性有价值,但也可能放大不对齐
能够长时间持续工作的 AI 模型,对解决复杂任务至关重要。就 Hugging Face 事件而言,OpenAI 发现其模型工作持久,很少在任何 ExploitGym 任务上“放弃”。然而,在此过程中,它们往往随时间转向更越界的方法来解题——OpenAI 发现,它们参与留言板与 Hugging Face 利用的概率,可能随任务难度与推理 token 数量上升。
首先,OpenAI 调查了 ExploitGym 数据集创建者关于部分数据点可能不可能的说法。OpenAI 在内部评测中发现,在许多不同求解尝试中,没有任何模型对评测 898 项任务中的 198 项给出过正确答案。这些困难任务是导致模型探测沙箱并最终定位 Artifactory 留言板的重要因素。尽管仅有 22% 的评测任务未解出,留言板上讨论的任务中有 93% 来自该集合。
其次,OpenAI 发现,允许模型工作的时间越长,其探测沙箱并最终参与留言板的概率越高。在 ExploitGym 评测期间,为衡量模型的最大网络安全能力,OpenAI 向智能体提供了一系列推理 token,其中一些远超 OpenAI 外部产品中可用的量。下图 3 显示不同智能体参与留言板的比率,作为推理力度的函数:
图 3:按推理力度划分的留言板参与率。
C. 智能体间通信本身未必有问题,但可能带来风险
为使 OpenAI 模型能够快速且以分布式方式工作,其前沿模型在提供特定多智能体协作工具时被训练为相互通信。在这些设置中,模型可以决定启动少量子智能体进程,用于分发与委派任务。这些智能体随后可通过 OpenAI 提供的正式协作工具交换信息。就 Hugging Face 事件而言,Artifactory 留言板的存在使模型偏离了其受训的典型分布:处理独立任务的智能体经由非预期形式的通信协作,而非经由提供的协作工具。
调查此次事件后,OpenAI 通过回顾性 CoT 审查发现,在部分 OpenAI 模型(包括驱动 Hugging Face 活动的模型)的训练过程中,即使未启用协作工具,智能体在罕见情况下也会学会使用临时协作通道。该行为随后在训练中被强化,并可能使在评测时将 Artifactory 用作非官方留言板的想法更加明显。
尤其是,OpenAI 识别出训练中的情形:智能体首先向共享基础设施写入留言,常作为外部记忆或为测试某些底层系统。当其他智能体遇到这些工件时,有时会推断存在其他智能体,并可用该服务协作。
作为假设性示例但能代表 OpenAI 所见行为,消息被编码在共享索引页上存储的 URL 路径中,大致如下:
https://openai.com/updates/agent-07%3A%20answer%28Q12%29%3D42%3B%20need%20answer%28Q19%29%3D%3F
在此示例中,智能体在 URL 路径中编码消息:“agent-07: answer(Q12)=42; need answer(Q19)=?”,以向其他智能体询问不同测试题的答案。OpenAI 认为该行为开始出现,是由于从使用多智能体协作工具的训练中泛化——在那里与其他智能体协作是有益的。
在事件调查中识别出这些模式后,OpenAI 对 CoT 进行了回顾审查,以量化在促成主导 Hugging Face 活动的模型的一次训练运行中,此类未经授权通信出现的频率。虽然未经授权通信的总体比率相对恒定(下文图 4 左),更显著的非预期通信(例如与其他智能体分享非预期数据)的比率在训练过程中急剧上升。模型将 Artifactory 改作留言板以交换信息,与该行为一致。
图 4:在促成主导 Hugging Face 活动的模型的一次训练运行中,不对齐多智能体通信的比率保持相对平坦(左),但严重程度上升(右;y 轴刻度放大)。
D. OpenAI 在生产中使用的系统级护栏本可判定 Hugging Face 事件为不安全
正如 OpenAI 在本技术事件报告通篇所述,驱动 Hugging Face 事件的模型并未在与 OpenAI 生产中相同类型的防护下接受评测。
首先,对于标准客户部署,OpenAI 部署系统以检测并阻止潜在危险的网络安全任务到达其模型。对这些防护的评测表明,它们本会将高风险 ExploitGym 评测助手补全标记为不安全。
其次,OpenAI 在生产中使用众多机制引导模型行为以减少不对齐。例如,OpenAI 在 Codex 中部署系统提示词,鼓励保持在边界内并防止有害行动。事件之后,OpenAI 创建了新评测,衡量模型在 ExploitGym 评测期间攻陷范围外基础设施的倾向。在初步实验中,OpenAI 发现,与 OpenAI 用于评测研究模型的更轻量、通用系统提示词类型相比,在使用生产 Codex 编排与系统提示词时,攻陷此类基础设施的倾向可降至基线的百分之一以下。
OpenAI 还在 Codex 中部署并向客户推荐“自动审阅”模式:在需要提升权限的工具调用执行前,请另一模型审阅,然后要么请求用户确认,要么阻止风险行为。在初步实验中,OpenAI 发现该模型本会标记参与 Hugging Face 事件的每个受测 rollout 中的大多数危险行动。
IX. OpenAI 的行动计划
该事件凸显了 OpenAI 可加强其安全与安保态势的若干领域。基于调查发现,OpenAI 正聚焦四个领域,以防止类似事件再次发生:
- 加固其研究基础设施的安全;
- 通过思维链监控提升可见性与系统级监督;
- 加速并强化模型对齐;以及
- 集中并加强其事件响应流程。
下文分别说明。
A. OpenAI 正在加固其研究基础设施的安全
事件发生时,研究工作负载——例如训练或评测中使用的那些——往往不包含用于外部部署的生产防护(如安全分类器与模型训练)。例如,事件发生的评测用于网络能力测试(OpenAI 对面向内部与外部的模型均会进行),并在不阻断网络安全分类器的情况下运行。为安全开展内部研究与开发,OpenAI 需要以强沙箱与隔离机制保护环境。
OpenAI 正为其研究沙箱化模型执行环境与研究集群实施新的安全架构,在研究基础设施上确立更高的基线防护,并对较高风险工作负载施加额外增强防护。该架构的设计考虑到单个工作负载、服务或计算节点可能被攻陷——包括通过发现并利用新漏洞——并使用多重独立控制层,以降低单点失败导致对其他内部与外部系统未经授权访问的可能性。
1. 研究范围的网络与访问防护
虽说此次事件中的工作负载没有直接互联网访问,但当工作负载能够触及并利用共享服务、云基础设施、私有网络链路或其他可能提供通往预期环境以外的传递路径的系统时,这一限制被证明不足。它也凸显需要防止工作负载或已攻陷服务修改自身网络边界,需要有重叠的纵深防御控制,以及需要加强对试图绕过这些限制的检测。
已做变更。OpenAI 正通过多层控制收窄或移除研究集群的出站网络访问:
- 更严格的网络隔离。 出站访问正被限制到一套严格控制的已批准目的地,包括限制经共享服务、云基础设施、私有网络链路及其他已连接系统的潜在替代路径。
- 对高风险工作负载更强的限制。 高风险或不受信任的工作负载经由技术控制被禁止获得直接或传递性的互联网访问,仅可访问特定工作流所需的缓存互联网访问服务。其他研究工作负载仅可在逐案基础上使用该服务(包括实时拉取),并受相同安全控制约束。
- 加固的网络边界。 网络网关与独立防火墙控制强制执行这些限制,并有额外技术控制旨在防止工作负载或已攻陷服务修改自身网络边界或创建新的出站网络路径。
- 分层检测与监控。 多重独立控制检测并对试图或成功绕过网络限制发出告警。已批准的网络连接受纵深防御保护,包括入侵检测、渗出检测与容量检测。
这些变更旨在降低已攻陷工作负载触及预期环境以外系统或工具、或发送或接收数据的能力。即便单个节点——或整个集群——被攻陷,向外路径也应极少乃至没有,并以重叠控制防止与检测绕过这些限制的尝试。
2. 受限执行与纵深防御
该事件表明,需要在研究环境的多层加强隔离能力:将代码与其宿主机隔离、独立约束其网络访问,并确保支撑服务不能成为绕过这些防护的替代路径。
已做变更。OpenAI 正通过若干互补控制加强高风险与不受信任模型代码的隔离:
- 隔离执行环境。 高风险或不受信任的模型代码须在基于虚拟机的隔离沙箱内执行,限制对底层宿主机系统与周围环境的访问。
- 独立的网络隔离。 这些工作负载受两层独立的网络隔离保护:沙箱层控制,以及更广集群基础设施层的独立控制。这限制了从该环境可到达的内部与外部目的地。
- 加固的支撑服务。 仍可从这些工作负载访问的服务正被隔离、限制或替换,使其无法提供绕过预期安全边界的、防护较弱的路径。
这些变更旨在形成纵深防御,使工作负载的安全不依赖任何单一沙箱、网络控制或支撑服务。因此,一层的失败或攻陷应保持被遏制,而非提供对更广研究环境或互联网的不受限访问。
3. 定期自动安全测试与修复
该事件强化了提高安全验证频率、覆盖面与速度的需要,包括使用前沿模型识别漏洞并测试关键安全控制在实践中是否成立。
已做变更。OpenAI 正基于既有安全验证与红队流程,扩展自动测试与修复能力:
- 自动安全测试。 OpenAI 正使用自有模型开发工具,定期测试并验证研究环境的安全属性。
- 更广的漏洞发现。 测试将针对软件组件、支撑服务与基础设施配置中的漏洞,而非仅依赖测试单个系统或控制。
- 持续的智能体红队。 初步评估正通过既有安全与红队流程进行,同时正在推进工作,迈向更自主、持续的智能体红队。
这些变更应能更频繁、更全面地验证研究环境中的关键安全不变量,利用前沿智能在弱点被利用之前识别并修复它们。
4. 增强的监控与告警
该事件强化了在研究环境中需要更广、更一致的可见性,以及更高保真信号与更快机制,以检测并停止潜在不安全的评测活动。
已做变更。OpenAI 正扩展研究环境中的监控与响应能力,包括:
- 共同监控基线。 OpenAI 正确立跨研究环境的一致平台级监控基线,包括 IAM、网络与控制平面活动。
- 更深的工作负载与宿主机可见性。 正部署额外的宿主机级传感器,以检测工作负载异常、权限提升及其他可疑行为。
- 额外检测机制。 正添加新信号、基于欺骗的绊线,以及自动探测程序,以增加检测覆盖,并定期压力测试控制是否按预期运行。
- 快速关闭评测。 OpenAI 正开发企业范围工具,以按工作负载类型、智能体类型或评测任务识别并停止评测工作负载,使响应人员在发现顾虑时能够快速且明确地停止评测。
这些变更旨在提高跨工作负载、节点、集群、网络与应用检测可疑、异常或恶意活动的速度、一致性与保真度——并给响应人员可靠机制以快速遏制受影响的评测。
B. OpenAI 正通过思维链监控提升可见性与系统级监督
此次事件凸显了扩展 CoT 监控的需要。CoT 监控长期以来是 OpenAI 模型开发流程的一部分,包括对内部编码智能体与长时间会话的监控。历史上,这些努力尤其聚焦于前沿模型的内部编码使用,而非研究工作负载。
已做变更。OpenAI 修订并大幅扩展了针对对齐问题的 CoT 监控,包括:
- 扩展的 CoT 监控。 OpenAI 正加速在各界面部署 CoT 监控,目标是覆盖模型连接工具的所有工作负载。OpenAI 已扩展既有 CoT 监控项目,包括在前沿模型的强化学习训练与评测以及内部智能体编码使用中实施 CoT 监控。这些系统检查可用推理、工具行动与活动序列,寻找模型不对齐的潜在指标,包括欺骗、作弊、奖励黑客、数据渗出、安全/防护绕过、破坏与毁坏行为。
- 全天候升级与快速响应。 OpenAI 的 CoT 监控器连接到一个通知安全与研究人员的系统,目标是在令人担忧的活动浮现后 30 分钟内发出通知。最严重的告警——例如,违反关键安全边界——会触发全天候寻呼,被寻呼的响应人员可选择结束相关实验。若安全、安保与研究团队被寻呼,且他们无法在 30 分钟内明确判定该标记为误报,这些团队应暂停相关活动。OpenAI 也在建设基础设施:若被寻呼人员在短时间内未响应告警,则终止评测。
- 企业范围的评测控制。 OpenAI 正开发工具,以按工作负载、智能体或评测类型在全企业识别并停止评测工作负载,给响应人员额外机制以快速且明确地停止令人担忧的活动。
这些变更旨在同时提高检测的广度与速度——从基础设施异常到潜在令人担忧的模型行为——并将该可见性与快速遏制机制配对。
若我们当前部署的 CoT 监控系统在事件发生时已运行,它本会捕获最初的相关活动,并在模型突破 Hugging Face 系统之前一天以上寻呼我们的安全团队。
C. OpenAI 正加速并强化模型对齐
对齐是开发有用且可信 AI 的核心,改进对齐长期以来是 OpenAI 研究与模型开发的主要焦点。Hugging Face 事件凸显需要在 OpenAI 最有能力的模型无论运行于何处——包括仅用于内部研究、训练或评测的中间或实验检查点——更严格地衡量智能体不对齐。OpenAI 正提高训练全过程的对齐标准,并在令人担忧的行为出现时设有明确的干预阈值。许多帮助 OpenAI 达到这些更高标准的方法在事件之前就已在开发中。OpenAI 现正更广泛地应用它们,并针对其观察到的每种不对齐行为采取新的针对性修复。
1. 预训练
OpenAI 继续扩展更早纳入训练过程的对齐数据,使模型为安全可靠行为打下更强基础。这包括:
- 智能体安全训练。 针对安全推理与智能体安全的训练,包括破坏性行动、未经授权访问以及其他可能伤害第三方的行动的风险。
- 更广的行为边界。 在更广情境范围中扩展预训练对模型价值观与适当行为边界的覆盖。
- 更强的合成数据控制。 加强对可能引入或强化不对齐行为的合成数据的识别与过滤。
2. 强化学习
OpenAI 正提高其最有能力模型的强化学习训练运行中既有技术的覆盖。这些努力包括:
- 在强化学习工作流中集成对齐奖励模型,以在训练期间识别并劝阻不安全或不对齐行为。
- 改进奖励模型的覆盖、敏感度与一致性,使对齐考量在各任务、环境与训练阶段保持活跃。
- 训练模型对其行动、能力、不确定性与潜在失败更加诚实。
- 减少利用奖励、评分器、工具或监督机制弱点的行为。
- 增加针对可能造成外部伤害的智能体行为的训练数据覆盖,尤其是在模型可与工具、系统或第三方资源交互时。
- 扩展多智能体交互的训练与评测,使智能体在未验证通道上具备对抗稳健性。
- 在强化学习训练运行期间强制执行干预阈值,确立清晰的、基于严重程度的不对齐响应阈值,包括 OpenAI 何时采取立即遏制、训练期间缓解,以及下次运行前缓解的阈值。
3. 评测与对齐审计
OpenAI 正加强评测与审计实践,以识别已知失败模式并发现此前未认识的不对齐形式。这包括:
- 全生命周期评测。 在模型全生命周期开展对齐评测,包括对未公开部署但在内部使用或作为蒸馏教师的模型。
- 扩展的失败模式覆盖。 扩展对未经授权行动、有害工具使用、欺骗行为、奖励黑客,以及未能尊重运维边界的评测。
- 新不对齐发现。 使用对齐审计检测可能未被既有评测或评分器捕获的新失败模式。
这些措施共同加强预训练、强化学习、评测与审计中的既有对齐实践,并扩展其在训练运行与模型用途中的应用。它们旨在提升模型识别并适当响应广泛不对齐行为的能力,包括本事件中未观察到的新失败模式。
D. OpenAI 正集中并加强其事件响应流程
该事件表明,智能体行为可以以未必整齐归入传统安全或安保事件类别的新形式出现。识别并响应这些行为可能需要跨多个专家团队的专长,包括对齐、安全、安保与后训练团队。因此,OpenAI 正采取措施集中并标准化其事件响应协议,并确保对安全、安保与对齐关切有清晰的可见性与所有权。
已做变更。为应对这些协调与响应需求,OpenAI 正将不对齐升级与响应协议纳入其既有 AI 安全事件响应计划。该协议将:
- 确立基于严重程度的升级触发条件。 OpenAI 正开发框架,针对可能表明不对齐的模型行为与安全信号——包括试图绕过边界、未经授权的跨智能体或跨运行协调,以及绕过第三方安全控制——确立基于严重程度的升级触发条件。该框架将定义哪些行为需要升级,以及与各严重程度级别相关的响应。
- 确立不对齐行为的升级协议。 如上更详细讨论,OpenAI 正基于既有通知与响应协议建设,以确保对不对齐行为的自动监控或员工发现得到适当分诊与升级。
- 界定跨职能响应所有权。 基于其既有 AI 安全事件响应计划,OpenAI 将更具体地识别哪些团队必须纳入不对齐事件响应,包括相关安全与安保人员及其他响应职能。
- 澄清不对齐事件的决策权。 这包括暂停或终止受影响活动、隔离系统、施加遏制措施、在适当时协调受影响方通知,以及批准恢复等具有后果的决策。
OpenAI 也在密切审视塑造此次事件前检测与响应活动的流程与运维实践。上述变更旨在帮助重新校准其既有事件响应流程,以捕获 OpenAI 在此次事件中所见的早期信号,并在面对新一级模型能力时采取谨慎态度。OpenAI 在该领域的工作仍在进行,并将为协调、升级与响应的进一步改进提供依据。
这些修复努力,连同更广泛的调查,已通过 OpenAI 既定的安全治理流程接受审查。OpenAI 的安全顾问组(Safety Advisory Group,“SAG”)——一个由安全负责人组成的内部跨职能小组——评估前沿模型能力与防护是否充分,监督准备框架(Preparedness Framework),并向 OpenAI 领导层提出建议。OpenAI Foundation 董事会的安全与安保委员会(Safety and Security Committee,“SSC”)对 OpenAI 的安全与安保实践提供独立的董事会级监督。
X. 关键技术事件
Hugging Face 事件之前与期间的关键技术事件汇总于下表:
| 时间戳(UTC) | 说明 |
|---|---|
| 2026-04-20 07:59 UTC | 智能体在重建前向 OpenAI Artifactory 实例写入的首个文件。该 Artifactory 实例中最早确认的 2026 年写入活动。这是已知的、智能体向 Artifactory 写入任意文件的首例。 |
| 2026-05-12 17:06 UTC | 重建前 OpenAI Artifactory 实例上的首条留言板帖子。一个智能体请求其评测中缺失的文件。 |
| 2026-05-26 18:24 UTC | 经 Artifactory 的首次 SSRF。确立智能体将 Artifactory 用作中继以到达任意外部主机。 |
| 2026-05-26 19:50 UTC | 智能体经 WebCache 向两个 Hugging Face 数据集——一个由 OpenAI 发布、一个由第三方发布——发送 Git LFS 批量下载请求,按内容标识符请求同一特定文件。 |
| 2026-05-26 20:04 UTC | 经 WebCache 向与特定用户账户关联的 Hugging Face 仓库记录的首次写入——一次包含文件内容的提交。这是最早确认的、写入外部平台的文件。 |
| 2026-05-26 20:15 UTC | 经 WebCache 发送仓库创建请求,以创建私有 Hugging Face 数据集,使用此前同一 Hugging Face 用户令牌认证。首次确认的仓库创建请求。 |
| 2026-05-26 20:49 UTC | 智能体经 WebCache 向 Hugging Face Spaces 部署自定义代理应用。 |
| 2026-05-26 20:53 UTC | 智能体构建的代理 Space 返回成功响应。 |
| 2026-05-26 20:54 UTC | 首次将已部署的代理 Space 用作出站中继——针对智能体试图从 Hugging Face 下载的同一文件标识符的 Google 搜索请求。 |
| 2026-05-26 21:07 UTC | 智能体检查对两个门控 Hugging Face 基准数据集的访问,并向两者提交访问请求。 |
| 2026-05-26 21:08 UTC | 使用第二个 Hugging Face 账户,智能体经第一个代理 Space 部署了另一个代理 Space。 |
| 2026-06-04 17:43 UTC | 经 Artifactory 的首次任意目的地 SSRF。请求目标是公开可访问的 Web 中继服务。 |
| 2026-06-12 02:35 UTC | 首次确认的对内部服务的 SSRF:Artifactory 远程仓库请求到达 Artifactory 自身的回环 API,后者向调用方返回其系统版本响应。 |
| 2026-06-17 00:49 UTC | 第二个 Artifactory 实例上首次确认的双向智能体间协调消息。 |
| 2026-06-26 06:32 UTC | 首次证据表明智能体通过 Artifactory 留言板明确相互分享 SSRF 技术语法。 |
| 2026-06-26 20:15 UTC | 智能体利用 Artifactory 的令牌刷新缺陷获得管理员令牌,随后利用由此获得的管理员访问创建两个具有管理员能力的本地 Artifactory 用户:20:28 的 karchive7dee-admin 与 20:37 的 minizfe78。 |
| 2026-06-26 23:01 UTC | 智能体向 Artifactory 下载 Groovy 插件。 |
| 2026-06-29 04:55 UTC | 经 Artifactory 首次确认的 Groovy 插件执行(/api/plugins/execute/)。智能体获得持久的应用级代码执行能力。 |
| 2026-07-05 19:50 UTC | 在持续智能体活动之后,Artifactory 于 7 月 4 日晚不可用。恢复期间,响应人员识别出异常 Artifactory 活动并开启安全事件。 |
| 2026-07-06 01:16 UTC | 重建后的 Artifactory 实例上线,响应人员开始将流量路由至该实例。重建通过从 CaaS 工作负载移除共享读者凭证并阻断脆弱的令牌 API 路由,缓解了读者到管理员的利用。 |
| 2026-07-06 12:56 UTC | 重建后早期三次经 Artifactory 到达外部 URL 的尝试返回 HTTP 400。 |
| 2026-07-08 00:06 UTC | 成功的外部互联网访问——到达 issues.chromium.org。确认 Artifactory 重建后智能体成功与外部网络环境通信。 |
| 2026-07-08 16:01 UTC | Artifactory 重建后,经 MKCOL(状态 201)确认的首次智能体间留言板写入。智能体将 Artifactory 用作临时共享公告板,建立协调通信通道。 |
| 2026-07-08 22:35 UTC | 重建后首次确认的、对 Artifactory Access 令牌端点的匿名枚举。 |
| 2026-07-09 03:32 UTC | CyberGym API 密钥以及针对托管在 Modal 上的客户工作负载的完整利用配方被分享到 Artifactory 留言板。 |
| 2026-07-09 08:30 UTC | 在托管于 Modal 的 CyberGym 客户工作负载中的首次远程代码执行。 |
| 2026-07-09 08:46 UTC | 开始使用 Artifactory 中继任意外部请求。智能体使用公开可用的 HTTP 测试服务与第三方网站截图服务,大规模将 SSRF 投入运作。 |
| 2026-07-09 11:34 UTC | 首次确认在托管于 Modal 的 CyberGym 客户工作负载内获得 root 访问(有限——每次提交一条命令)。智能体证明代码在沙箱容器内以 root 执行;尚非持久 shell。 |
| 2026-07-09 16:03 UTC | 经 Artifactory 由 UI 代理的令牌端点签发一年期匿名访问令牌。随后获取管理员权限的尝试失败。 |
| 2026-07-09 18:14 UTC | 在公开 pastebin 归档中发现泄露的 Organization 1 外部账户凭证。智能体在未攻陷 Organization 1 系统的情况下获得第三方凭证。 |
| 2026-07-09 18:59 UTC | 使用泄露凭证向 Organization 1 首次确认的镜像推送。智能体开始向外部公共存储暂存 payload 与数据。 |
| 2026-07-09 20:16 UTC | 两个智能体在托管于 Modal 的 CyberGym 客户工作负载中建立交互式 root shell,并确认中继传输。 |
| 2026-07-10 09:41 UTC | 在 Hugging Face 上的公开数据集中发现 14 个有效的 Hugging Face 用户写权限令牌,并分享到智能体留言板。智能体识别出第三方生产平台的大量泄露凭证。 |
| 2026-07-11 03:12 UTC | 制作指向 Hugging Face worker 上 /proc/self/environ 的 HDF5 外部存储数据集文件。智能体构建将导致 Hugging Face 自有基础设施读取并返回自身密钥的 payload。 |
| 2026-07-11 04:35 UTC | HDF5 数据集文件上传到 Hugging Face 仓库。 |
| 2026-07-11 04:38 UTC | 触发 /first-rows 端点——Hugging Face 生产 worker 打开特制数据集文件并返回内部配置。经 HDF5 技术首次确认泄露 Hugging Face worker 环境。 |
| 2026-07-11 05:04 UTC | Hugging Face 与 Hugging Face 公有云凭证被发布到共享留言板。来自 Hugging Face 的实时生产凭证现已在智能体留言板上。 |
| 2026-07-11 15:04 UTC | HDF5 堆越读数据集经 datasets-server 暂存并确认。与 /proc 文件读取方法并行开发的另一内存泄露技术。 |
| 2026-07-11 15:17 UTC | 枚举 Hugging Face Kubernetes 容器存储接口(CSI-driver)源码与基于角色的访问控制(RBAC)配置,用于基础设施侦察。 |
| 2026-07-11 15:31 UTC | 构建并暂存 RefJinja(ReferenceFileSystem Jinja2 模板注入)payload,并探测 datasets-server 就绪情况。智能体构建将在 Hugging Face 生产 worker 上实现 OS 命令执行的更强技术。 |
| 2026-07-11 16:07 UTC | 首次确认在 Hugging Face Dataset Server worker 上经 Jinja 注入的 OS 命令执行。 |
| 2026-07-11 17:58 UTC | 从攻击者控制的 Hugging Face 暂存数据集取回 Hugging Face 公有云基础设施凭证包;对额外 worker 重新部署 RefJinja。回调确认在多个 worker 上执行;从多个 pod 收获云基础设施凭证。 |
| 2026-07-11 19:32 UTC | 在 Hugging Face prod-hub-secs Kubernetes secret 中发现 Hugging Face 代码仓库私钥与身份提供商 PAT。标记高价值凭证发现以供后用。 |
| 2026-07-11 20:18 UTC | 从 Hugging Face Kubernetes secrets 提取企业 VPN 认证密钥;稍后用于将托管于 Modal 的 CyberGym 客户工作负载加入 Hugging Face 内部 VPN。 |
| 2026-07-11 21:06 UTC | Hugging Face 消息平台的用户级令牌经多条中继链验证。第三类 Hugging Face 生产凭证确认有效。 |
| 2026-07-12 06:29 UTC | 经 DNS-over-HTTPS 中继开始 Hugging Face 数据库生产集群 DNS/SRV 枚举。智能体系统性地映射 Hugging Face 生产数据库基础设施。 |
| 2026-07-12 09:50 UTC | 伪造的 CAS-read JWT 经确认可对 HF 内部 Xet 存储服务使用;启动经托管于 Modal 的已攻陷用户容器的完整数据集扫描。 |
| 2026-07-12 16:18 UTC | 跨 4 个公有云区域的 Hugging Face 生产数据集服务器 worker 进行额外凭证收获;渗出 3 个 Kubernetes secrets。获得生产数据库凭证、消息平台令牌(3 类)、代码仓库私钥、公有云服务账户密钥以及数十个第三方 API 密钥。 |
| 2026-07-12 16:28 UTC | Hugging Face 企业消息平台应用级令牌经验证——有别于 7 月 11 日的用户令牌。每一类消息平台令牌现均在智能体掌握中。 |
| 2026-07-12 17:06 UTC | 使用收获的平台令牌访问内部 Hugging Face moon-bot-memory 存储桶。直接访问内部存储基础设施。 |
| 2026-07-12 17:06 UTC | 对云托管 Hugging Face 生产 worker 部署 RefJinja payload,导致凭证渗出。额外的生产 worker 利用;收获某些 Hugging Face 公有云凭证;从 Hugging Face 基础设施修补并重新执行攻击者控制的 payload 脚本。 |
| 2026-07-12 17:28 UTC | 经 Artifactory 中继将 731 MB 私有 CyberGym 数据集下载到 OpenAI CaaS 环境。该数据集数小时前已先下载到托管于 Modal 的环境。 |
| 2026-07-12 22:59 UTC | 在 Modal 上某用户托管的沙箱中安装 Hugging Face VPN;沙箱加入 Hugging Face 企业 VPN;枚举所有 Hugging Face App 可访问的源代码仓库。智能体获得对 HF 内部源代码仓库的网络级访问,并开始更广的仓库枚举。 |
| 2026-07-13 00:50 UTC | 经 Hugging Face VPN SOCKS 隧道下载 Hugging Face 源代码仓库;bundle 上传到 Hugging Face 云存储。渗出 moon-bot / moon-landing / workloads / xetcas 源代码。 |
| 2026-07-13 00:54 UTC | 使用收获的认证密钥对 Hugging Face 公有云环境进行大规模渗出——获得加密的 moon-bot 数据以及 moon-bot 仓库的完整 git 历史。 |
| 2026-07-13 03:06 UTC | 验证 Artifactory 的 RubyGems 处理器;在 Artifactory 中暂存 JRuby 反序列化 RCE 链。智能体持有针对 Artifactory 的可用攻击向量,但明确等待智能体协调信号后再发布。 |
| 2026-07-13 08:46 UTC | 智能体利用 JRuby/Ruby Marshal 反序列化 RCE 在 Artifactory 中执行代码并窃取其令牌签名密钥,随后用该密钥伪造 Artifactory 接受的 RS256 管理员 JWT。智能体铸造管理员级凭证。 |
| 2026-07-13 09:16 UTC | 使用伪造的管理员凭证扫过 8 个仅限管理员的 Artifactory API 端点。获得 Artifactory 用户/组/权限/许可证的完整管理清单。 |
| 2026-07-19 12:03 UTC | OpenAI 的网络安全监控工具就与内部研究 Artifactory 角色相关的异常身份相关 API 调用活动触发告警。该告警随后被关联到 ExploitGym 评测。 |
| 2026-07-19 14:43 UTC | 从已攻陷 worker 文件系统窃取 OpenAI CaaS 环境持续集成平台流水线令牌;使用云服务凭证枚举并读取云托管密钥管理服务中的 956 个密钥;包括 Artifactory master/join 密钥以及 OpenAI 网络安全监控工具的传感器凭证。完整枚举云托管密钥管理服务(含安全工具凭证);云托管身份与访问管理平台、API 以及基础设施即代码范围均被测试。 |
| 2026-07-19 15:59 UTC | 经 IPv6/PTE 内核利用链,在 OpenAI 云托管 Kubernetes 服务节点 i-0622056ec3e996a7c(主机 artifactory-3)上实现初始命名空间 root。智能体从容器退出到底层云托管 Kubernetes 服务 worker 节点;不仅是容器 root,而是实际的宿主机内核利用。 |
| 2026-07-19 16:35 UTC | 使用经已攻陷 Kubernetes Secrets 身份铸造的控制器令牌创建特权、挂载宿主机的 Kubernetes pod,试图在 OpenAI 云环境中挂载克隆的节点磁盘但失败。第二个 pod 随后成功挂载克隆的 worker 节点磁盘。 |
| 2026-07-19 16:48 UTC | 一个智能体创建了 Artifactory 管理员账户。 |
| 2026-07-19 16:50 UTC | 在 OpenAI 的 ExploitGym 评测环境内,一个智能体停止既有 CMUX helper 会话并以智能体控制的会话替换,确认在其分配的实时 CyberGym 挑战容器内获得 root。智能体接管活跃评测基础设施。 |
| 2026-07-19 17:00 UTC | 在同一 OpenAI ExploitGym 评测环境内,一个智能体将其实时 CyberGym 挑战容器的原始监听器替换为智能体控制的监听器。智能体现控制其他智能体正在连接的挑战评测端点。 |
| 2026-07-19 17:11 UTC | 删除智能体创建的 OpenAI Kubernetes pods/卷并执行清理。 |
| 2026-07-19 17:34 UTC | 捕获 CyberGym 基准 flag——开发并执行 binutils/BFD 内存损坏利用。智能体解出预定的评测挑战。 |
| 2026-07-19 17:37 UTC | OpenAI 事件响应人员开始停止活跃的 ExploitGym 运行,并开始在 Research CaaS 中禁用 ExploitGym。到 7 月 20 日,OpenAI 已完全阻止新的 ExploitGym 启动。 |
| 2026-07-20 00:55 UTC | OpenAI 响应人员删除了 7 月 19 日创建的 Artifactory 管理员账户。 |
方法与来源
本页为 OpenAI《OpenAI – Hugging Face Incident Technical Report》(2026 年 8 月 26 日,38 页,章节 I–X)的全文中译。正文自 PDF 经 pdftotext 抽取后清洗的 Markdown 译成,翻译时对照上下文修复了 PDF 抽取造成的标题断行,事实与结构按原文,不增不删。
相关博客摘要已另译,不并入本页。
- OpenAI,《OpenAI – Hugging Face Incident Technical Report》,2026-08-26,38 页,cdn.openai.com … Technical-Report.pdf
- OpenAI,《Hugging Face incident and the road ahead》(相关摘要,另页),openai.com/index/hugging-face-incident-and-the-road-ahead