过去两个月,我们领导了一个由维护者、研究人员和安全提供商组成的联盟,以解决PHP中的关键漏洞。PHP是一种用于运行网站和Web应用程序的开源编程语言。Calif作为我们“修补地球”计划的一部分,使用GPT-5.6 Sol发现了一个关键缺陷,Wiz也独立发现并报告了这两个漏洞。PHP的维护者主导了修复和发布,我们的团队以及Wiz、Cloudflare等合作伙伴贡献了研究、技术支持和协调工作,以在披露前准备保护措施。
对于使用PHP的组织,现在的优先事项是应用这些修复。我们分享了一个作为Codex技能的PHP版本检查器,以帮助运营商识别潜在易受攻击的PHP版本,并结合PHP及其提供商的指导,确定适用的更新。
鉴于这些缺陷的严重性和PHP的广泛使用,我们认为这是近期记忆中最具影响力的安全问题之一。它突显了AI如何能够发现具有互联网规模影响的安全缺陷,但相同的能力也可能帮助攻击者快速开发攻击工具和漏洞利用。
据我们所知,前沿AI在攻击者之前发现了这些漏洞,为维护者和安全提供商打开了一个防御者窗口,以便在披露前准备修复和保护措施。
为了帮助更多防御者使用这些能力,我们已通过“前线防御者Daybreak”承诺提供10亿美元的补贴Daybreak访问权限,重点关注安全资源有限、保护关键服务的组织。
尽管这些bug意义重大,但它们只是我们已发现并正在修复的几个重大漏洞之一,我们预计类似发现将在未来几个月急剧增加。基于我们迄今为止的经验,我们分享一种适合AI时代的提议方法,以应对广泛使用软件中的关键漏洞,并请求安全社区帮助改进这一框架。它将我们的模型、安全专业知识和维护者结合在一起,帮助将发现转化为保护,并构建一种随着AI能力进步而可扩展的响应。
协调全球响应
将修复投入使用可能意味着为较旧版本进行适配、准备提供商缓解措施,以及在许多组织中更新系统。一个可重复的流程有助于这些团队在发现更多漏洞时快速行动。
通过“修补地球”,我们贡献了安全专业知识和模型访问权限以支持PHP响应,并与维护者和研究合作伙伴合作测试修复并准备指导。我们还帮助与基础设施提供商协调受影响系统的保护措施,并与政府网络机构接触,以帮助指导到达关键组织。这支持了维护者主导的响应,并帮助其他防御者做好准备。
对于一些发现,研究人员可以直接与软件的维护者合作调查问题并开发修复。其他发现则需要更广泛的响应,因为它们影响许多产品,或者因为分销商和服务提供商需要时间(如果前沿能力与广泛可用能力差距不大,时间可能短缺)来准备更新和保护措施。在这些情况下,提议的框架可以帮助维护者确定需要参与的人员并协调工作。响应可以涉及五个阶段:
验证并修复上游漏洞。维护者、研究人员和必要的技术合作伙伴确认发现、评估其影响,并开发和测试修复。此过程包括使用前沿模型进行对抗性测试,以寻找绕过补丁的方法和漏洞的相关变体。
给受影响组织行动的时间。我们提出一个框架,考虑哪些组织需要提前信息以准备保护措施,同时由维护者决定涉及谁。我们帮助进行外联、信息共享协议以及团队间协调。分销商可能为较旧版本适配修复,托管提供商可能测试缓解措施,安全提供商可能准备检测或预防措施,包括Web应用防火墙(WAF)规则。
与政府合作伙伴协调以帮助保护关键系统。政府机构在协调更广泛响应以及帮助安全指导到达负责关键基础设施和其他关键服务的组织方面发挥重要作用。在PHP的案例中,我们与合作伙伴协作,与美国政府的多个部门接触,包括白宫超级智能部队、国家网络主任办公室(ONCD)、网络安全和基础设施安全局(CISA),以及国际合作伙伴,以支持该努力。
在受影响产品中准备更新。随着修复、指导和披露计划变得稳定,维护者可以让额外的分销商、托管和服务提供商、响应团队和运营商参与,以准备更新并解决覆盖缺口。
一旦补丁可用,发布指导并支持部署。公开指导帮助人们评估其暴露情况,找到权威更新或临时缓解措施,并检查修复是否正在运行。随着运营商部署更新并报告需要帮助的地方,响应继续进行。
提议的框架考虑组织的保护角色,包括保护其自身系统和客户、行动所需时间以及处理敏感信息的能力。相同的标准将适用于类似组织,由维护者决定在披露前涉及谁。
每个参与者都会收到执行其防护工作所需的信息,从带有入侵指标的网络日志到更敏感的可用概念验证漏洞利用。即使是有限的细节也可能暴露漏洞,因此我们权衡共享这些信息的风险与它们所提供的保护。
遵循此框架的团队将与维护者合作,为防御者提供准备时间,并在野外存在活跃利用、泄露、揭示性公开补丁或因修复停滞而增加用户风险时重新评估时间表。
Patch the Planet 网站汇集了公开披露和指导,帮助运营者识别受影响的系统、找到正确的更新,并验证更新后的软件是否正常运行。对于 PHP,它指向维护者的官方补丁和升级说明以及我们合作伙伴的技术研究。该指导还涵盖临时缓解措施、何时涉及提供商或专家,以及备份和恢复。临时保护可以降低风险,但我们会明确其局限性和操作权衡。
运营者可以使用 CISA 关于优先级和修复的指导,根据暴露程度、利用情况和潜在影响评估行动的紧迫性。这可能意味着紧急补丁、立即缓解或计划更新,并在必要时进行取证分诊以评估系统是否已被入侵。随着条件变化,应重新评估优先级,并明确通往持久修复的路径。
为维护者提供响应的能力和资源
全球协调依赖于维护软件的人员。许多项目由小型团队运营,他们在日常开发的同时审查安全报告。这些团队需要帮助区分新问题与重复问题、评估影响,并在支持的发布版本中测试修复。我们通过资金、访问强大模型以及动手工程帮助来支持这项工作。
强大的 AI 能力在整个行业中不断进步,我们预计 AI 将在帮助防御者发现漏洞、监控系统和响应威胁方面发挥越来越大的作用。我们正在投资模型、工具和合作伙伴关系,以帮助防御者将这些能力付诸实践。
我们的投资包括通过 Codex for OSS 为所有维护者提供订阅,以及直接赞助如 Rust Foundation 等项目,用于维护者和技术 rec 工作。每个项目设定自己的优先事项。可重用的测试和安全工作流可以减少处理未来发现所需的努力。开源项目可以申请 Patch the Planet 以获得动手支持。
我们还在为 Daybreak 校准额外的阻止分类器,以帮助减少被滥用的可能性。这涉及艰难的权衡:旨在防止滥用的保障措施也可能阻止合法的安全工作。广泛访问强大模型和有效防止滥用都至关重要。我们的目标是保留防御者发现和修复漏洞所需的能力,同时限制有害使用。随着能力进步以及我们从这些工具的使用中学习,我们将继续完善这种平衡。
构建更安全的软件基础
随着模型变得更强大,机会扩展到发现和修复单个漏洞之外。我们希望帮助工程师从一开始就构建更安全的软件。对广泛使用的组件的改进可以防止错误或限制其在许多产品和服务中的影响。
AI 可以帮助工程师理解现有代码、准备更改并开发测试,而维护者和安全专家则验证这些更改是否保留了用户依赖的行为。我们在几个领域看到机会:
从一开始就编写安全代码。编码模型可以帮助开发者选择更安全的默认设置、正确使用安全库,并在编写时捕获风险模式。在开发过程中防止漏洞意味着维护者和用户需要的紧急修复更少。
内存安全软件。将关键组件迁移到内存安全语言可以消除常见的内存错误类别。AI 可以帮助迁移,并通过测试和专家审查来检查行为和兼容性。
形式化验证。数学证明可以表明关键组件在所述假设下满足指定的安全属性。将这些方法应用于广泛使用的组件可以帮助排除依赖它们的服务和关键基础设施中的漏洞类别。
更强的隔离。系统需要防范尚未发现或修复的漏洞。在严格受限的沙箱中运行处理不受信任的文件、图像或媒体的软件,可以在其被入侵时限制损害。AI 可以帮助工程师测试和加强广泛使用的沙箱技术,从而改善许多应用程序的保护。
帮助我们改进这一方法
我们分享我们的方法,以便维护者、研究人员、响应团队、提供商和运营者可以帮助使其可行。我们想了解它在哪里有帮助、在哪里可能增加延迟或负担,以及我们遗漏了什么。来自过去披露的例子将特别有用。
我们特别感兴趣的是:
披露窗口。维护者、运营者和防御者需要多少时间来准备和部署可靠的修复?什么证据应触发更早的披露,尤其是在某些用户可以比其他人更早受到保护时?
紧急补丁。政府和/或其他运营者何时(如果有的话)应在失去管理访问权限后,使用漏洞来修补他们拥有或被授权管理的系统?应适用哪些保障措施?我们可以想象一种最终状态,即互联网范围内始终开启的已知漏洞扫描,并在检测到时通知站点所有者或修补系统。
早期通知。谁需要提前预警才能采取有用的防护行动,包括我们可能遗漏的防御方?在什么情况下分阶段通知比一次性通知更广泛的群体更有效,以及我们应如何权衡覆盖范围与泄露风险?
默认安全的软件包。在上游修复尚待完成期间,我们如何帮助识别并修复下游包中的漏洞,或将修复回移植到不再接收安全更新的旧版本?什么样的测试和维护能使这些包在无法及时升级时成为可靠的选项?
我们也欢迎推荐能够审查该方法、挑战其假设并识别缺口的独立安全专家。您的意见将帮助我们完善应对措施并优先安排支持。在此分享您的反馈。
