In den vergangenen zwei Monaten führten wir eine Koalition aus Maintainern, Forschern und Sicherheitsanbietern an, um kritische Schwachstellen in PHP zu beheben, einer Open-Source-Programmiersprache, die zum Betreiben von Websites und Webanwendungen eingesetzt wird. Calif identifizierte einen kritischen Fehler mit GPT‑5.6 Sol im Rahmen unserer Patch the Planet(opens in a new window) -Initiative, wobei Wiz ebenfalls unabhängig beide Schwachstellen entdeckte und meldete. Die Maintainer von PHP leiteten die Fixes und das Release, während unsere Teams und Partner wie Wiz, Cloudflare und andere mit Forschung, technischer Unterstützung und Koordination zum Schutz vor der Offenlegung beitrugen.
Für Organisationen, die PHP nutzen, hat die Anwendung der Fixes nun Vorrang. Wir veröffentlichen einen PHP version checker(opens in a new window) und werden ein begleitendes Codex-Skill starten, das Betreibern helfen soll, potenziell verwundbare PHP-Versionen zu identifizieren und – gemeinsam mit den Hinweisen von PHP und deren Anbietern – zu bestimmen, welche Updates anwendbar sind.
Angesichts des Schweregrads dieser Fehler und der weitverbreiteten Nutzung von PHP betrachten wir dies als eines der folgenschwersten Sicherheitsprobleme der jüngeren Geschichte. Es zeigt, wie KI Sicherheitslücken mit Auswirkungen im Internetmaßstab aufdecken kann – doch dieselben Fähigkeiten können Angreifern auch helfen, schnell Angriffswerkzeuge und Exploits zu entwickeln.
Nach unserem Wissen haben Frontier-AI-Modelle diese Schwachstellen gefunden, bevor es Angreifern gelang, und damit ein Defender’s Window für Maintainer und Sicherheitsanbieter eröffnet, um Fixes und Schutzmaßnahmen vor der Offenlegung vorzubereiten.
Um mehr Verteidigern die Nutzung dieser Fähigkeiten zu ermöglichen, haben wir 1 Milliarde US-Dollar an subventioniertem Daybreak access über Daybreak for Frontline Defenderszugesagt, mit Fokus auf Organisationen mit begrenzten Sicherheitsressourcen, die grundlegende Dienste schützen.
So bedeutend sie sind: Diese Fehler gehören zu mehreren erheblichen Schwachstellen, die wir bereits gefunden haben und an deren Behebung wir arbeiten, und wir erwarten, dass ähnliche Funde in den kommenden Monaten stark zunehmen. Aus unserer bisherigen Erfahrung teilen wir einen vorgeschlagenen Ansatz, geeignet für das KI-Zeitalter, zum Umgang mit kritischen Schwachstellen in weit verbreiteter Software, und wir bitten die Security-Community, dieses Framework zu verbessern. Es vereint unsere Modelle, Sicherheitsexpertise und Maintainer, um Funde in Schutz umzuwandeln und eine Reaktion aufzubauen, die mit dem Fortschritt der KI-Fähigkeiten skalieren kann.
Koordination einer globalen Reaktion
Einen Fix in den Einsatz zu bringen kann bedeuten, ihn für ältere Releases anzupassen, Anbieter-Mitigationen vorzubereiten und Systeme in vielen Organisationen zu aktualisieren. Ein wiederholbarer Prozess hilft diesen Teams, schnell zu handeln, wenn weitere Schwachstellen entdeckt werden.
Im Rahmen von Patch the Planet haben wir Sicherheitsexpertise und Modellzugriff zur Unterstützung der PHP-Reaktion beigetragen und mit Maintainern und Forschungspartnern zusammengearbeitet, um Fixes zu testen und Leitlinien vorzubereiten. Wir halfen auch bei der Koordination mit Infrastrukturanbietern zu Schutzmaßnahmen für betroffene Systeme und wandten uns an staatliche Cyber-Behörden, damit die Leitlinien kritische Organisationen erreichen. Dies unterstützte die von Maintainern geführte Reaktion und half anderen Verteidigern bei der Vorbereitung.
Bei manchen Funden können Forscher direkt mit den Maintainern der Software zusammenarbeiten, um das Problem zu untersuchen und einen Fix zu entwickeln. Andere erfordern eine breitere Reaktion, weil sie viele Produkte betreffen oder weil Distributoren und Dienstanbieter Zeit benötigen (die knapp sein kann, wenn Frontier-Fähigkeiten den allgemein verfügbaren nicht allzu weit voraus sind), um Updates und Schutzmaßnahmen vorzubereiten. In diesen Fällen kann das vorgeschlagene Framework Maintainern helfen zu erkennen, wer einbezogen werden muss, und die Arbeit zu koordinieren. Die Reaktion kann fünf Phasen umfassen:
Validieren und Beheben der Upstream-Schwachstelle. Der Maintainer, die Forscher und essenzielle technische Partner bestätigen den Fund, bewerten seine Auswirkungen und entwickeln und testen einen Fix. Dieser Prozess umfasst adversariales Testen mit Frontier-Modellen, um Wege um den Patch herum und verwandte Varianten der Schwachstelle zu finden.
Betroffenen Organisationen Zeit zum Handeln geben. Wir schlagen ein Framework vor, um zu bewerten, welche Organisationen Vorabinformationen zur Vorbereitung von Schutzmaßnahmen benötigen, während die Maintainer entscheiden, wen sie einbeziehen. Wir helfen bei Outreach, Vereinbarungen zum Informationsaustausch und der Koordination zwischen Teams. Ein Distributor könnte einen Fix für ein älteres Release anpassen, ein Hosting-Anbieter könnte eine Mitigation testen, und ein Sicherheitsanbieter könnte Erkennungs- oder Präventionsmaßnahmen vorbereiten, einschließlich Web Application Firewall (WAF)-Regeln.
Mit Regierungspartnern koordinieren, um kritische Systeme zu schützen. Regierungsbehörden spielen eine wesentliche Rolle bei der Koordination einer breiteren Reaktion und dabei, Sicherheitshinweise zu Organisationen zu bringen, die für kritische Infrastruktur und andere grundlegende Dienste verantwortlich sind. Im Fall von PHP haben wir in Zusammenarbeit mit unseren Partnern mit mehreren Teilen der US-Regierung zusammengearbeitet, darunter die Super Intelligence Force des Weißen Hauses, das Office of the National Cyber Director (ONCD) und die Cybersecurity and Infrastructure Security Agency (CISA), sowie mit internationalen Partnern, um diese Bemühung zu unterstützen.
Bereiten Sie Updates für die betroffenen Produkte vor. Wenn die Pläne für die Behebung, die Leitlinien und die Offenlegung stabil werden, können die Maintainer zusätzliche Distributoren, Hosting- und Serviceanbieter, Response-Teams und Betreiber einbeziehen, um Updates vorzubereiten und Lücken in der Abdeckung zu schließen.
Sobald ein Patch verfügbar ist, veröffentlichen Sie Leitlinien und unterstützen Sie die Bereitstellung. Öffentliche Leitlinien helfen Menschen, ihre Exposition einzuschätzen, autoritative Updates oder interimistische Minderungsmaßnahmen zu finden und zu prüfen, ob eine Behebung läuft. Die Reaktion setzt sich fort, während Betreiber Updates bereitstellen und melden, wo sie Hilfe benötigen.
Der vorgeschlagene Rahmen berücksichtigt die Schutzaufgabe einer Organisation, einschließlich des Schutzes ihrer eigenen Systeme und Kunden, der benötigten Zeit zum Handeln und ihrer Fähigkeit, mit sensiblen Informationen umzugehen. Dieselben Kriterien würden für vergleichbare Organisationen gelten, wobei die Maintainer entscheiden, wen sie vor der Offenlegung einbeziehen.
Jeder Teilnehmer erhält die Informationen, die er für seine Schutzarbeit benötigt, von Netzwerkprotokollen mit Indikatoren für Kompromittierung bis hin zu sensibleren funktionierenden Proof-of-Concept-Exploits. Selbst begrenzte Details können eine Schwachstelle offenlegen, daher wägen wir das Risiko ihrer Weitergabe gegen den Schutz ab, den sie ermöglichen.
Teams, die diesem Rahmen folgen, würden mit Maintainern zusammenarbeiten, um Verteidigern Zeit zur Vorbereitung zu geben, und den Zeitplan neu bewerten, wenn eine aktive Ausnutzung in freier Wildbahn, ein Leak, ein aufschlussreicher öffentlicher Patch oder ein erhöhtes Risiko für Nutzer durch stockende Behebung vorliegt.
Die Patch the Planet Website(öffnet in einem neuen Fenster) bündelt öffentliche Offenlegungen und Leitlinien, um Betreibern zu helfen, betroffene Systeme zu identifizieren, das richtige Update zu finden und zu überprüfen, dass die aktualisierte Software ordnungsgemäß läuft. Für PHP verweist sie auf die offiziellen Patch- und Upgrade-Anleitungen der Maintainer und die technische Forschung unserer Partner. Die Leitlinien decken auch interimistische Minderungsmaßnahmen ab, wann ein Anbieter oder Experte hinzugezogen werden sollte sowie Backup und Wiederherstellung. Interimistische Schutzmaßnahmen können das Risiko reduzieren, aber wir werden ihre Grenzen und betrieblichen Kompromisse klar machen.
Betreiber können CISAs Leitlinien zur Priorisierung und Behebung(öffnet in einem neuen Fenster) nutzen, um anhand von Exposition, Ausnutzung und potenziellen Auswirkungen einzuschätzen, wie schnell sie handeln müssen. Das kann Notfall-Patching, sofortige Minderung oder ein geplantes Update bedeuten, zusammen mit forensischer Triage, wo angebracht, um zu bewerten, ob Systeme bereits kompromittiert wurden. Prioritäten sollten neu bewertet werden, wenn sich die Bedingungen ändern, mit einem klaren Weg zur dauerhaften Behebung.
Maintainern Kapazität und Ressourcen für die Reaktion geben
Globale Koordination hängt von den Menschen ab, die die Software warten. Viele Projekte werden von kleinen Teams betrieben, die Sicherheitsberichte neben der routinemäßigen Entwicklung prüfen. Diese Teams brauchen Hilfe dabei, neue Probleme von Duplikaten zu trennen, Auswirkungen zu bewerten und Behebungen über unterstützte Versionen hinweg zu testen. Wir unterstützen diese Arbeit mit Finanzierung, Zugang zu leistungsfähigen Modellen und direkter technischer Unterstützung.
Leistungsstarke KI-Fähigkeiten schreiten in der gesamten Branche voran, und wir erwarten, dass KI eine wachsende Rolle dabei spielen wird, Verteidigern zu helfen, Schwachstellen zu finden, Systeme zu überwachen und auf Bedrohungen zu reagieren. Wir investieren in Modelle, Werkzeuge und Partnerschaften, um Verteidigern zu helfen, diese Fähigkeiten einzusetzen.
Zu unseren Investitionen gehören Abonnements für alle Maintainer durch Codex for OSS und direkte Sponsorship von Projekten wie der Rust Foundation(öffnet in einem neuen Fenster) für Maintainer und technische Arbeit. Jedes Projekt legt seine eigenen Prioritäten fest. Wiederverwendbare Tests und Sicherheits-Workflows können den Aufwand reduzieren, der für die Bearbeitung künftiger Funde erforderlich ist. Open-Source-Projekte können sich bei Patch the Planet(öffnet in einem neuen Fenster) für direkte Unterstützung bewerben.
Wir kalibrieren außerdem zusätzliche Blockierungs-Klassifikatoren für Daybreak, um das Potenzial für Missbrauch zu verringern. Dies beinhaltet schwierige Kompromisse: Schutzmaßnahmen, die Missbrauch verhindern sollen, können auch legitime Sicherheitsarbeit blockieren. Breiter Zugang zu leistungsfähigen Modellen und wirksamer Schutz vor Missbrauch sind beide entscheidend. Unser Ziel ist es, die Fähigkeiten zu erhalten, die Verteidiger benötigen, um Schwachstellen zu finden und zu beheben, während wir schädliche Nutzung einschränken. Wir werden dieses Gleichgewicht weiter verfeinern, wenn die Fähigkeiten voranschreiten und wir daraus lernen, wie diese Werkzeuge eingesetzt werden.
Sicherere Software-Grundlagen schaffen
Wenn Modelle leistungsfähiger werden, reicht die Möglichkeit über das Finden und Beheben einzelner Schwachstellen hinaus. Wir möchten Ingenieuren helfen, von Anfang an sicherere Software zu entwickeln. Verbesserungen an einer weit verbreiteten Komponente können Fehler verhindern oder ihre Auswirkungen über viele Produkte und Dienste hinweg begrenzen.
KI kann Ingenieuren helfen, bestehenden Code zu verstehen, Änderungen vorzubereiten und Tests zu entwickeln, während Maintainer und Sicherheitsexperten überprüfen, dass diese Änderungen das Verhalten bewahren, von dem Nutzer abhängen. Wir sehen Möglichkeiten in mehreren Bereichen:
Sicherer Code von Anfang an. Coding-Modelle können Entwicklern helfen, sicherere Standardwerte zu wählen, Sicherheitsbibliotheken korrekt zu verwenden und riskante Muster während des Schreibens zu erkennen. Das Verhindern von Schwachstellen während der Entwicklung bedeutet weniger Notfallbehebungen für Maintainer und Nutzer.
Speichersichere Software. Die Umstellung kritischer Komponenten auf speichersichere Sprachen kann häufige Klassen von Speicherfehlern beseitigen. KI kann bei Migrationen helfen, mit Tests und Expertenprüfung zur Überprüfung von Verhalten und Kompatibilität.
Formale Verifikation. Mathematische Beweise können zeigen, dass kritische Komponenten unter den angegebenen Annahmen bestimmte Sicherheitseigenschaften erfüllen. Die Anwendung dieser Methoden auf weit verbreitete Komponenten könnte dazu beitragen, ganze Klassen von Schwachstellen über die Dienste und kritische Infrastrukturen hinweg auszuschließen, die von ihnen abhängen.
Stärkere Isolation. Systeme benötigen Schutz vor Schwachstellen, die noch nicht gefunden oder behoben wurden. Das Ausführen von Software, die nicht vertrauenswürdige Dateien, Bilder oder Medien verarbeitet, in streng eingeschränkten Sandboxes kann den Schaden begrenzen, falls sie kompromittiert wird. KI kann Ingenieuren helfen, weit verbreitete Sandbox-Technologien zu testen und zu stärken und so den Schutz über viele Anwendungen hinweg zu verbessern.
Helfen Sie uns, diesen Ansatz zu verbessern
Wir teilen unseren Ansatz, damit Maintainer, Forschende, Reaktionsteams, Anbieter und Betreiber mithelfen können, ihn praktikabel zu machen. Wir möchten verstehen, wo er helfen würde, wo er Verzögerungen oder Mehrbelastung verursachen könnte und was wir übersehen haben. Beispiele aus früheren Offenlegungen wären besonders nützlich.
Wir sind besonders interessiert an:
Offenlegungsfenster. Wie viel Zeit benötigen Maintainer, Betreiber und Verteidiger, um zuverlässige Korrekturen vorzubereiten und bereitzustellen? Welche Beweise sollten eine frühere Offenlegung auslösen, insbesondere wenn manche Nutzer früher geschützt werden können als andere?
Notfall-Patching. Wann, wenn überhaupt, sollten Regierungen oder andere Betreiber eine Schwachstelle nutzen, um Systeme zu patchen, die sie besitzen oder zu verwalten sie berechtigt sind, nachdem sie den administrativen Zugriff verloren haben? Welche Schutzmaßnahmen sollten gelten? Wir können uns einen Endzustand einer internetweiten, stets aktiven Suche nach bekannten Schwachstellen vorstellen, bei der entweder Website-Betreiber benachrichtigt werden, wenn eine erkannt wird, oder das System gepatcht wird.
Frühzeitige Benachrichtigung. Wer benötigt eine Vorwarnung, um eine nützliche Schutzmaßnahme zu ergreifen, einschließlich Verteidiger, die wir möglicherweise übersehen? Wann funktionieren gestufte Benachrichtigungen besser als die gleichzeitige Benachrichtigung einer größeren Gruppe, und wie sollten wir Abdeckung gegen das Risiko von Lecks abwägen?
Standardmäßig sichere Softwarepakete. Wie können wir dabei helfen, Schwachstellen in Downstream-Paketen zu identifizieren und zu beheben, während die Upstream-Fixes noch ausstehen, oder Fixes auf ältere Versionen zurückportieren, die keine Sicherheitsupdates mehr erhalten? Welche Tests und Wartung würden diese Pakete zu verlässlichen Optionen machen, wenn ein zeitnahes Upgrade nicht möglich ist?
Wir nehmen außerdem Empfehlungen für unabhängige Sicherheitsexpertinnen und -experten entgegen, die den Ansatz prüfen, seine Annahmen infrage stellen und Lücken identifizieren können. Ihr Beitrag wird uns helfen, die Reaktion zu verfeinern und die Unterstützung zu priorisieren. Teilen Sie uns Ihr Feedback hier mit(opens in a new window).