In den vergangenen zwei Monaten führten wir ein Bündnis aus Maintainern, Forschern und Sicherheitsanbietern an, um kritische Schwachstellen in PHP zu beheben, einer Open-Source-Programmiersprache, die zum Betreiben von Websites und Webanwendungen eingesetzt wird. Calif identifizierte einen kritischen Fehler mit GPT‑5.6 Sol als Teil unserer Patch the Planet(öffnet in einem neuen Fenster) -Initiative, wobei Wiz ebenfalls unabhängig beide Schwachstellen entdeckte und meldete. Die PHP-Maintainer leiteten die Korrekturen und die Veröffentlichung, während unsere Teams und Partner wie Wiz, Cloudflare und andere Forschung, technische Unterstützung und Koordination beitrugen, um Schutzmaßnahmen vor der Offenlegung vorzubereiten.
Für Organisationen, die PHP verwenden, hat die Anwendung der Korrekturen nun Vorrang. Wir stellen einen PHP-Version-Checker als Codex-Skill bereit(öffnet in einem neuen Fenster) , um Betreibern zu helfen, potenziell verwundbare PHP-Versionen zu identifizieren und – gemeinsam mit den Empfehlungen von PHP und deren Anbietern – zu bestimmen, welche Updates anwendbar sind.
Angesichts des Schweregrads dieser Fehler und der weit verbreiteten Nutzung von PHP betrachten wir dies als eines der folgenreichsten Sicherheitsprobleme der letzten Zeit. Es zeigt, wie KI Sicherheitslücken mit Auswirkungen im Internetmaßstab aufdecken kann, doch dieselben Fähigkeiten können Angreifern auch helfen, schnell Angriffswerkzeuge und Exploits zu entwickeln.
Nach unserem Wissen haben KI-Modelle an der Front diese Schwachstellen gefunden, bevor es Angreifern gelang, was ein Defender’s Window für Maintainer und Sicherheitsanbieter eröffnet, um Korrekturen und Schutzmaßnahmen vor der Offenlegung vorzubereiten.
Um mehr Verteidigern die Nutzung dieser Fähigkeiten zu ermöglichen, haben wir 1 Milliarde US-Dollar an subventioniertem Daybreak-Zugang durch Daybreak for Frontline Defenderszugesagt, mit Fokus auf Organisationen mit begrenzten Sicherheitsressourcen, die wesentliche Dienste schützen.
So bedeutsam diese Fehler sind, gehören sie zu mehreren erheblichen Schwachstellen, die wir bereits gefunden haben und an deren Behebung wir arbeiten, und wir erwarten, dass ähnliche Funde in den kommenden Monaten stark zunehmen. Gestützt auf unsere bisherigen Erfahrungen teilen wir einen vorgeschlagenen Ansatz, der für das KI-Zeitalter geeignet ist, zur Reaktion auf kritische Schwachstellen in weit verbreiteter Software, und wir bitten die Sicherheits-Community, diesen Rahmen zu verbessern. Er bringt unsere Modelle, Sicherheitskompetenz und Maintainer zusammen, um Funde in Schutz zu übersetzen und eine Reaktion aufzubauen, die mit fortschreitenden KI-Fähigkeiten skalieren kann.
Koordination einer globalen Reaktion
Eine Korrektur in die Praxis zu bringen kann bedeuten, sie an ältere Releases anzupassen, Anbieter-Mitigationen vorzubereiten und Systeme vieler Organisationen zu aktualisieren. Ein wiederholbarer Prozess hilft diesen Teams, schnell zu handeln, wenn weitere Schwachstellen entdeckt werden.
Durch Patch the Planet haben wir Sicherheitskompetenz und Modellzugang zur Unterstützung der PHP-Reaktion beigesteuert und mit Maintainern und Forschungspartnern zusammengearbeitet, um Korrekturen zu testen und Empfehlungen vorzubereiten. Wir halfen auch bei der Koordination mit Infrastrukturanbietern zu Schutzmaßnahmen für betroffene Systeme und wandten uns an staatliche Cyber-Behörden, damit Empfehlungen kritische Organisationen erreichen. Dies unterstützte die maintainer-geführte Reaktion und half anderen Verteidigern bei der Vorbereitung.
Bei manchen Funden können Forscher direkt mit den Maintainern der Software zusammenarbeiten, um das Problem zu untersuchen und eine Korrektur zu entwickeln. Andere erfordern eine breitere Reaktion, weil sie viele Produkte betreffen oder weil Distributoren und Diensteanbieter Zeit benötigen (die knapp sein kann, wenn Fähigkeiten an der Front nicht allzu weit vor jenen liegen, die breit verfügbar sind), um Updates und Schutzmaßnahmen vorzubereiten. In diesen Fällen kann der vorgeschlagene Rahmen Maintainern helfen, zu identifizieren, wer einbezogen werden muss, und die Arbeit zu koordinieren. Die Reaktion kann fünf Phasen umfassen:
Validieren und Beheben der Upstream-Schwachstelle. Der Maintainer, Forscher und wesentliche technische Partner bestätigen den Fund, bewerten seine Auswirkungen und entwickeln und testen eine Korrektur. Dieser Prozess umfasst adversarielles Testen mit Modellen an der Front, um Wege um den Patch herum und verwandte Varianten der Schwachstelle zu finden.
Betroffenen Organisationen Zeit zum Handeln geben. Wir schlagen einen Rahmen vor, um zu entscheiden, welche Organisationen Vorabinformationen benötigen, um Schutzmaßnahmen vorzubereiten, während die Maintainer entscheiden, wen sie einbeziehen. Wir helfen bei der Ansprache, Informationsaustauschvereinbarungen und der Koordination zwischen Teams. Ein Distributor könnte eine Korrektur für ein älteres Release anpassen, ein Hosting-Anbieter könnte eine Mitigation testen, und ein Sicherheitsanbieter könnte Erkennungs- oder Präventionsmaßnahmen vorbereiten, einschließlich Web Application Firewall (WAF)-Regeln.
Koordination mit Regierungspartnern zum Schutz kritischer Systeme. Regierungsbehörden spielen eine wesentliche Rolle bei der Koordination einer breiteren Reaktion und dabei, Sicherheits-Empfehlungen zu Organisationen zu bringen, die für kritische Infrastruktur und andere wesentliche Dienste verantwortlich sind. Im Fall von PHP haben wir in Zusammenarbeit mit unseren Partnern mit mehreren Teilen der US-Regierung zusammengearbeitet, darunter die Super Intelligence Force des Weißen Hauses, das Office of the National Cyber Director (ONCD), die Cybersecurity and Infrastructure Security Agency (CISA) sowie internationale Partner, um diesen Auftrag zu unterstützen.
Bereiten Sie Updates für die betroffenen Produkte vor. Sobald die Pläne für die Behebung, die Leitlinien und die Offenlegung stabil sind, können die Maintainer zusätzliche Distributoren, Hosting- und Serviceanbieter, Response-Teams und Betreiber einbeziehen, um Updates vorzubereiten und Lücken in der Abdeckung zu schließen.
Sobald ein Patch verfügbar ist, veröffentlichen Sie Leitlinien und unterstützen Sie die Bereitstellung. Öffentliche Leitlinien helfen Menschen, ihre Exposition einzuschätzen, verlässliche Updates oder vorübergehende Minderungsmaßnahmen zu finden und zu prüfen, dass eine Behebung läuft. Die Reaktion wird fortgesetzt, während Betreiber Updates einspielen und melden, wo sie Hilfe benötigen.
Der vorgeschlagene Rahmen berücksichtigt die Schutzaufgabe einer Organisation, einschließlich des Schutzes der eigenen Systeme und Kunden, der benötigten Zeit zum Handeln und ihrer Fähigkeit, mit sensiblen Informationen umzugehen. Dieselben Kriterien würden für vergleichbare Organisationen gelten, wobei die Maintainer entscheiden, wen sie vor der Offenlegung einbeziehen.
Jeder Teilnehmer erhält die Informationen, die für seine Schutzarbeit erforderlich sind, von Netzwerkprotokollen mit Kompromittierungsindikatoren bis hin zu sensibleren funktionierenden Proof-of-Concept-Exploits. Selbst begrenzte Details können eine Schwachstelle offenlegen, daher wägen wir das Risiko ihrer Weitergabe gegen den Schutz ab, den sie ermöglichen.
Teams, die diesem Rahmen folgen, würden mit Maintainern zusammenarbeiten, um Verteidigern Zeit zur Vorbereitung zu geben, und den Zeitplan neu bewerten, wenn eine aktive Ausnutzung in freier Wildbahn, ein Leak, ein aufschlussreicher öffentlicher Patch oder ein erhöhtes Risiko für Nutzer durch stockende Behebung vorliegt.
Die Patch-the-Planet-Website(opens in a new window) bündelt öffentliche Offenlegungen und Leitlinien, damit Betreiber betroffene Systeme identifizieren, das richtige Update finden und überprüfen können, dass die aktualisierte Software ordnungsgemäß läuft. Für PHP verweist sie auf die offiziellen Patch- und Upgrade-Anleitungen der Maintainer und die technischen Forschungsarbeiten unserer Partner. Die Leitlinien behandeln auch vorübergehende Minderungsmaßnahmen, wann ein Anbieter oder Experte hinzugezogen werden sollte sowie Backup und Wiederherstellung. Vorübergehende Schutzmaßnahmen können das Risiko reduzieren, aber wir werden ihre Grenzen und operativen Kompromisse deutlich machen.
Betreiber können die Leitlinien von CISA zur Priorisierung und Behebung(opens in a new window) nutzen, um anhand von Exposition, Ausnutzung und potenziellen Auswirkungen einzuschätzen, wie schnell sie handeln sollten. Das kann Notfall-Patches, sofortige Minderungsmaßnahmen oder ein geplantes Update bedeuten, zusätzlich zu forensischer Triage, wo dies angebracht ist, um zu bewerten, ob Systeme bereits kompromittiert wurden. Prioritäten sollten neu bewertet werden, wenn sich die Umstände ändern, mit einem klaren Weg zu dauerhafter Behebung.
Maintainern die Kapazität und Ressourcen zur Reaktion geben
Die globale Koordination hängt von den Menschen ab, die die Software warten. Viele Projekte werden von kleinen Teams betrieben, die Sicherheitsberichte neben der regulären Entwicklung prüfen. Diese Teams benötigen Hilfe dabei, neue Probleme von Duplikaten zu trennen, Auswirkungen zu bewerten und Korrekturen über unterstützte Versionen hinweg zu testen. Wir unterstützen diese Arbeit mit Finanzierung, Zugang zu leistungsfähigen Modellen und praktischer Entwicklungsunterstützung.
Leistungsstarke KI-Fähigkeiten schreiten in der gesamten Branche voran, und wir erwarten, dass KI eine wachsende Rolle dabei spielen wird, Verteidigern zu helfen, Schwachstellen zu finden, Systeme zu überwachen und auf Bedrohungen zu reagieren. Wir investieren in Modelle, Werkzeuge und Partnerschaften, um Verteidigern zu helfen, diese Fähigkeiten einzusetzen.
Zu unseren Investitionen gehören Abonnements für alle Maintainer durch Codex for OSS und die direkte Förderung von Projekten wie der Rust Foundation(opens in a new window) für Maintainer und technische Arbeiten. Jedes Projekt legt seine eigenen Prioritäten fest. Wiederverwendbare Tests und Sicherheits-Workflows können den Aufwand für die Bearbeitung künftiger Funde reduzieren. Open-Source-Projekte können sich bei Patch the Planet(opens in a new window) für praktische Unterstützung bewerben.
Wir kalibrieren außerdem zusätzliche Blockier-Klassifikatoren für Daybreak, um das Missbrauchspotenzial zu verringern. Dies beinhaltet schwierige Abwägungen: Sicherheitsvorkehrungen, die Missbrauch verhindern sollen, können auch legitime Sicherheitsarbeit blockieren. Ein breiter Zugang zu leistungsfähigen Modellen und wirksame Schutzmaßnahmen gegen Missbrauch sind beide entscheidend. Unser Ziel ist es, die Fähigkeiten zu erhalten, die Verteidiger benötigen, um Schwachstellen zu finden und zu beheben, während schädliche Nutzung begrenzt wird. Wir werden diese Balance weiter verfeinern, wenn die Fähigkeiten voranschreiten und wir daraus lernen, wie diese Werkzeuge eingesetzt werden.
Sicherere Software-Grundlagen schaffen
Wenn Modelle leistungsfähiger werden, reicht die Möglichkeit über das Finden und Beheben einzelner Schwachstellen hinaus. Wir möchten Ingenieuren helfen, von Anfang an sicherere Software zu entwickeln. Verbesserungen an einer weit verbreiteten Komponente können Fehler verhindern oder ihre Auswirkungen über viele Produkte und Dienste hinweg begrenzen.
KI kann Ingenieuren helfen, bestehenden Code zu verstehen, Änderungen vorzubereiten und Tests zu entwickeln, während Maintainer und Sicherheitsexperten überprüfen, dass diese Änderungen das Verhalten bewahren, auf das sich Nutzer verlassen. Wir sehen Möglichkeiten in mehreren Bereichen:
Sicherer Code von Anfang an. Coding-Modelle können Entwicklern helfen, sicherere Standardeinstellungen zu wählen, Sicherheitsbibliotheken korrekt zu verwenden und riskante Muster beim Schreiben zu erkennen. Das Verhindern von Schwachstellen während der Entwicklung bedeutet weniger Notfall-Korrekturen für Maintainer und Nutzer.
Speichersichere Software. Die Umstellung kritischer Komponenten auf speichersichere Sprachen kann häufige Klassen von Speicherfehlern beseitigen. KI kann bei Migrationen helfen, mit Tests und Expertenprüfung zur Überprüfung von Verhalten und Kompatibilität.
Formale Verifikation. Mathematische Beweise können zeigen, dass kritische Komponenten bestimmte Sicherheitseigenschaften unter den angegebenen Annahmen erfüllen. Die Anwendung dieser Methoden auf breit genutzte Komponenten könnte dazu beitragen, ganze Klassen von Schwachstellen in den Diensten und der kritischen Infrastruktur auszuschließen, die von ihnen abhängen.
Stärkere Isolierung. Systeme brauchen Schutz gegen Schwachstellen, die noch nicht gefunden oder behoben wurden. Die Ausführung von Software, die nicht vertrauenswürdige Dateien, Bilder oder Medien verarbeitet, in streng eingeschränkten Sandboxes kann den Schaden begrenzen, falls sie kompromittiert wird. KI kann Ingenieuren helfen, breit genutzte Sandboxing-Technologien zu testen und zu stärken und so den Schutz in vielen Anwendungen zu verbessern.
Helfen Sie uns, diesen Ansatz zu verbessern
Wir teilen unseren Ansatz, damit Betreuer, Forscher, Reaktionsteams, Anbieter und Betreiber mithelfen können, ihn praktikabel zu machen. Wir möchten verstehen, wo er helfen würde, wo er Verzögerungen oder Belastungen verursachen könnte und was wir übersehen haben. Beispiele aus früheren Offenlegungen wären besonders nützlich.
Wir sind besonders interessiert an:
Offenlegungsfenster. Wie viel Zeit benötigen Betreuer, Betreiber und Verteidiger, um zuverlässige Korrekturen vorzubereiten und auszurollen? Welche Beweise sollten eine frühere Offenlegung auslösen, insbesondere wenn manche Nutzer früher geschützt werden können als andere?
Notfall-Patching. Wann, wenn überhaupt, sollten Regierungen oder andere Betreiber eine Schwachstelle nutzen, um Systeme zu patchen, die sie besitzen oder zu verwalten sie autorisiert sind, nachdem sie den administrativen Zugriff verloren haben? Welche Schutzmaßnahmen sollten gelten? Wir können uns als Endzustand eine internetweite, durchgehend aktive Suche nach bekannten Schwachstellen vorstellen, mit either Benachrichtigung der Website-Betreiber, wenn eine entdeckt wird, oder dem Patchen des Systems.
Frühzeitige Benachrichtigung. Wer braucht eine Vorwarnung, um eine nützliche Schutzmaßnahme zu ergreifen, einschließlich Verteidiger, die wir möglicherweise übersehen? Wann funktionieren gestaffelte Benachrichtigungen besser als die gleichzeitige Benachrichtigung einer größeren Gruppe, und wie sollten wir Abdeckung gegen Leak-Risiko abwägen?
Standardmäßig sichere Softwarepakete. Wie können wir dazu beitragen, Schwachstellen in nachgelagerten Paketen zu identifizieren und zu beheben, während die Upstream-Korrekturen noch ausstehen, oder Korrekturen auf ältere Versionen zurückportieren, die keine Sicherheitsupdates mehr erhalten? Welche Tests und Wartung würden diese Pakete zu verlässlichen Optionen machen, wenn ein rechtzeitiges Upgrade nicht möglich ist?
Wir freuen uns auch über Empfehlungen für unabhängige Sicherheitsexperten, die den Ansatz überprüfen, seine Annahmen in Frage stellen und Lücken aufdecken können. Ihr Beitrag wird uns helfen, die Antwort zu verfeinern und Unterstützung zu priorisieren. Teilen Sie Ihr Feedback hier(öffnet in einem neuen Fenster).