Heute geben wir eine Partnerschaft mit Hacktron bekannt, um Schwachstellen in OpenAIs Systemen zu finden. Unsere Ingenieure und Hacktrons Sicherheitsforscher werden gemeinsam hochpriorisierte Bereiche auswählen, die getestet werden sollen, mit einem Fokus darauf, wie unsere Systeme mit Drittanbieter-Diensten interagieren. Im Rahmen der Partnerschaft erweitern wir Hacktrons Zugriff auf unsere Frontier-Modelle durch Daybreak Red.
Während wir daran arbeiten, die Cyberabwehr mit Frontier-AI zu beschleunigen, wenden wir dieselbe Dringlichkeit darauf an, Schwachstellen in unseren eigenen Systemen zu finden und zu beheben. Anfang dieser Woche haben wir angekündigt, dass Cathedral-Forscher in unserem nächsten Security-Sprint alongside mit unseren Teams arbeiten werden. Außerdem haben wir unsere Bug-Bounty-Prämien erhöht um unabhängigen Forschern mehr Anreiz zu geben, Schwachstellen zu verfolgen, die unser eigenes Testen möglicherweise übersehen hat.
Wir wurden durch unser Security Bug Bounty-Programm auf Hacktron aufmerksam und waren von der Wirkung der Schwachstellen beeindruckt, die seine Forscher entdeckt und uns gemeldet haben. Das Team entwickelt KI-Agenten für Code-Reviews, Penetrationstests und Red Teaming. Ihre Forschung(opens in a new window) hat Schwachstellen darin aufgedeckt, wie Anwendungen, Cloud-Infrastruktur und Identitätssysteme interagieren. Ihre Arbeit zeigt, was möglich ist, wenn Sicherheitsingenieure um KI herum bauen, um schneller zu sein und sich ehrgeizigerer Forschung zu widmen.
Da KI-Agenten Dienste auf neue Weise miteinander verbinden, wird diese Kombination von Fähigkeiten noch wertvoller. Die Zusammenarbeit mit Hacktron wird uns helfen, diese Verbindungen tiefer zu testen und das Gelernte zur Stärkung unserer Abwehrkräfte zu nutzen.
„Die Zukunft der Cybersicherheit wird nicht davon bestimmt, wer das größte Sicherheitsteam hat, sondern davon, wer menschliche Kreativität am besten mit KI-gestützten Fähigkeiten kombinieren kann.
OpenAI setzt ein starkes Beispiel, indem es Frontier-Cybermodelle in die Hände von Sicherheitsforschern legt und es ihnen ermöglicht, komplexe Schwachstellen an den Schnittstellen zwischen vernetzten Systemen aufzudecken.
Wir freuen uns, unsere Partnerschaft mit OpenAI zu vertiefen und unsere Expertise in der Offensivsicherheit mit ihren Frontier-Modellen zu kombinieren, um OpenAI und das breitere Software-Ökosystem abzusichern.“
Wir sind Hacktron und anderen unabhängigen Forschern dankbar, die Zeit darauf verwenden, Schwachstellen zu finden und zu melden, um die Sicherheit zu stärken, die alle unsere Nutzer schützt. Um zu sehen, welche Systeme im Geltungsbereich liegen, oder eine Schwachstelle einzureichen, besuchen Sie unser Security Bug Bounty-Programm(opens in a new window).