OpenCode hat kürzlich offengelegt, dass seine Online-Plattform OpenCode Console von einer Sicherheitslücke betroffen war, von der etwa 1.4% der Nutzer betroffen sind. Die von einigen Nutzern gespeicherten API-Schlüssel für KI-Dienste könnten offengelegt worden sein, und es kam zu unbefugten API-Aufrufen sowie hohen Kosten. Das Unternehmen erklärte, es habe die betroffenen Nutzer per E-Mail benachrichtigt; der Vorfall werde weiterhin untersucht und bearbeitet.
OpenCode zufolge steht der Vorfall im Zusammenhang mit einem groß angelegten Data-Destillation-Angriff, doch die konkrete Angriffsmethode wurde bislang nicht veröffentlicht, und diese Darstellung wird von einigen Forschern angezweifelt. Nach dem Vorfall haben Anthropic und Google die ihrer Ansicht nach offengelegten API-Schlüssel gesperrt, während OpenAI mit OpenCode zusammenarbeitete, um den Zugriff wiederherzustellen und betroffenen API-Kunden die entsprechenden Guthaben zurückzuerstatten. Einige Nutzer meldeten unbefugte Gebühren in Höhe von mehreren hundert Dollar oder sogar über 1000 Dollar auf ihren Konten; OpenCode erklärte, die Rückerstattungen würden vorangetrieben.
OpenCode-Mitgründer Dax Raad betonte, dass sich die Auswirkungen ausschließlich auf die Console-Plattform beschränken; die Open-Source-Anwendung und das Kommandozeilen-Tool seien nicht betroffen. Er verriet außerdem, dass Angreifer 48 Stunden lang versuchten, ins System einzudringen, und das Team mithilfe von KI-Defense-Agenten eine Notfalluntersuchung durchführte, wobei einige Modelle die Analyse wegen bösartigem Code infolge ausgelöster Sicherheitsfiltermechanismen abbrachen. Anschließend erhielt OpenCode Zugriff auf das OpenAI-Projekt Daybreak Blue, um seine Fähigkeiten bei defensiven Sicherheitsaufgaben zu verbessern.
Dieser Vorfall löst erneut eine Diskussion über KI-Sicherheitsleitschienen aus. Bereits im Juli dieses Jahres erklärte Hugging Face, dass die Sicherheitsbeschränkungen kommerzieller KI-Modelle die Analyse von Eindringungsprotokollen autonomer KI-Agenten behinderten.
Gleichzeitig ereignete sich der Vorfall bei OpenCode zu dem Zeitpunkt, als das Unternehmen das GLM-5.3-Flash-Modell kostenlos zur Verfügung stellte. Mit dem wachsenden Einsatz von KI-Agenten bei Cyberangriffen und in der Cyberverteidigung wird der Ausgleich zwischen der Einschränkung bösartigen Verhaltens und der Unterstützung legitimer Sicherheitsforschung zu einer wichtigen Frage der Branche.