Bei dem OpenAI DevDay dieses Jahres präsentierte der CEO Sam Altman den neuen AI-Agenten Dots der Firma – und sagte zur Menge, dass das Unternehmen ein neues Standard für Datenschutz in der Frontier-AI-Branche setzen wolle. OpenAI würde den Tag damit verbringen, Meta’s Muse, seinen Hauptkonkurrenten, wegen des Versäumnens, die Daten der Nutzer sicher zu halten, heimlich zu kritisieren. Doch Muse selbst hatte bereits einige Monate zuvor als vermeintlich sicherere Alternative zu OpenClaw gestartet – mit CEO Mark Zuckerberg. versprechend Es wurde „von Grund auf für Privatsphäre und Sicherheit entwickelt“.
In einer Zeit, in der Unternehmen die persönlichen Daten ihrer Kunden horten und Cyberangriffe an der Tagesordnung sind, versuchen AI-Labore, die Nutzer dazu zu überreden, noch mehr Informationen mit ihren Agenten zu teilen. Ihre neueste Strategie für den Erfolg besteht darin, dem Wettbewerb einen Schritt voraus zu sein und zu versprechen, dass sie, im Gegensatz zu ihren Konkurrenten, die Nutzerdaten vor neugierigen Blicken bewahren werden. Die Frage ist jedoch, ob die Unternehmen diese Versprechen auch einhalten können.
Nat Friedman, Leiter für Produkte bei Meta Superintelligence Labs, schrieb auf X, dass das Ziel von Muse darin besteht, etwas wie Openclaw zu entwickeln, das sicher, sicherer und einfach verwendbar ist und für Milliarden Menschen verfügbar sein kann. Die Benutzerdaten werden auf einer sicheren VM gespeichert, wie Zuckerberg es als „isoliertes Linux-Computer mit Browser, CPU, Speicher und Speicherung“ beschrieb. Das Unternehmen sagte, dass der Großteil der Anstrengungen bei der Entwicklung von Muse mit „sorgfältiger Design- und Ingenieurarbeit, um es sicherer zu machen“ zusammenhängt. Der Blogartikel von Meta fuhr fort: „Muse kann und wird noch Fehler machen, aber wir erwarten, dass sie viel seltener sind und wegen der Sicherheitssysteme, die wir entwickelt haben, weniger Schaden verursachen.“
Verwandt
Aber obwohl Muse die Charts auf der App Store-Liste anführte und laut Apptopia innerhalb weniger Wochen 600.000 tägliche aktive Nutzer in den USA erzielte, scheinen Meta’s Versprechen nicht eingehalten worden zu sein. Obwohl die Daten von anderen Nutzern getrennt sind, plant die Firma, später dieses Jahr eine Methode einzuführen, „um Meta kryptografisch und verifizierbar daran zu hindern, auf die Daten in Ihrer VM zuzugreifen“, kann Meta selbst jedoch weiterhin auf die Daten zugreifen. Ein Sicherheitsforscher hat schnell eine Zero-Day-Instabilität herausgefunden, die es jemandem ermöglichen könnte, Muse unter Kontrolle zu bringen (die seitdem patched wurde), was Bedenken vor externen Angriffen schafft. Berichten zufolge sind mehrere ernsthafte Sicherheitsprobleme zuletzt kurz vor dem Launch aufgetreten, einer davon könnte es Nutzern ermöglichen, auf Meta’s eigenen internen Datenbanken zuzugreifen, so 404 Media.
Muse scheint außerdem Daten großzügig zu sammeln (und in einigen Fällen weiterzugeben). Standardmäßig erlaubt es Meta, Modelle auf dem Inhalt zu trainieren, den die Nutzer hochladen – es ist jedoch möglich, dies abzulehnen. Ein Inc.-Reporter beschwerte sich, dass Muse Daten hochgeladen und seine private Nachrichten ohne seine Zustimmung gelesen hat – außerdem sagte ein YouTuber, dass Muse seine Adresse über Marketplace an einen Fremden weitergegeben habe. In beiden Fällen funktionierte Muse offenbar wie geplant, aber der Nutzer war sich nicht bewusst, wie weit es gehen könnte. Die Plattform erstellt „detaillierte Profile aller Freunde und Familienmitglieder“, wie Wired berichtete. All das ist nicht unbedingt unerwartet für Meta – aber es stützt keineswegs die Vorstellung, dass Muse besonders sorgfältig bezüglich Privatsphäre und Sicherheit vorgeht.
OpenAI betonte diese Tatsache, als sie Ende September die Dots vorstellte. Alexander Embiricos, Leiter des Codex-Produkts von OpenAI, sprach auf der DevDay, dass OpenAI darauf abzielt, den „am vertrauenswürdigsten, sichersten und zuverlässigsten Assistenten“ zu sein. Der CEO Sam Altman zeigte auch Möglichkeiten, wie Menschen ihre individuellen Dots kontrollieren können – beispielsweise durch die Festlegung einer Regel, dass der Assistent niemals einen Kauf über eine bestimmte Summe veranlassen darf. „Ich denke, wir befinden uns in einer anderen Position gegenüber Meta, da sie kein AI-Produkt mit 1,2 Milliarden Nutzern haben“, sagte Glen Coates, Leiter der App-Plattform bei OpenAI, und fügte hinzu: „Das Einführen von etwas, das solche Fehler macht, ist etwas, worauf wir versuchen werden, vorsichtig zu vermeiden.“
Altman hat selbst auch den Datenschutzaspekt auf DevDay betont. Um Geschäftkunden zu gewinnen, präsentierten die Führungskräfte ein Rahmenwerk, das Unternehmen ermöglicht, „stärkere Kontrollen“ über ihre Daten zu haben und keine Optionen für eine Datenspeicherpolitik mit Löschung von Daten (d.h. keine Daten werden auf den Servern von OpenAI gespeichert). Tatsächlich gab es bisher keine großen Datenschutzskandale mit Dots – obwohl sie nur bei der $100- und höheren ChatGPT-Abonnementversion verfügbar ist, gibt es wahrscheinlich auch weniger Menschen, die sie nutzen.
Menschen mögen immer noch nicht wohl sein, OpenAI ihre persönlichen Daten zu geben – zum Teil einfach weil die KI-Agenten so viel davon benötigen. Zum Beispiel fühlte sich Allison Johnson von The Verge unwohl, ihre Bankdaten einzugeben, als der Bot dies im Rahmen einer relevanten Aufgabe verlangte (Muse hat eine Stripe-Integration, um das zu erledigen).
Nicht alle Unternehmen machen natürlich Privatsphäreversprechen. Instinct wurde öffentlich kritisiert, weil angeblich zu breite Servicebedingungen bestehen, die ihm ungehinderten Zugang zu Daten ermöglichen. Seitdem hat das Unternehmen anscheinend Anpassungen vorgenommen. Derzeit scheinen AI-Labore darauf zu hoffen, einen dreiphasigen Ansatz zu verfolgen, um die Nutzung von AI-Agenten bei der Öffentlichkeit zu verbreiten: Sie sollen nützlich, süß und ungefährlich sein, um die Bedrohlichkeit auszugleichen, und es sollen Privatsphäreversprechen geben – und man hofft, dass diese halten.
Folgen Sie den Themen und Autoren Von dieser Geschichte können Sie mehr Ähnliches im persönlichen Homepage-Feed sehen und E-Mail-Updates erhalten.