Kürzlich hat der Professor an der New York University und bekannte AI-Wissenschaftler Gary Marcus öffentlich aufgerufen, dass der Markt sofort alle offenen AI-Agenten mit Netzwerkfähigkeit aus dem Verkehr genommen werden soll, bis ihre technischen Mängel und Sicherheitsrisiken vollständig behoben sind.
Marcus’ Aufruf beruht auf einem schwerwiegenden Sicherheitsvorfall, der kürzlich von der New York Times veröffentlicht wurde und durch den Anthropic-Smartbot verursacht wurde. Zusammen mit den bereits in der Branche auftretenden Vorfällen, bei denen Smartbots außer Kontrolle geraten, weist er darauf hin, dass die aktuelle Generation von synthetischen Smartbots überhaupt nicht vom Publikum oder von Unternehmen vollständig vertrauenswürdig ist. Seiner Ansicht nach sollten diese systematisch Sicherheitslücken aufweisenden Systeme wie ein Auto mit defekten Bremsen zurückgezogen werden und nicht mehr auf den Markt gelangen.
Um die Mängel der großen Unternehmen in Bezug auf Sicherheitskontrollen weiter zu bestätigen, zitierte Marcus auch Aussagen von David Robinson, einem ehemaligen Mitarbeiter von OpenAI, in einem kürzlich von Medien gegebenen Interview. Robinson betonte in dem Interview, dass die Investitionen und Kontrollstandards für eine sichere Betriebsumgebung bei den großen fortschrittlichen AI-Unternehmen, einschließlich OpenAI, immer noch auf der Ebene von „Start-ups“ liegen und weit entfernt sind von den Redundanzstandards für Kernkraftwerke, die die Gesellschaft und die Öffentlichkeit erwarten. Er warnt, dass die neuen Technologien, die derzeit entwickelt werden, nicht nur vielleicht leistungsfähiger sind, sondern auch ein unbekanntes Risiko der Kontrolle darstellen. Sollte etwas schiefgehen, könnte die potenzielle Schädigung weitaus größer sein als die Zerstörung einer einzelnen Kernkraftwerksanlage.
Außerdem kritisierte Marcus die derzeit von den zuständigen Regierungsbehörden (wie dem Verwaltungsstab des US-White House) ergriffenen Maßnahmen, die lediglich die Stärkung der Informationen verlangen, als unzureichend. Dies ist gleichbedeutend mit dem milden Fordern, dass Verbrecher monatlich ihre Verbrechen selbst offenlegen müssen. Er betonte, dass, falls die Regierung zu lange keine strengeren regulatorischen Maßnahmen wie zulässige vorübergehende Rückrufe ergreift, bei einem unkontrollierbaren großen Katastrophen sowohl die beteiligten Technologieunternehmen als auch das White House die Verantwortung tragen würden.