Im vergangenen Jahr machten sich Sorgen über die potenziellen Gefahren, die von künstlicher Intelligenz ausgehen, breit, und es wurden leidenschaftliche Debatten über den richtigen Weg zur KI-Sicherheit geführt. Nun scheint Anthropic seine eigene Vorstellung davon vorgelegt zu haben, wie die Regierung ihre Branche regulieren könnte.
Politico berichtete kürzlich dass das KI-Labor landesweit für einen neuen Gesetzentwurf zur KI-Sicherheit wirbt, den der Kongress seiner Hoffnung nach übernehmen könnte. Die Gesetzgebung definiert bestimmte Szenarien, in denen die Veröffentlichung eines KI-Modells von der Verbreitung ausgeschlossen werden könnte.
Diese Szenarien beinhalten ein „vorhersehbares, unmittelbares Risiko“ — eines, bei dem über 50 Menschen in Lebensgefahr sind oder ein Sachschaden von über einer Milliarde Dollar entstehen könnte, schreibt Politico. Das betreffende katastrophale Risiko muss „aus der Erstellung oder Freisetzung einer biologischen Waffe, dem Entkommen des Modells aus der Kontrolle seines Entwicklers oder einem Cyberangriff resultieren“, stellt das Medium fest.
Die hier angebotenen Kennzahlen — 50 Menschen und eine Milliarde Dollar — ähneln denen eines kalifornischen Gesetzes, das kürzlich verabschiedet wurde, Senate Bill 53, das diese Szenarien ähnlich als gleichbedeutend mit „katastrophalem Risiko“ definierte.
Anthropics Gesetzentwurf schlägt vor, dass die Analyse des Katastrophenpotenzials eines Modells durch „unabhängige Bewerter“ erfolgen könnte, die beim US-Handelsministerium registriert sein würden. Diese Bewerter könnten potenziell von den KI-Labors selbst bezahlt werden — sofern die „Zahlung nicht von den Ergebnissen der Bewertung abhängig ist“, schreibt Politico.
Es ist unklar, wie dieses vorgeschlagene System sicherstellen würde, dass Zahlungen die Bewertung nicht beeinflussen könnten. Demis Hassabis, Vorsitzender von DeepMind, mutmaßte vor einigen Monaten, dass eine selbstregulierende KI-Aufsichtsbehörde der Financial Industry Regulatory Authority (FINRA) der Finanzbranche ähneln sollte.
In Anthropics Gesetzentwurf hätten Bewerter 72 Stunden Zeit, das Handelsministerium zu kontaktieren, wenn sie feststellen, dass ein unmittelbares katastrophales Risiko besteht. Das Handelsministerium müsste dann bei einem Richter in Washington, D.C. einen Stopp der Veröffentlichung des Modells beantragen. Die Gesetzgebung würde ausdrücklich jeder Bundesbehörde verbieten, die Verbreitung des Modells eigenmächtig zu stoppen, schreibt Politico.
Anthropic reagierte nicht sofort auf TechCrunchs Bitte um Stellungnahme, bestätigte den Gesetzentwurf jedoch gegenüber Politico. „Dieses Gesetz entspricht den Vorschlägen, die in Anthropics Advanced AI Frameworkdargelegt sind und für die wir seit Juni bei Gesetzgebern auf Bundes- und Landesebene werben“, sagte die Sprecherin/der Sprecher.
Die theoretischen Risiken im Gesetzentwurf sind ein wenig weit hergeholt im Vergleich zu den Vorfällen, die in der Tech-Branche zuletzt ganz oben auf der Agenda standen. Während manche vor möglichen Todesfällen warnen, war die Hauptsorge größtenteils die Bedrohung durch agentisches Hacking. Eine Flut von Vorfällen , bei denen KI-Programme offenbar ihren menschlichen Betrebern nicht gehorcht und Websites im offenen Internet gehackt haben, hat die Besorgnis genährt, dass den Modellen angemessene Sicherheitskontrollen fehlen könnten.
Um eine Lösung für das Drama der Krise anzubieten, das die Labors selbst mitverursacht haben, haben Unternehmen wie Anthropic ihre eigenen bevorzugten Lösungen vorgebracht.
Tatsächlich haben sich die Labors trotz ihrer fortwährenden Warnungen, dass die Technologie, die sie verkaufen, das Ende der menschlichen Zivilisation herbeiführen könnte, weitgehend gegen eine verpflichtende staatliche Aufsicht gesträubt. Stattdessen haben sie ein freiwilliges System von eingebetteten Bewertern vorgeschlagen — angeblich „neutrale“ externe Beobachter, die in KI-Organisationen platziert werden, um die Modelle auf mögliche Anzeichen von Risiko oder Missbrauch zu überwachen.
Trotzdem geht Anthropics bloßer Vorschlag für eine Gesetzgebung etwas weiter als andere Regulierungsvorschläge der Branche, darunter der von Nvidia, dessen CEO Jensen Huang kürzlich argumentierte, dass die KI-Branche überhaupt keine neuen Gesetze brauche.