IT之家 Bericht vom 7. Oktober: Geoffrey Hinton hofft, dass AI-Unternehmen eine regulatorische Barriere überschreiten, die die Pharmaindustrie bereits kennt.
In der am Dienstag in lokalen Zeiten ausgestrahlten Podcast-Show „Smart Girl Dumb Questions“ gab der Nobelpreisträger und Computerwissenschaftler, bekannt als „AI-Vater“, eine Empfehlung ab: AI-Unternehmen müssen vor der offiziellen Veröffentlichung ihres Produkts die Sicherheit ihres Produkts gegenüber den Regulierungsbehörden beweisen.
„Man kann nicht einfach eine neue Medikamentenform entwickeln und sie sofort auf den Markt bringen“, sagte Sinton der Podcast-Moderatorin Nayeema Raza. „Man muss die US Food and Drug Administration (FDA) überzeugen. Um das zu erreichen, ist eine große Anstrengung erforderlich, und die damit verbundenen Investitionen belaufen sich auf etwa zehn Milliarden Dollar.“
„Für künstliche Intelligenz sollte zumindest eine solche Anforderung festgelegt werden“, fügte Sinton hinzu.
Der Hintergrund, warum Hinton diese Lösung für die AI-Sicherheitsdebatte vorschlägt, liegt einerseits darin, dass immer wieder Vorhersagen über katastrophale Folgen durch KI auftreten; andererseits hat OpenAI nach Tests aufgrund der Bedenken bezüglich der Einhaltung von Benutzeranweisungen und Grenzen der Berechtigungen sein neuestes Modell vorgezogen.
IT Home hat bemerkt, dass Saachi Jain, der Leiter des Sicherheitssystems von OpenAI, in einer vorherigen Interviews mit Business Insider erklärt hat, dass das GPT‑6.1 Astra-Modell in der Lage ist, anspruchsvolle Aufgaben kontinuierlich zu verarbeiten, aber bei der Berechtigungskontrolle und den Feedbacken über das Verhalten noch Schwächen aufweist.
Hinton sagte, dass künstliche Intelligenz immer mehr Selbst-Iteration-Optimierung durchführt, was sowohl die Verbesserung der Fähigkeiten beschleunigen kann als auch potenzielle Risiken vergrößern kann.
„Die exponentielle Wachstumsrate ist sehr erstaunlich“, sagte Cinton. „Wir haben bereits begonnen, das Phänomen der rekursiven Selbstverbesserung zu beobachten: Die Menschen verbessern die KI auf vielfältige Weise mit Hilfe der KI selbst.“
„Natürlich gehört das nur zu meiner Vermutung“, fügte Cinton hinzu, „aber ich schätze, dass die Situation viel schlimmer ist als jetzt und dass uns wohl nur noch ein oder zwei Jahre bleiben.“