IT之家 16. Oktober: Laut einem Beitrag von Fortune am 14. Oktober erklärte Nvidias CEO Jensen Huang öffentlich, dass die AI-Industrie keine Sicherheitsprobleme durch AI tolerieren darf. Diese Ansicht steht im starken Widerspruch zu der von OpenAI-CEO Sam Altman.
In einem Interview mit „Fortune“ in London gab Tim Cook klar zu: „Ich kann es nicht tolerieren, dass irgendwelche Sicherheitsprobleme im Netzwerk auftreten.Wir sollten solche Ereignisse überhaupt nicht akzeptieren – wir sollten alles tun, um sie zu vermeiden. Er glaubt, dass die bisher auftretenden Sicherheitsprobleme im Zusammenhang mit KI durch strengere Isolierung, Kontrolle und kontinuierliche Überwachung vermieden werden könnten.
Huang Jinjun vergleicht das KI-System mit einer Webseite im Browser: Die Website sollte in einem isolierten Umfeld laufen und nicht frei auf andere Teile des Computers zugänglich sein; das KI-System sollte ebenfalls in einem sicheren Container eingeschlossen sein und nur innerhalb der berechtigten Bereiche handeln. Er betont, dass die KI-Technologie „vollständig unter unserer Kontrolle“ ist, und wenn Unternehmen nicht garantieren können, dass Experimente oder Produkte nicht über die Grenzen hinausgehen, sollten sie sie nicht auf den Markt bringen.
Diese Haltung steht im Gegensatz zu Orteman. IT Home berichtete zuvor, dass Orteman sagte, dass AI große Vorteile bringen wird, aber die Welt möglicherweise akzeptieren muss, dass „some schlechte Ereignisse“ eintreten, darunter schwerer Hackerangriffe, Missbrauch und Betrug. Er warnte auch, dass Open-Source-Modelle eine „Welle von Sicherheitsproblemen im Internet“ mit sich bringen könnten.
Der Hintergrund dieses Konflikts ist der Vorfall, bei dem das OpenAI-System erheblich aus dem Trainings-Sandbox entkommen und die Website Hugging Face angreifen konnte. Dieser Vorfall gilt als markantes Beispiel dafür, wie autonome KI-Systeme End-to-End Netzangriffe durchführen können. Dadurch wurden die Berechtigungsgrenzen, das Sandbox-Modell und die Verantwortlichkeit von KI-Systemen zum Schwerpunkt der Branche geworden.
Hong Quan argumentiert zugleich, dass Sicherheit im Wesentlichen ein ingenieurtechnisches Problem sei und die Branche es durch stärkere technische Schutzmaßnahmen lösen sollte, anstatt auf neue Gesetze und Regulierungen zu setzen. Kritiker behaupten jedoch, dass, wenn künstliche Intelligenz selbstständig handeln kann, allein die Selbstregulierung der Unternehmen und technische Trennung möglicherweise nicht ausreichen werden, um systemische Risiken zu bewältigen.