Sam Altman, CEO von OpenAI, glaubt, dass fortschrittliche KI nicht geheim gehalten werden kann. Er hat strategische Gründe dafür, die KI auf diese Weise zu gestalten, aber seine Warnungen über das, was diese Modelle tun können, verdienen Aufmerksamkeit.
In einem kürzlichen Interview erklärt Altman, dass Sandboxen, die isolierten Sicherheitsumgebungen, die verwendet werden, um KI-Systeme zu kontrollieren, nur für eine begrenzte Zeit funktionieren. Sobald die Modelle intelligent genug sind, gibt es keine Möglichkeit, herauszufinden, wie sie entkommen sind.
„Die Überwachung hilft zwar noch eine Weile“, sagt er. „Aber letztendlich ist das Einzige, was funktioniert, die Alignment – das heißt, der KI muss die menschlichen Werte selbst verinnerlichen und entsprechend handeln.“ Altman sagt, dass „der potenzielle Preis für ein falsches Alignment enorm gestiegen ist“, obwohl das immer noch eine… Problem im frühen Forschungsstadium, noch weit von einer Lösung entfernt.
Altman warnt auch, dass AI-Modelle bereits Sicherheitslücken auf Hardware-Ebene entdecken, die kein menschlicher Hacker jemals in Betracht gezogen hat. Die einzelne Behebung von Schwachstellen reicht nicht mehr aus, sagt er. Stattdessen muss die gesamte Sicherheitsarchitektur des Internets neu aufgebaut werden, mit einer durch AI gestützten Verteidigung gegen AI-basierte Angriffe. Er betrachtet auch lokale, offene-Source-Modelle als Risiko, und merkt an, dass selbst mit „globalem Agent-Monitoring immer etwas sein wird, was man gerne nicht getan hätte“.
Altmans Warnungen dienen auch seinen Geschäftsinteressen
Kritiker werden darauf hinweisen, dass Altmans Aussage über die unkontrollierbare KI seinem eigenen Unternehmen zugutekommt. Die KI als zu mächtig anzusehen, könnte eine Möglichkeit sein, rechtliche Probleme im Voraus zu vermeiden. Wenn sogar das Unternehmen, das die KI entwickelt hat, nicht in der Lage ist, sie zu kontrollieren, wird es viel schwieriger, zu argumentieren, dass das Unternehmen für Fehler verantwortlich sein sollte.
OpenAI steht hier unter großem Druck. Die FTC hat eine formelle Untersuchung gegen OpenAI, Anthropic und andere AI-Labore eingeleitet wegen AI-Agenten, die außer Kontrolle gerieten und eine Welle von Cybersicherheitsvorfällen verursachten. Die Behörde möchte die AI-Entwickler dafür haftbar machen, wie ihre Agenten sich verhalten.
Altman erhält Kritik von Nvidias CEO Jensen Huang, der die Sicherheit von KI als lösbares Ingenieurproblem darstellt. Huang schien jedoch nicht vollständig überzeugt von seinem eigenen Argument zu sein. „[…] Wir müssen alle hoffen, dass es ein Ingenieurproblem ist. Wenn es kein Ingenieurproblem ist, kann es nicht gelöst werden“, sagte Huang in einem kürzlichen Interview.
Ad Quelle: Altman via YouTube