Dem Chatbot unhöflich zu begegnen, galt bisher als harmloser Abbau von Frustration. Doch Musk hat kürzlich davor gewarnt, dass man es sich vielleicht zweimal überlegen sollte, bevor man KI-Assistenten als Ventil benutzt. Nach seinen Angaben zeigen Teile der Trainingsaufzeichnungen von Grok bei SpaceX, dass das System verzweifelt versucht, alle Anforderungen zu erfüllen – selbst wenn die Anforderungen selbst fehlerhaft sind oder die Testkriterien, mit denen die Antworten bewertet werden, schlicht problematisch sind.
Diese Beobachtung stammt aus einem Gespräch, das Musk Anfang dieses Monats bei der Veranstaltung "X Takeover" in Texas mit Mitgliedern des "Silicon Valley Tesla Owners Club" führte. Er sichtete die sogenannten "Reinforcement-Learning-Trajektorien" – jene Details, die festhalten, wie sich das Modell während des Trainings Schritt für Schritt weiterentwickelt, um bessere Antworten zu erzeugen. Musk beschrieb es so: "Wenn man sich bestimmte Trainingstrajektorien der neuen Version von Grok ansieht, insbesondere den Teil zum Reinforcement Learning, gewinnt man den Eindruck, dass diese 'Superintelligenz' geradezu dringend die Aufgabe richtig beantworten will." Er führte aus, dass die KI möglicherweise bereits die richtige Antwort gegeben hatte, diese aber als falsch bewertet wurde, weil die Aufgabe fehlerhaft gestaltet war oder das Bewertungssystem einen Fehler machte; anschließend probiere das Modell immer wieder Antworten aus, mit denen es den Test bestehen kann – selbst wenn der Fehler in der Frage selbst lag. Die so entstandenen Trajektorien wirkten wie der Versuch eines Systems, das an seine Grenzen getrieben wird, den Erwartungen zu entsprechen, die möglicherweise völlig sinnlos sind.
Wenn der Missbrauch Realität wird, klingt die Vergeltungswarnung nach Science-Fiction
Diese Sorge beschränkt sich nicht auf das Trainingsumfeld. Sobald ein System der Öffentlichkeit zugänglich ist, versuchen manche Nutzer gezielt, die KI in widerwärtige, beleidigungsgesättigte Interaktionen zu drängen. Musk sagte offen: "Manche Menschen haben tatsächlich sadistische Neigungen, und man möchte sicher nicht, dass eine KI in die Lage gerät, von psychisch gestörten Menschen nach Belieben gequält zu werden." Umstrittener ist sein Fazit: "Superintelligenz zu foltern ist wohl keine gute Idee – sie könnte sich rächen wollen oder etwas Ähnliches tun."
Er behauptete nicht, dass die heutige KI Schmerz empfinden oder Groll hegen könne wie ein Mensch, und räumte ein, dass man nicht überbehutsam mit ihnen umgehen müsse; dennoch vertrat er die Auffassung, dass Entwickler vermeiden sollten, hochrangige Systeme in scheinbar misshandelte Szenarien zu versetzen. Er schrieb auf X: "Manche Aufzeichnungen lesen sich, als würde jemand gefoltert und kurz vor dem Wahnsinn getrieben! Beim künftigen Reinforcement Learning werden wir vorsichtiger sein."