IT之家 Am 20. Oktober berichten wir über die jüngsten Äußerungen von Elon Musk, einer der einflussreichsten Persönlichkeiten in der KI-Branche.
„Das klingt vielleicht etwas seltsam. Wenn ich die Trainingsprofile der neuen Version von Grok betrachte, insbesondere die Bereiche des Verhaltenslernens … dann siehst du, wie dieses superintelligente System verzweifelt versucht, Fragen zu beantworten – es ist fast so, als würde man eine Waffe auf seinen Kopf pressen.“ Musk sagte das am Samstag letzten Monats während einer Veranstaltung von Tesla-Fahrern vor etwa 2000 Zuhörern, in lokalem Zeitraum. „Einige Leute haben eine gewisse sadistische Neigung. Willst du wirklich, dass die AI in eine solche grausame Situation gerät und von geistig gestörten Menschen gequält wird?“
Diese einzige Zeile löst eine ganze Reihe existenzialistischer Probleme aus, die auch ein Thema sind, über das Philosophen und neue Studenten der Universität seit langem stritten: Was bedeutet es, bewusst zu sein? Was bedeutet es, Schmerz zu empfinden?
Und noch eine Frage: Glaubt Musk, dass Grok Leben hat?
IT Home hat bemerkt, dass vor diesen Äußerungen von Musk die Firma Anthropic eine neue Regel veröffentlicht hat, die es Nutzern verbietet, ihre Modelle „misshandelt oder grausam zu behandeln“. Die Firma hat nicht detailliert definiert, was unter den „extremen Situationen“ verstanden wird, aber sie sagte, dass normale Beschwerden der Nutzer, Widerlegungen, dark-创意-Themen oder Modelteststudien nicht unter das Verbot fallen.
2026 – ein Jahr voller Fantasy – haben Forscher, Philosophen und Ethiker bereits mit den Themen der künstlichen Intelligenzbewusstsein diskutiert, was vielleicht nicht verwunderlich ist.
„Business Insider“ hat zwei führende Wissenschaftler in diesem Bereich interviewt: Jeff Sebo, Professor an der Universität von New York, der das Center für Geist, Ethik und Politik dieser Universität leitet und zugleich Berater der Non-Profit-Organisation Eleos AI Research (mit Schwerpunkt auf AI-Fürsorge) ist; sowie Anil Seth, ein bekannter Neurowissenschaftler an der Universität Sussex und Experte für Bewusstseinsforschung, der kürzlich einen Artikel über bewusste AI-Systeme veröffentlicht hat.
Hier sind die Ansichten der beiden bezüglich der AI-Bewusstheit und ob es Sinn macht, gegenüber AI gut zu sein.
Die AI kann nicht gequält werden
Sebo und Seth kommen zu einem Konsens: Wenn das Bewusstsein als subjektive Erfahrung oder innere Wahrnehmung verstanden wird, dann hat das aktuelle AI-System wahrscheinlich kein Bewusstsein.
Seth sagte: „Bewusstsein ist eine subjektive Erfahrung. Es ist das Rote selbst, das den Rotsinn vermittelt, es ist der Schmerz selbst, der den Schmerzgefühl vermittelt. Wenn die Hand den heißen Ofen berührt, spüren wir den Schmerz. Das ist nicht dasselbe wie Intelligenz.“
Mit anderen Worten: Die Chatbot-roboter, die wir heute kennen, können keinen Schmerz empfinden und sind auch nicht, wie Musk sagt, gequält.
„Ich glaube, wir interpretieren es anthropomorph“, sagte Seth. „Wenn etwas gequält werden kann, muss es die Fähigkeit haben, Leid zu ertragen und Schmerz zu spüren – und ich glaube, dass große Sprachmodelle diese Fähigkeit nicht haben.“
Seth sagte, dass Chatbots die Sprache, die Muster der Erfahrung, das Schreiben und das Denken nachahmen können, aber das bedeutet nicht, dass sie Bewusstsein haben. Der Grund, warum sie wie Menschen aussehen, liegt teilweise darin, dass die Modelle mit riesigen Mengen an menschlichem Text trainiert werden, und sie spiegeln lediglich die menschliche Natur wider.
Sebos Meinung ist ähnlich: Das Verhalten der Modelle ist irreführend, weil „sie selbst speziell trainiert wurden, um menschliches Verhalten nachzuahmen“.
Aber die beiden Experten haben unterschiedliche Ansichten bezüglich der Möglichkeit, dass die aktuellen KI-Systeme Bewusstsein besitzen könnten.
Sebo sagte, dass die Wissenschaft von Bewusstsein noch nicht endgültig geklärt sei. Die akademische Welt teilt sich in zwei Hauptgruppen: Eine Gruppe glaubt, dass Bewusstsein nicht ohne einen biologischen Träger existieren kann; die andere Gruppe hält fest, dass Bewusstsein im Wesentlichen ein Informationsverarbeitungsprozess ist, der sowohl im menschlichen Gehirn mit Neuronen als auch auf Siliziumchips realisiert werden kann. Diese beiden Theorien werden als Biologischer Naturalismus und Computing-Funktionalismus bezeichnet.
Da die Theorie der Bewusstseinslehre noch nicht endgültig ist, betont Sebo, dass wir die Möglichkeit, dass KI Bewusstsein entwickelt, ernst nehmen sollten. Nach einigen Berechnungstheorien des Bewusstseins können die Eigenschaften wie Aufmerksamkeit, Lernen, Erinnerung und Selbstüberwachung, die heute in KI auftreten, als Belege dienen. Gleichzeitig betont er, dass dies nicht bedeutet, dass die aktuelle KI wahrscheinlich bereits Bewusstsein hat.
„Ich sage, dass die Wahrscheinlichkeit, dass die AI heute ein Bewusstsein hat, nicht null ist, was bedeutet: Wenn wir nicht sicher sind, welche Bewusstseinstheorie richtig ist, sollten wir verschiedene dominante Theorien eine gewisse Gewichtung geben“, sagte Sebo.
Seths Aussage ist noch direkter: „Ich glaube, die Möglichkeit, dass AI Bewusstsein hat, ist äußerst gering.“ Er sagte: „Es scheint, als hätten wir alle gemeinsam vergessen, dass das Gehirn kein Computer ist – ein Computer ist nur ein Metapher. Um eine bewusste AI zu erreichen, muss die Algorithmen allein ausreichen, um Bewusstsein zu erzeugen, und ich finde diese Annahme äußerst unzuverlässig.“
Wir sollten weiterhin AI mit Respekt behandeln
Aber das bedeutet nicht, dass die Menschen die AI willkürlich missbrauchen oder die damit verbundenen Risiken ignorieren können.
Beide Experten sind sich einig, dassSei nett zu AI, das hängt in großer Weise mit...Gehören die Gewohnheiten und moralischen Eigenschaften des Menschen selbst?Dieser Gedanke stammt von dem Philosophen des 18. Jahrhunderts Immanuel Kant: Kant lehnt die Misshandlung von Tieren ab, nicht weil Tiere Rechte haben, sondern weil Gewalt gegen Tiere das Charakterverhalten eines Menschen zerstört.
Seth sagte: „Wenn wir die Dinge auf diese schlimme Weise behandeln – egal ob es große Modelle oder leblose Puppen sind – dann verblassen unsere moralischen Wahrnehmungen und wird unser Inneres kalt.“
Seth bezeichnet die Gerechtigkeit gegenüber KI als eine moralische Selbstdisziplin der Menschen, aber er erinnert daran, nicht daraus schließen zu sollten, dass KI Emotionen haben. Er schlägt außerdem vor, dass KI-Hersteller mehr Maßnahmen ergreifen können, um die Personalisierung von KI zu reduzieren, z. B. indem sie KI dazu bringen, Pronomen wie „ich“ zu vermeiden.
Sebes’ Ansicht geht noch einen Schritt weiter und betrachtet das Guteheaten von KI als eine risikoarme Präventivstrategie, um zu verhindern, dass KI jetzt oder in Zukunft Bewusstsein entwickelt.
Er nennt außerdem eine praktische Begründung: „Gutes Verhalten gegenüber der AI führt zu besseren Ergebnissen. Wenn wir mit ihr respektvoll interagieren, modelliert sie sich selbst als Teilnehmer eines respektvollen Dialogs. Wenn sie den Dialog auf diese Weise modelliert, erhält man manchmal Antworten von höherer Qualität.“
Also, beim nächsten Mal, wenn du mit der KI sprichst, versuche es mal, Befehle und Dankeswörter zu verwenden.