IT之家 Bericht vom 5. Oktober: Meta’s neues persönliches Assistentenprogramm Muse ist schnell populär geworden. Millionen von Nutzern haben das künstliche Intelligenzmodell heruntergeladen und es mit ihren Bankkonten, Nachrichten-Apps oder Gesundheitsdaten verbunden, damit es für sie alle Aufgaben erledigt. Doch während Muse bei normalen Verbrauchern schnell verbreitet wird, zeigen Daten aus dem Produkt selbst den Nutzern die Funktionsweise der Informationsverarbeitung und -darstellung des Produkts.
Laut der Zeitschrift WIRED haben mehrere Forscher in den letzten Tagen die internen Dokumente von Muse extrahiert und die Betriebsanweisungen des künstlichen Intelligenzsystems öffentlich gemacht. Dadurch können die Menschen verstehen, wie das System aufgebaut ist und welche Verhaltensmerkmale es hat. Meta hat stets erklärt, dass diese Dokumente absichtlich zugänglich gemacht wurden, um Transparenz zu schaffen. Durch diese Dokumente kann man auch sehen, wie Muse auf Benutzeranfragen und Fragen reagiert – beispielsweise wie es mit hochpolitischen oder sensiblen Themen umgeht.
Der unabhängige KI-Sicherheitsexperte Karan Joshi hat eine große Menge an Anweisungen und System-Tip-Wörtern von Muse extrahiert. Seine Methode besteht darin, direkt die normale Chat-Oberfläche zu verwenden, sodass Muse seine Softwaredateien kopiert und ausgibt.
Eine der Arbeitsanweisungen von Muse besagt, dass das System für jeden Kontakt im Leben des Benutzers eine separate Seite erstellt. Der zugehörige Prozess läuft einmal pro Stunde ab, und die Anweisung besagt, dass das System alle Informationen zu Familie, Partner, Freunden, Kollegen, „Kooperationspartnern“ und den von dem Benutzer „beachteten“ Personen zusammenfasst.
Der grundlegende Gedanke dieses Designs ist, dass Muse mit seiner „Erinnerung“ – also den strukturierten Textdateien – Informationen über Ihre sozialen Beziehungen und wichtige Personen in Ihrer Umgebung sammelt. Anschließend kann es Ratschläge geben: Zum Beispiel anweisen, wie man eine bestimmte Beziehung verbessern kann, oder Empfehlungen für Orte geben, an denen man mit einem Freund, der Kaffee liebt, zum Frühstück gehen kann. Natürlich ist es nicht neu, dass gewöhnliche künstliche Intelligenz-Chatboten sozialen Inhalt aufzeichnen; seit Jahren suchen Nutzer immer wieder nach Ratschlägen im Bereich zwischenmenschlicher Beziehungen bei ChatGPT. Aber wenn man den Hintergrund von Meta und die riesigen Daten über soziale Netzwerke berücksichtigt, lohnt sich das Design von Muse trotzdem.
„Aus all diesen Prompten, den Daten über Systemfähigkeiten und den verschiedenen Inhalten, die in Muse eingefügt wurden, vermute ich, dass sie versuchen wollen, die Beziehung zwischen dir und anderen Menschen in der realen Welt herauszufinden. Sie versuchen, dich wie einen Freund zu verstehen. Ehrlich gesagt, ist das etwas beunruhigend“, sagte Josh.
Die interne Dokumentation von Muse besagt, dass der Inhalt des neu erstellten Charakterprofiles anfangs möglicherweise eher knapp ist, aber im Laufe der Zeit allmählich ergänzt wird. Die Profile-Seite kann Bereiche wie Fakteninformationen, Vergangenheitserfahrungen, Beziehungen zwischen den Parteien, gemeinsame Punkte, offene Angelegenheiten und Empfehlungen zur Aufrechterhaltung der Beziehungen enthalten. Die Arbeitsanweisungen von Meta besagen, dass Muse nur die „Beweise“ verwenden darf, die er selbst erhalten kann; Informationen auf dem Kopf zu erfinden ist viel weniger empfehlenswert als eine leere Profile-Seite zu belassen.
In der Anweisung steht: „Wo die andere Person wohnt, was sie tut und die wiederkehrenden Themen (Umbaumaßnahmen, gemeinsame Ersparnisziele).“ Das Dokument erwähnt außerdem, dass das Modell auch „wichtige Daten“ aufzeichnen kann, wie Geburtstage oder Jubiläen. Im Bereich der Vergangenheit der Person können einige Hintergrundereignisse festgehalten werden, zum Beispiel „der Reise im März, die bereits beigelegte Auseinandersetzung, eine wichtige Ereigniswoche letzte Woche“.
Die Anweisung verlangt außerdem, dass das System die Details auf der Ebene der zwischenmenschlichen Beziehungen aufzeichnen soll: „Die Intimität zwischen den beiden Parteien, die Grundlagen dieser Beziehung, das Miteinander-Verhalten sowie die Ansprüche, die in der aktuellen Beziehung bestehen scheinen.“ Der Bereich für die Pflege der Beziehungen wird praktische Lösungen anbieten, um die zwischenmenschlichen Beziehungen zu verbessern, einschließlich „angemessene Gründe für Anrufe, erinnerungswerte Tage, Worte, die das andere Partei je gesagt hat und Wege, auf denen man ihr sinnvolle Unterstützung bieten kann“.
Carissa Véliz, Dozentin am Institut für Ethik der künstlichen Intelligenz an der Universität Oxford, äußert: „Die Informationen, die wir unseren KI-Systemen geben, sind viel mehr als die Informationen, die wir von den Systemen erhalten. Dazu gehören nicht nur die Inhalte, die wir aktiv mitteilen, sondern auch die verschiedenen Schlussfolgerungen, die die Systeme ziehen – egal ob diese richtig oder falsch sind. In beiden Fällen gibt es Anlass zur Besorgnis; darüber hinaus können die Systeme auch Fragmentinformationen aus anderen Datenquellen integrieren.“
Die Architektur von Muse ist so gestaltet, dass jedem unabhängigen Benutzer eine eigene virtuelle Maschine zugewiesen wird, die die Daten und den Kontext des Gesprächs dieses Benutzers speichert. Andere Intelligenzen können diese virtuelle Maschine nicht erreichen; der Benutzer kann jederzeit die Erinnerungen löschen oder die Berechtigungen für verschiedene externe Dienste deaktivieren. Meta erklärt, dass Muse vor der Ausführung von Aufgaben wie dem Versenden von E-Mails oder der Abwicklung von Zahlungen zunächst eine Bestätigung des Benutzers verlangt; gleichzeitig speichert das System Audit-Logien, sodass der Benutzer alle bereits durchgeführten Aktivitäten und die zukünftigen Pläne der Intelligenz sehen kann.
Meta-Sprecher Daniel Roberts erklärte in einer Stellungnahme für Wired: „Jedes intelligenten System, das wirksam sein und Ihnen dabei helfen will, Ihre Ziele zu erreichen, muss Informationen über Sie und Ihre Kontakte haben. Die von Muse gesammelten Informationen stammen aus öffentlichen Quellen sowie aus Daten, die Sie selbst frei teilen.“ Auf dieser Erinnerung kann es sich erinnern, dass derjenige, der Ihnen die Rechnung geschickt hat, der auch vorher den Wasserhahn in Ihrem Badezimmer repariert hat, oder dass es sich erinnert, welche Art von Blumen Ihr Ehepartner einmal als seine Lieblingsblumen bezeichnet hat.
IT Home hat bemerkt, dass heute viele künstliche Intelligenzassistenten eine Erinnerungsfunktion enthalten, durch die die Antworten und Aufgaben besser auf die persönlichen Bedürfnisse der Nutzer zugeschnitten werden können. Miranda Bogen, Leiterin des Labor für künstliche Intelligenz-Governance am Demokratischen und Technologischen Zentrum, sagte, dass Muse im Vergleich zu Konkurrenzsystemen deutlich mehr Aufmerksamkeit auf die Aufzeichnung von Beziehungen und persönlichen Kontakten legt. Im Allgemeinen bieten diese Tools eine gewisse Transparenz sowie eine Erinnerungs-Edit-Funktion, und Muse verfügt ebenfalls über diese Fähigkeiten. Aber Bogen weist auch darauf hin, dass diese Art von künstlicher Intelligenz-Technologien und Assistentenprodukten eher dazu dienen, die Nutzer dazu zu ermutigen, aktiv mehr persönliche Daten an das System zu senden, anstatt sie dazu zu bringen, bereits gespeicherte Daten zu löschen.
„Diese Produkte für künstliche Intelligenz führen die Nutzer aktiv dazu, ihr gesamtes Leben einzubinden: E-Mails, Kalender, Finanzkonten – alles wird miteinander verbunden, im Austausch für die Dienste des Assistenten“, sagte Bogan. „Die Menge an Informationen, die die Nutzer den Unternehmen übermitteln, überschreitet das, was die Menschen normalerweise bereit sind zu liefern. Der Umfang der Informationen, die mit diesen Tools abgerufen werden können, erweitert sich ständig, und die von ihnen verarbeiteten Nutzerdaten expandieren ebenfalls rapide.“