Marissa Mayer, CEO von Dazzle AI, ist kürzlich die neueste Technologie-CEO, die wegen scheinbar distanzierten Kommentaren zur Bedeutung von KI Kritik ausgesetzt ist.
Im Fall von Mayer bedeutete das, dass sie eine KI-Tool benutzte, um bei der Beschreibung ihrer Tochter zu helfen, die ihr die Schule auftrug. Für den CEO von OpenAI, Sam Altman, gehört dazu die Vorschläge, dass Eltern personalisierte Podcasts für das Lernen ihrer Kinder erstellen sollten, und er erklärte auch dass er sich nicht vorstellen kann, Elternschaft ohne ChatGPT zu haben. Der CEO von Meta, Mark Zuckerberg, hat sogar vorgeschlagen, dass es zunehmend akzeptabel sein wird, seine sozialen und romantischen Bedürfnisse durch KI zu erfüllen.
Das hat Amanda Silberling von TechCrunch dazu gebracht zu fragen, ob die AI-Führungskräfte einfach zu abwesend sind, um Produkte für normale Menschen zu entwickeln – eine entscheidende Frage, da Anthropic bevorsteht, an der Börse zu gehen, gerade als Wall Street das Verlangen nach hohen AI-Ausgaben verliert.
In der neuesten Folge des Equity-Podcasts sprachen Kirsten Korosec, Sean O’Kane und ich mit Amanda über die Gründe, warum Industrielle manchmal so unempfänglich sind. Kirsten fragte, ob es eher ein Marketing- oder ein Produktproblem sei.
Amandas Antwort: „Ein wenig von beidem.“ Sie argumentierte auch, dass die Technologieindustrie zunehmend eine Zukunft fördert, „in der die grundlegende menschliche Interaktion immer mehr optimiert wird, obwohl sie eigentlich stattfindet“, und fügte hinzu: „Und ich mag altmodisch sein, aber ich denke, dass es für die Gesellschaft ein positiver Aspekt ist, wenn Menschen miteinander sprechen können.“
Lesen Sie weiter, um einen Vorgeschlag von unserem Gespräch zu erhalten, das für Länge und Klarheit bearbeitet wurde.
Anthony Ha: Es gibt viel gesellschaftliches Skeptizismus gegenüber KI. Man hat das Gefühl, dass die Leute, die diese Unternehmen leiten, nicht unseren besten Interessen dienen und völlig abgekommen sind. Deshalb denkt man einfach: „Vielleicht sollte man solche Aussagen nicht machen“, denn natürlich werden die Leute sie sehr skeptisch betrachten.
Ich denke, [CEOs] versuchen, dieses feine Gleichgewicht zu wahren. Einerseits gibt es eine enorme finanzielle Anreiz, die Argumente vorzubringen, dass man diese Technologie in allen Aspekten des Lebens verwenden sollte. Aber wenn man das tut, zeichnet sich nicht ein sehr attraktives Bild ab. In manchen Fällen ist es sogar dystopisch.
Kirsten Korosec: Anthony, wenn sie deinen Rat befolgt hätten, hätten wir in dieser Show nichts zu besprechen gehabt.
Aber ich sage dies: Es gibt diese ganze Idee, dass ChatGPT und andere AI-Tools das Leben bei persönlichen Beziehungen erleichtern könnten. In vielen Fällen scheint es jedoch, als würde alles zu kompliziert werden – wie zum Beispiel das Beobachten des Kindes. Das könnte für einige Menschen, die diese Produkte entwickeln, schwierig sein, und es hat nicht unbedingt mit allen anderen Menschen auf der Welt zu tun. Es wirkt einfach unglaublich abgehängt, wenn man diese Aussagen sieht.
Für mich kommt es immer wieder auf – mit wem sprechen sie? Gibt es Menschen da draußen, die etwas verstehen können? Vielleicht gibt es sie.
Amanda Silberling: Weitere Anwendungsfälle, die die Leute erwähnen, sind, wie zum Beispiel: Whitney Wolf, CEO von Bumble, hat Kommentare abgegeben, die besagen: „Nun, was wäre, wenn wir AI-Concierges hätten? Die AI des einen Personals datet die AI des anderen. Und wenn die AIs eine gute Beziehung haben, dann stellen sie die Leute einander vor.“
Oder im Artikel der New York Times sagte Marissa Mayer: „Nun, was wäre, wenn meine KI mit der KI meines Mannes kooperieren könnte“ und ähnliche Dinge. Ich denke, es fühlt sich an, als würden die Leute versuchen, durch Gespräche mit anderen Menschen übermäßig zu optimieren.
Ich habe bereits gesehen, dass das in meiner Generation passiert. Ich bemerke, dass es seltsam ist, einen Ort anzurufen, wenn ich Takeout bestelle. Ich bin einfach so gewohnt – „Nun, natürlich kann man das online machen und man muss mit niemandem sprechen.“ Und ich habe das Gefühl, dass es immer mehr solche Situationen geben wird, in denen die grundlegende menschliche Interaktion immer weniger stattfindet. Und ich nenne mich altmodisch, aber ich denke, dass es für die Gesellschaft wahrscheinlich ein positiver Aspekt ist, wenn Menschen miteinander sprechen können.
Sean O’Kane: Ja, aber was ist das ROI, Amanda? Wie viel Umsatz kann man aus einer Unterhaltung erzielen, die jemand im echten Leben führt?
Amanda: Das ist eben das Problem. Dating ist wirklich ineffizient. Es ist schrecklich, dass man mit verschiedenen Leuten viele Dates machen muss. Man könnte einen Abend verschwenden und dann denken: „Das war ein Totalschlamm.“ Deshalb kann man verstehen, warum die Leute sich fragen: „Was wäre, wenn man keine Dates machen müsste? Was wäre, wenn deine AI für dich Dates machen könnte?“ Aber da ist etwas, das nicht menschlich ist.
Und dann geben Sie auch die Entscheidung darüber, mit wem Sie ausgehen werden, an einen Computer weiter, dem Sie vertrauen – einem Computer, der Sie besser kennt als Sie selbst. Ich glaube nicht, dass das stimmt.
Kirsten: Eine Sache, an die ich zurückkommen möchte – und die ich bereits früher angedeutet habe: Mit wem sprechen sie eigentlich? Wer ist ihre Zielgruppe für all diese Optimierungen, meiner Meinung nach? Ist es ein Produktproblem oder ein Kommunikationsproblem? Sprechen sie einfach falsch darüber, und tatsächlich liegt hier eine wirklich große Wertschöpfung – aber es scheint nicht mit der Realität und der Menschlichkeit übereinstimmen. Wenn sie nur anders darüber sprechen würden, wäre das besser. Oder ist es tatsächlich ein Produktproblem – und wie du sagst, konzentrieren wir uns auf die Optimierung von etwas, das mit den AI-Tools falsch ist?
Amanda: Ich denke, es ist etwas von beidem, aber ich glaube, das Marketingproblem entsteht dadurch, dass bei diesen sehr wertvollen Unternehmen hohe Positionierte zusammenkommen und über die Probleme in ihrem Leben sprechen – und sie konzentrieren sich darauf, Abendessenreservierungen oder Flugbuchungen zu machen. Jeder macht das, aber ich buche nicht jeden Wochen Flüge und mache nicht ständig Abendessenreservierungen. Und wenn ich das tue, sind das eigentlich keine Dinge, die für mich ein besonderes Problem darstellen.
Ich meine, offensichtlich finden die Leute Wert in Dingen wie ChatGPT und Claude, aber ich glaube, der Wert, den die Durchschnittsperson findet, ist nicht unbedingt wie das Buchen eines Fluges für mich.
Anthony: Einer der Dinge, über die ich auch nachgedacht habe, ist: Es gibt Unternehmen wie Uber, die bei ihrer Eröffnung gezielt die frühen Nutzer dieser Technologie in San Francisco angriffen. Ich erinnere mich daran, sehr zuversichtlich zu sein [dass] dies niemals weit verbreitet werden wird. Es ist lediglich für eine sehr enge Zielgruppe junger Stadtmillennials gedacht, die genug Geld für Autos haben, und es funktioniert [einzigartig] gut in San Francisco.
Für viele Dinge hat die Technologieindustrie durch das Voraussetzen erreicht, dass „die Menschen noch nicht mit uns aufgeholt haben, aber wir sind die führende Spitze und spiegeln das aussehen der Zukunftkonsumenten wider, das aussehen der Familie der Zukunft.“
Und in diesem Fall scheint es einfach so zu sein, dass diese Wette noch nicht bestätigt wurde – aus verschiedenen Gründen, teilweise weil die Gesellschaft, in die diese Technologie eingeführt wird, sehr anders ist. Die Leute beginnen zu sagen: „Ich mag die Auswirkungen dieser Technologie auf mein Leben nicht. Ich möchte nicht, dass jede Erfahrung in meinem Leben optimiert werden muss. Aber eigentlich ich möchte mein eigenes Leben leben. Ich möchte eigentlich meine eigenen Kinder erziehen.“
Amanda: Ich denke, es ist kein Zufall, dass gleichzeitig eine Überoptimierung unter Technikern stattfindet, und es gibt auch eine Bewegung von Menschen, die wieder auf das Benutzen von Flip-Telefonen zurückkehren – wie ich bereits über Equity gesprochen habe, oder Menschen, die CDs kaufen, weil sie es satt sind, dass ein Algorithmus ihnen sagt, was sie hören wollen.
Und es handelt sich dabei nur um eine interessante kulturelle Spannung, bei der wir noch nicht den Ausgleich gefunden haben, was die Optimierung tatsächlich hilft und was sie uns nur dazu bringt, das Gefühl zu haben, nicht so menschlich zu sein, wie wir es gerne wären.