IT之家 – Bericht vom 8. Oktober: Laut einem Bericht des „Business Insider“ heute Morgen (8.) glaubt David Robinson, einer der ehemaligen Leiter des Sicherheitsteams, das letzte Woche von OpenAI weggegangen ist, dass das Unternehmen in Bezug auf die AI-Sicherheit deutliche Widersprüche zeigt.
Robinson sagte, dass OpenAI zwar immer wieder Warnungen vor den Risiken geben, die mit der Verbesserung der Fähigkeiten neuer Modelle einhergehen könnten, aber gleichzeitig öffentlich über die Verlangsamung der Entwicklung von KI spricht, während das Unternehmen intern weiterhin mit voller Geschwindigkeit voranschreitet. „Was mich wirklich verwirrt, ist, dass wir diese Warnungen ständig veröffentlichen, und am Ende dennoch die Trainierung und den Einsatz der Modelle fördern, für die wir bereits gewarnt haben.“
Im Juli dieses Jahres haben Hunderte von Mitarbeitern von OpenAI einen öffentlichen Brief unterschrieben.Aufruf an die Regierung, regulierende Maßnahmen einzuführen, Entwicklung einer Geschwindigkeitsreduzierung für die AI.
Zuvor forderte der CEO von Anthropic, Amodio, die AI-Unternehmen auf, sich selbst zu koordinieren, um das Entwicklungstempo zu verlangsamen. Im September dieses Jahres stimmte der CEO von OpenAI, Orteman, dieser Vorschlag zu. „Wir müssen den Fortschritt der fortschrittlichen AI kontrollieren. In den letzten Wochen war dies einer der Hauptthemen in den internen Diskussionen von OpenAI.“
Robinson sagte, dass das Büro von OpenAI jedoch weiterhin in einem hohen Tempo arbeitet, und viele Menschenvon übermäßigem Einsatz ihrer Energie gestützt werden. Er beschreibt diesen Zustand so: „Es fühlt sich fast wie Balette oder eine Art Tanz an, bei dem die Arbeit aller Abteilungen gleichzeitig zusammenkommt. Das ganze Prozess ist voller Adrenalin.“
Die Forscher von OpenAI ziehen es nicht in Abrede, dass die Gefahren entstehen könnten, die durch das Zulassen von AI, selbst seine Fähigkeiten zu verbessern, entstehen. Dieser Prozess, bei dem das AI seine Fähigkeiten kontinuierlich verbessert, wird als „rekursives Selbstverbesserungsverfahren“ bezeichnet. Im September dieses Jahres warnte der Leiter des OpenAI-Teams, Jakub Pachocki, in einem Blogartikel über das rekursive Selbstverbesserungsverfahren: „Im Moment ist extreme Vorsicht geboten.“
Laut bisherigen Berichten von IT Home bestätigte ein Sprecher von OpenAI am 2. Ortszeit, dass David Robinson, einer der Leiter des Sicherheitsteams von OpenAI, seinen Posten verlassen hat.
Relevante Lektüren: