IT之家 Am 16. Oktober berichtete das Technologiemedium Business Insider gestern (15. Oktober) in einem Beitrag, dass Sergey Brin, der Mitbegründer von Google, sagte, dass das Gemini-Modell einen entscheidenden Moment im Bereich des „Selbstverbesserungsprozesses“ erreicht hat.
In einer Runde Diskussion rund um das neue Modell Gemini 4 Argon sagte Brin, dass die KI bereits an der Entwicklung ihrer nächsten Generation von Modellen beteiligt ist. Die zuvor von Google veröffentlichten Modelle der Flash-Serie haben diese Entwicklung gezeigt. Das Unternehmen „beginnt gerade, auf dem RSI-Laufband zu laufen“.
IT Home Anmerkung: RSI steht für Recursive Self-Improvement, was übersetzt „recursive Selbstverbesserung“ bedeutet. Es handelt sich dabei um eine Methode, bei der KI dazu beiträgt, stärkere KI zu entwickeln, wodurch ein „Windschleife-Effekt“ entsteht, der die Iteration beschleunigt.
Google hat in seinem Sicherheitsbericht für Argon veröffentlicht, dass einige Bereiche des AI-Entwicklungsprozesses automatisiert sind: Die Intelligenz von AI kann die meisten Aufgaben bei der Erstellung von Produktcode und der Behebung von Lücken übernehmen, doch die Codeänderungen müssen vor der Veröffentlichung noch manuell überprüft werden.
Diese Einschätzung ist nicht nur bei Google zu finden. Anthropic und OpenAI haben ebenfalls gesagt, dass die KI möglicherweise in der Phase des RSI angekommen sein könnte. Ein Bericht von Gladstone AI, der diese Woche veröffentlicht wurde, besagt, dass die meisten befragten Forscher aus Institutionen wie Anthropic, OpenAI und DeepMind glauben, dass das RSI in den nächsten 3 bis 12 Monaten beginnen könnte.
Aber der RSI hat auch Sicherheitsbedenken ausgelöst. Früher haben AI-Forscher gewarnt, dass die Menschen ohne ausreichende Schutzmechanismen allmählich die Kontrolle über schnelle selbstverbessernde Technologien verlieren könnten.
