IT之家 10월 16일 소식에 따르면, 기술 미디어 Business Insider은 어제(10월 15일) 블로그 글을 게시하여 구글의 공동 창립자 세르게이 브린이 Gemini 모델이 “자기 자신을 개선하는” 중요한 시점에 도달하고 있다고 말했다고 보도했습니다.
새로운 모델 Gemini 4 Argon을 중심으로 진행된 원탁 토론에서 브린은 AI가 자체 다음 세대 모델을 만들기 시작했다고 말했습니다. 구글이 이전에 출시한 Flash 시리즈 모델이 이러한 추세를 보여주었으며, 회사는 “RSI의 달리기 기계 위에 서는 첫걸음을 내리고 있다”.
IT之家 주: RSI는 Recursive Self-Improvement의 약자로, 직역하면 “재귀적 자기개선”입니다. 즉, AI가 더 강력한 AI를 구축하는 데 도움을 주어, 반복을 가속화하는 “플라이휠 효과”를 형성한다는 의미입니다.
구글은 아르곤의 보안 보고서에서 AI 연구 개발 프로세스의 일부 단계가 자동화되었다고 밝혔습니다. AI는 대부분의 생산 코드 작성 및 취약점 수정 작업을 담당할 수 있지만, 코드 변경은 제출 전에 반드시 인력에 의한 검토를 거쳐야 합니다.
이 판단은 구글에만 있는 것이 아닙니다. Anthropic과 OpenAI도 AI가 RSI 단계에 접어들고 있을 가능성이 있다고 밝혔습니다. Gladstone AI가 이번 주에 발표한 보고서에 따르면, 인터뷰에 응한 대부분의 연구자들은 Anthropic, OpenAI, DeepMind 등의 기관 소속이었으며, RSI가 향후 3~12개월 내에 시작될 수 있다고 생각한다고 합니다.
하지만 RSI도 보안에 대한 우려를 불러일으킨다. 이전에 AI 연구원들은 충분한 보호 메커니즘이 없다면 인간이 빠르게 자기 개선 기술을 통제하는 능력을 점차 잃을 수 있다고 경고했다.
