주요 내용
- 전 Deepmind 연구원인 Thore Graepel은 Metis Reasoning을 설립하여 AI 시스템을 더 신뢰할 수 있고 검증 가능하게 만들었습니다. 이는 AlphaGo의 접근 방식을 기반으로 한 것입니다.
- 이 방법은 지식과 모델 가중치를 분리하여 외부 원장에 저장하며, 독립적인 모듈이 모든 가정들을 증거와 비교하여 검토합니다.
- 이 접근법은 환각을 줄이고 근거가 있는 설명을 제공하는 것을 목표로 하지만, 현재로서는 실제 작동하는 시스템이 없는 이론적 틀로만 존재할 뿐입니다.
전 Deepmind 연구원인 Thore Graepel은 자신이 알고 있는 것들을 추적하고 모든 결론을 증거와 비교하는 AI 시스템을 구축하고자 합니다. 그의 팀은 더 큰 언어 모델도 이 문제를 해결할 수 없다고 말합니다.
토레 그라펠은 2016년 알파고가 프로 Go 선수 리 세돌을 이겼던 같은 아이디어가 로봇을 포함한 AI 시스템의 신뢰성을 높일 수 있다고 믿습니다. Deepmind 연구원이었던 그는 메티스 레조우닝스를 설립했으며, 베를린에서 열린 Nvidia GTC 컨퍼런스에서 이 접근법을 발표했습니다. 이 컴퓨터 제조업체는 로봇공학 및 물리적 AI 플랫폼을 확장하고자 하며, 로봇공학의 데이터 문제를 컴퓨팅 문제로 전환하는 것을 목표로 하고 있습니다.
모델 가중치에 내재된 지식 대신 지식 장부
오늘날의 언어 모델은 단지 AlphaGo의 예측 네트워크에 불과하며, 이 네트워크는 가능한 수를 제안합니다. AlphaGo는 그 네트워크를 게임 시퀀스를에 대한 체계적인 탐색과 결합했고 유명한 Move 37를 발견했습니다. 이는 네트워크가 인간 플레이어에게 약 천천천 중 한 번의 기회만 주었을 법한 수입니다. Metis는 이러한 탐색 방식을 일반적인 추론에도 적용하고자 합니다.
이를 위해 회사의 논문에서 말하는 ‘명시적 지식 레지스트’가 필요하며, 이는 게임 보드와 유사합니다. 유사한 아이디어도 이미 존재합니다: 마이크로소프트의 GraphRAG는 모델 가중치 외부의 지식을 지식 그래프로 정리하며, 구글의 AlphaGeometry2는 언어 모델과 수학 증명을 검증하는 기호 엔진을 결합합니다. Metis는 이러한 원리를 실제 세계의 개방적 문제에까지 확장하고자 합니다.
그 시스템의 지식 장부는 무엇이 알려져 있는지, 시스템의 확신 수준은 어느 정도인지, 그리고 어떤 질문이 아직 해결되지 않았는지를 기록합니다. 별도의 모듈이 새로운 정보를 계산, 공식 증명 또는 실험적 증거와 비교하여 검토하며, 어떤 가정이 깨진다면 그에 의존한 모든 결론이 다시 평가됩니다. “ moves”는 질문이거나 실험이거나, 기존 가정에 대한 도전이 될 수 있습니다. 시스템은 원래 질문에 대한 불확실성을 가장 많이 줄이는 것을 선택하여, 결국 답이나 정당한 거부를 제공합니다.
AlphaGo와 마찬가지로, 두 개의 신경망이 수행을 제안하고 평가하며, 이전 연구 자료를 바탕으로 훈련되었지만 검증 규칙을 무시할 수는 없습니다. Metis는 이러한 설정이 환각을 줄이고, 출처가 명시된 설명을 제공하며, 재훈련 없이 변경하거나 삭제할 수 있는 지식을 생성할 것이라고 말합니다. 추론 과정이 작은 단계로 나뉘기 때문에, 이 접근법은 엣지 기기와 로봇에서 실행되는 더 작은 모델에도 유리할 수 있습니다.
기업들은 여전히 언어 모델을 충분히 신뢰하지 못하여 그들을 도입하지 않고 있습니다
Metis에 따르면, 더 많은 데이터와 컴퓨팅 능력은 언어 모델을 개선할 수 있지만 기술의 근본적인 문제는 해결되지 않습니다. 모델은 답을 생성하지만 그 추론 경로는 검증할 수 없으며, 그 지식은 가중치 안에 숨겨져 있습니다. 현실 착시는 학습 과정 자체에서 발생합니다이 논문은, 모델들이 진짜 텍스트가 아닌 설득력 있는 텍스트를 생성하는 법을 배우기 때문에, 심지어는 오늘날의 추론 모델에서의 사고 과정은 종종 제대로 드러나지 못한다 답변이 실제로 어떻게 도출된지.
그 논문에 따르면, 이것이 바로 AI가 지금까지 그다지 경제적 영향을 미치지 못한 이유입니다. 기업을 대신하여 행동하는 에이전트의 실수는 원인을 추적하기 어렵고, 잘못된 지식도 모델에서 제거되지 않습니다. AI는 소프트웨어 엔지니어링 분야에서 성공했는데, 그 이유는 코드를 테스트하고 되돌릴 수 있기 때문입니다. 하지만 의학, 금융, 칩 설계, 로보틱스 분야에서는 AI가 처음부터 검증 가능해야 한다고 논문은 주장합니다.
백서는 작업 시스템도 없고 벤치마크도 없으며 현재의 추론 모델과의 비교도 없는 연구 프로그램만을 설명하고 있습니다. 팀은 실제 세계는 Go와 달리 부분적인 정보만 제공하며, 증거를 얻는 데 비용이 많이 들고, 일부 질문에는 답이 없는 경우가 있다고 인정합니다. 가장 큰 미해결 문제는, 기호형 인공지능 시스템이 손으로 입력해야 했던 모든 지식을 포함하기 때문에, 교과서 예시를 넘어서는 복잡한 환경에서 검증된 지식 장부가 어떻게 형성될 것인가 하는 것입니다.
실버와 록테셸 이후, 또 다른 Deepmind 베테랑이 혼자서 탐사를 시작한다
그라펠은 자신의 웹사이트에 따르면 2001년 베를린에서 머신러닝 박사학위를 취득했습니다. 마이크로소프트 리서치에서 그는 Xbox Live 뒤의 매칭 시스템인 TrueSkill을 구축하는 데 도움을 주었습니다. 그 후 Deepmind로 이동하여 AlphaGo, AlphaZero, 그리고 MuZero를 연구했습니다. Altos Labs에서 일한 후 최근에는 Google Deepmind의 AGI 이후 팀에서 근무했으며, 그 여름에 그 팀을 떠났습니다. 그는 또한 유니버시티 칼리지 런던에서 머신러닝 교수직도 맡고 있습니다. 블룸버그에 따르면, 그라펠은 Metis를 위해 수백만 달러 규모의 자금을 모금하고 있으며, 더 높은 가치로 수천만 달러 규모의 후속 투자도 진행 중입니다.
그는 Deepmind의 가장 유명한 혁신을 설계한 최신 건축가로, 구글 외의 새로운 제품을 만들고자 합니다. 전 동료인 데이비드 실버는 Ineffable Intelligence를 설립했으며, 유럽 스타트업 중 가장 큰 시드 라운드를 마감했습니다. 팀 록테셸은 Recursive를 공동 설립했으며, 현재 가치는 46.5억 달러입니다. 다른 기업들은 즉시 경쟁사로 가고 있습니다. 파이낸셔널 타임스에 따르면, Deepmind는 AlphaFold를 이끌던 팀을 해체했으며, 노벨상 수상자인 존 짐퍼는 두 명의 동료와 함께 Anthropic으로 떠났습니다. CNBC는 인력 유출 원인을 구글의 TPU 칩에 대한 내부 접근성 부족과 관료주의로 보았습니다. 한편 Deepmind 자체는 독립성을 잃고 설립자 데미스 하사비스는 일상적인 운영에서 물러났습니다.
출처: Metis Reasoning