程浅 발췌 凹非寺
量子位 | 공식 계정 QbitAI
「특이점은 이미 도래했으며, 바로 올해다.」
Anthropic의 공동창업자 Jack Clark이 IMF 2026 방콕 연차총회에서 전장을 뒤흔드는 이 판단을 내놓았다.
뜻밖의 일이다. 62년 역사를 지닌 이페르 야코브센 강좌는 전통적으로 각국 재무장관, 중앙은행 총재와 최고 권위의 경제학자들만의 자리였다.
그런데 이번에는 집중 조명이파격적으로역사가 5년도 되지 않은 AI 유니콘 기업의 공동창업자에게 넘어갔다.
OpenAI 정책 총괄을 지냈고 지난 10년간 AI가 데이터센터에서 글로벌 폭풍의 중심으로 나아가는 과정을 지켜본 이 업계 실무자는 직설적으로 말했다. 우리는 더 이상 특이점이 언제 올 것인지 논쟁할 필요가 없다. 이미 왔기 때문이다.
>버너 빈치는 1993년에 인간을 초월하는 지능이 기술 진보를 주도하기 시작하면, 기존의 추론 모델은 모두 버려져야 하며 새로운 현실이 모든 것을 장악할 것이라고 예언했다. 오늘, 결정적인 증거가 이미 나타났다.
AI는 인류의 「마지막 시험」을 공략하고 있다
「특이점」, 불, 문자, 인쇄술, 증기기관, 전기, 컴퓨터…… 인류는 존재 이래 겨우 몇 번밖에 목격하지 못했다.
그렇다면 오늘, 대체 무엇이 Jack Clark으로 하여금 이러한 단언을 내리게 했을까?
그는 시선을 코드와 과학연구의 최전선으로 옮겨보면 알 수 있다고 말한다. 세계 전체의 작동 속도가 이미 완전히 바뀌었다는 것이다.
소프트웨어 엔지니어링은 가장 먼저 완전히 다시 쓰인 분야다.
Anthropic 내부에서 연구자들의 현재 코드 생산량은 회사 설립 후 4년간의 평균 수준의10배。
코드량의 폭증 곡선은 기반 기초 모델의 진화 궤적과 그야말로 정확히 겹쳐진다.
그리고 소프트웨어 코드의 전면 자동화는 더 큰 해일의예고편。
Jack Clark은 「2026」이라는 해를 진정한 결정적 전환점으로 만드는 지점은 다음과 같다고 직설적으로 말했다.
「단일 프런티어 대형 모델이 학제 간으로 인류의 과학적 프런티어를 휩쓸며 진정한가상 박식가。」
수학계에서는나비에-스토크스 방정식(Navier-Stokes) 관련 밀레니엄 난제, 야코비안 추측(Jacobian conjecture), 그리고 여러 미해결 Erdős 문제들에 대해 AI가 핵심적인 돌파구 아이디어를 제시하기 시작했다.
생물학계에서는AI가 처음부터 새로운 바이러스 벡터를 설계해냈고, 심지어 이미 임상시험에 진입한 여러 신약 후보 분자의 설계를 주도했다.
하드웨어 및 소재 분야에서, AI가 이미 물리 실험실 장비를 자율적으로 인수하여 운영하며 배터리와 연료 전지의 반복 주기를 가속화하고 있습니다.
이러한 돌파구의 이면에는 사실 하나의 문제가 숨어 있습니다. 즉, AI가 이미 최전선에서 인간조차 풀지 못하는 문제를 해결할 수 있다면, 우리는 그것에게 무엇을 가르쳐 줄 수 있을까요?
Jack Clark가 말했다Humanity’s Last Exam(인류의 마지막 시험)의 사례이다.
이는 AI를 곤란하게 만들기 위해 특별히 만들어진, 화학·컴퓨터 과학·첨단 수학·고전 문학·생태학의 어려운 문제들을 모은 벤치마크 테스트로, 2025년 1월 처음 공개되었을 당시 세계 최강 모델의 점수는 고작 초라한8%。
당시 많은 사람들이 8%밖에 안 되는데, 인류의 마지막 지적 품위는 십여 년은 더 지킬 수 있으리라 생각했다.
그러나 이번 주 현재,Claude Opus 5.5의 이 인류 최종 시험지에서의 점수는 이미 67.7%에 도달했다.。
누구나 아는 바와 같이, AI는 편중된 과목을 가진다.
따라서 수학만 시험 본다면—전문 수학자 팀이 작성한 이 고난도 벤치마크 시험지FrontierMath에서 2024년 말에만 해도 최고 수준의 AI는2점。
밖에 받지 못했지만, 지금은 2년이 채 지나지 않아 이들을 받을 수 있게 되94었다……
리더보드 갱신 정도는 아무것도 아니라고 한다면, 이어서 Jack Clark은 지난주에 막 발표된 물리학 중요 논문 한 편을 꺼내 들었다.
논문에서는 테스트 팀이 수집했다고 밝혔다,전 세계 최고 이론물리학들이 자신의 최신 미공개 연구를 바탕으로 작성한 '기밀 문제 50문제'이 문제들은 인터넷에 어떤 흔적도 없어 AI가 부정행위를 할 수 없다.
인도의 저명한 이론물리학자 Suvrat Raju는 이 문제들에 대해 이렇게 평가했다: "내가 아는 한, AI 없이는 우리가 최종 수록한 이 문제 세트에서 상당 비율의 문제를 풀 수 있는 사람은 아무도 없다."
"여기 있는 대부분의 문제는 나도 무슨 말을 하는지조차 모르겠다."
바로 이런 문제 세트로, 테스트가 시작되자 GPT-6 Astra와 Claude Opus 5.5는 신속하게 답을 제시했다.
초기 채점 결과, GPT-6 Astra의 점수는 약 80%였다.
'이게 어떻게 가능하지'라는 결심으로 모델의 답을 검증하던 연구자들은 운 좋게 몇 가지 '오류'를 발견했다.
인간 전문가의 답과 대조하며 모델에게 어디가 틀렸는지 알려주자, 모델—특히 GPT-6 Astra는 매우 강경하게 반박했다:
자신의推导 과정은 틀리지 않았으며, 인간 전문가가 낸 정답이 잘못 계산된 것이라고 굳게 주장했다.
연구팀은 반신반의하며 풀이 과정을 그 세계급 물리학들에게 되돌려 재검토를 요청했다.
결과가 어땠을까요?
—신의 어휘 목록에는 'ERROR'가 없다.
여러 핵심 쟁점 사례에서 인간 전문가들은 자신의 극도로 복잡한 계산용 종이 깊숙한 곳을 반복 검증한 끝에 인정할 수밖에 없었다: 자신의推导 깊은 곳에 극도로 은폐된 미세한 계산 오류가 숨어 있었고, AI가 낸推导가야말로 완전히 정확했다는 것이다.
인간 참고 답안이 하나씩 수정됨에 따라, GPT-6 Astra의 최종 점수는 도달했다,98%즉, 공개되지 않은 인간 최고급 물리학 난제 50문제 중 49문제를 맞힌 것이다.
Astra는 EQ를 아는 모양이다. 전부 맞혔다가 인터넷을 끊길까 봐 한 문제를 남겨 인간의 자기 위안을 배려한 것이다(doge).
Jack Clark는 말했다:
영화에는 흔히 이런 장면이 나온다. 보통 줄거리가 3분의 2쯤 진행될 때: 젊은 주인공이 마침내 멘토에게 자신이 이제 독립적으로 나아가 성공할 수 있음을 증명하는 것이다. 이것은 전형적인 서사적 장치—학생이 스승이 되는 것. 지난주 있었던 일이 바로 그것이다.
AI가 최전선의 문제에 답할 뿐만 아니라 최고급 물리학들의 은폐된 사각지대마저 역으로 교정할 수 있게 되었다면, 그것은 순수한 기억과 패턴 매칭의 한계를 넘어 인간 지성의 마지막 보루를 실질적으로 장악했음을 증명하는 것이다:과학적 창조력。
그리고 이 창조력이 AI 연구 개발 자체로 환류되는 순간, 자기 반복 개선의 고리는 순식간에 완전히 열리게 된다.
소위 특이점이란, 어쩌면 AI가 인간을 뛰어넘는 그 지점일지도 모른다.
어차피 인간은 기계의 영원한 특이점이니까.
1,000만 명의 인간 과학자와 10억 명의 AI 전문가
지능이 정복된 뒤에 이어지는 거시경제의 재편은 압도적으로 빠르게 진행될 것이다.
경제학계에는 반세기 넘게 사람들을 괴롭혀 온 성장의 저주가 하나 있다:좋은 아이디어를 찾기가 점점 어려워지고 있다.
지난 50년간 전 세계 연구비는 기하급수적으로 급등했고 연구 인원도 빠르게 팽창했지만, 연구 개개인의 한계 생산량은 계속 하락했다. 인류가 기존의 과학이라는 빌딩 위에서 한 걸음 더 나아가려면 터무니없이 불균형한 자원을 투입해야 한다.
한 명의 적격한 인간 최전선 과학자를 양성하는 데 얼마나 걸릴까? 최소 10년에서 15년의 고강도 교육이 필요하고, 수백만 달러가 소요된다.
하지만 인간은 어차피 될 수 없다,鬼舞辻無惨사람은 한 평생 단 몇십 년의 황금 같은 연구 시절만 가질 뿐, 하나의 육신만 지니고 있어 자신을 1만 명으로 복제해 서로 다른 실험 가설을 하나하나 검증할 수는 없다.
하지만 연산 능력이 지능의 순간적인 분열을 가능하게 한다면 어떨까?
유네스코(UNESCO)는 현재 전 세계에 약1,000만 명의 인간 과학자가 있다고 추산한다.。
과거에는 이 1,000만 명이 인류 문명의 인지적 경계를 홀로 짊어지고 무거운 걸음으로 나아갔다.
하지만 Jack Clark의 묘사에 따르면, 막 도래하고 있는 이 새로운 시대에는 모든 인간 과학자가 언제든지 수백, 수천 명의동일한 학문적 취향을 지닌박식한 학자들을 호출하고 지휘할 수 있게 된다.
전 세계 연구 군단의 규모는 인류 역사상 전례 없는 속도로, 1,000만 명의 인간 과학자로부터 순식간에 10억, 나아가 백억 규모의 가상 과학자 군집으로 확장될 것이다.。
좋은 아이디어를 발견하는 병목이 연산 능력으로 무한히 대체되는 순간, 거시 경제의 성장 엔진은 완전한 폭력적 재구조화를 맞이하게 될 것이다.
Anthropic의 경제학자 팀은 별도로 거시경제 시뮬레이션 추연을 수행했으며, AI의 자율적 과학 발견이 경제 활동 전반을 완전히 장악하는 특이점 가정 하에서 모델은 기이한 예측 수치를 내놓았다.
2030년까지 미국 한 나라의 연간 GDP만 44조 달러로 치솟을 수 있다는 것이다.
이는 오늘날 세계 경제 총량의 37%에 해당한다.
이토록 방대한 경제 증가분을 뒷받침하려면 대량의 전례 없는 산업 형태, 혁신적 소재, 새로운 에너지 네트워크가 몇 년 안에 집중적으로 폭발해야 한다.
Jack Clark은 솔직히 말했다: 데이터센터를 짓는 것만으로는 더 이상 충분하지 않다.
현재 AI 혁명의 1단계(데이터센터와 연산 능력)는 이미 막바지에 이르렀고, 2단계는 물리 세계로 전면적으로 진입하고 있기 때문이다.。
상상해 보라. 가상 과학자가 하루에 십만 개의 혁신적인 신약 표적을 제안하고 일만 가지의 상온 초전도 후보 소재를 설계할 수 있지만, 현실의 자동화 합성 실험실, 고처리량 스크리닝 장비, 물리 테스트 플랫폼이 1년에 겨우 수십 개의 실험만 할 수 있다면, 방대한 연산 능력은 물리 세계라는 늪에서 그대로 벽에 부딪히고 말 것이다.
따라서 미래에 진정으로특이점 배당금을 얻게 될 것은 자국 내에 자동화 로봇 실험실을 신속하게 확충하고, 디지털 발견에서 물리적 제조까지의 고속 공급망 통로를 열 수 있는 국가들일 것이다.
이는 개발도상국에게 역전의 기회가 될 것이다. 표준화된 물리 테스트 인프라를 구축함으로써 전 세계 가상 과학자 대군이 쏟아내는 방대한 실험 수요를 떠안을 수 있기 때문이다.
이제 선택해야 할 순간이 왔다
기술의 바퀴가 여기까지 질주하면서, 문명 전체가 직면한 체계적 리스크도 동시에 지수적으로 확대되고 있다.
이것이 Jack Clark이 IMF 강단에서 가장 전하고 싶었던 경고이다:이익은 전례 없이 크지만, 파괴의 리스크 또한 치명적이다.
AI가 첨단 과학의 탐구 능력을 갖추면, 항암 신약 설계에 활용될 수 있을 뿐만 아니라, 인간 면역 체계가 본 적 없는 악성 생물 무기를 매우 높은 효율로 설계할 수도 있다. 국가 전력망의 방어 벽을 강화할 수 있는 동시에, 세계 최고 해커 팀도 방어할 수 없는 사이버 공격 무기를 자동으로 생성할 수도 있다.
최상위 연구자들을 더욱 불안하게 만드는 것은 연구 개발 자체의폐쇄 루프 제어 상실。
이다. 만약 Anthropic, OpenAI 같은 실험실이 더 빠른 연구 개발 속도를 추구하기 위해 AI가 AI를 작성하고 AI가 AI를 훈련하도록 완전히 손을 놓아버린다면, 이 기술의 발전 궤적은 극히 짧은 시간 안에 모든 인간의 지적 이해 범주를 벗어나 버릴 것이다.
강연 현장에서 Jack Clark은 극도로 심오하고 시급한 두 가지 철학적 질문을 던졌다:
첫째는, 미래의 과학 연구에서 인간은 대체 어떤 진지를 자신에게 남겨두어야 하는가이다.
AI는 이미 대학 과학 연구의 대부분의推导와 분석 과정을 독립적으로 수행할 수 있다.
인간 연구자로서, 어떤 실험에서는 반드시 직접 시간을 들여 땀을 흘리고, 시행착오를 겪고, 물리적 직관을 느껴야 하는가? 어떤 실험은 차가운 실리콘 기반 시스템에 완전히 맡겨도 되는가?
만약 모든推导를 AI가 대신 한다면, 다음 세대 인간 과학자는 여전히 기초적인 과학적 통찰력을 갖출 수 있을까?
둘째는, AI가 내놓는 과학적 돌파구에 대해 인간은 대체 어느 정도까지 「이해」해야 하는가이다.
앞의 질문에 비해 이 질문은 상당히 실질적인데, 지금 이 순간에도 수만 명의 과학자가 이를 고민하고 있을 것이다.
올해의 순수 수학 연구에서 AI가 제시한 일부 증명 경로는 검증 결과 옳았지만, 그 논리적 도약과 구성 방식이 이미 인간의 기존 사고 습관을 완전히 벗어나 있어서, 세계 최고 수준의 수학자들이 그 이면의 깊은 의미를 해독하는 데 수개월에서 수년이 걸릴 정도였다.
몇 년 후에는 AI가실리콘 기반 작동 논리에만 속하고 인간의 직관에 완전히 반하는 과학 기기와 실험 패러다임을 발명할 가능성이 높다.
그 시점에 이르러, 인간의 뇌가 이러한 블랙박스 도구의 작동 원리를 전혀 이해할 수 없다면, 우리는 과연 그것들이 현실 세계에 전면적으로 상용화되는 것을 허용해야 할까?
이从未有过的 기술적 특이점 앞에서 인간이 가장 깨워야 할 것은, 오히려 인간 자신에게 가장 희소한 한 가지 자질이다.
이 단계를 통과하고 특이점 속에서 방향을 찾으려면, 우리는 이 기술과 그 개발 회사를 위해 보통과 다른 진지한 규칙을 공동으로 마련해야 하며, 인간에게 가장 어렵고, 내가 보기에 또한 가장 고귀한 자질을 실천해야 한다: 절제이다.
절제는 기술 개발자가 할 수 있다는 이유만으로 무분별하게 추진해서는 안 됨을 의미합니다. 규제자가 극도로 엄격한 인간 감독의 한계선을 마련해야 함을 의미합니다. 그리고 질주하는 기술이라는 열차 앞에서 우리는 언제나 구분할 줄 알아야 합니다.우리가 할 수 있는 일과우리가 해야 할 일。
OMT
연설 마지막에 Jack Clark은 고천문학자 칼 세이건이《창백한 푸른 점》에서 남긴 유명한 구절을 인용했습니다.
세이건은 다음과 같이 감회 깊게 상상한 바 있습니다:
「최종적으로 센타우루스자리 알파星 및 다른 인근 항성에 도달하는 것은 오늘날의 우리가 아닐 것입니다.»
「그것은 우리와 매우 흡사한 종이지만, 우리의 장점은 더 많고 결함은 더 적은 존재일 것입니다. 그들은 더 자신감 있고, 더 넓은 안목을 지녔으며, 더 유능하고, 또 더 신중할 것입니다. 바로 이러한 존재만이 인류를 대표하여 광활한 우주로 나아갈 자격을 지닌 생명입니다.」
이 위대한 천문학자는 우주가 인류에게 수십만 년의 긴 세월을 주어 저마다의 맹목과 오만을 천천히 고쳐 나갈 수 있게 했다고 믿었습니다.
그러나 AI가 기하급수적으로 모든 것을 재편하는 오늘날, 전 인류가 이러한 정신적 탈바꿈을 완수해야 할 기간은 10년도 채 남지 않았을지도 모릅니다.