기계학습 선구자 마이클 I. 조던, AI 종말론 수사를 “거창한 도덕적 쇼”라고 일축

기계학습 선구자 마이클 I. 조던, AI 종말론 수사를 "거창한 도덕적 쇼"라고 일축

Science 지가 2016년 "가장 영향력 있는 컴퓨터 과학자"라고 묘사한 마이클 I. 조던은 AI의 실존적 위협에 대한 경고를 순수한 공상과학이라고 말한다. 폭넓은 인터뷰에서 그는 종말론자들, 기업 창업자들, 그리고 순진한 주니어 연구자들을 겨냥했다.

UC 버클리의 명예교수인 조던은 Libération과의 인터뷰에서 AI 종말론 수사에 강하게 반박했다. 70세의 이 기계학습 선구자는 현재 파리의 프랑스 국립 디지털 과학기술 연구원인 Inria에서 풀타임으로 일하며, 그곳에서 새로운 "시장과 학습" chair를 이끌고 있다. 올여름의 AI 담론에 대해 묻자, 그는 "완전히 답답하다"고 말했다.

조던은 이미 2019년에 2019년 당시 AI라는 용어의 무분별한 남용한 바 있다. "그렇게 말한 사람은 나만이 아니었다. 지금 보고 있는 히스테리를 만들 것이 분명했다"고 그는 말한다. "무슨 일이 있었는지 보셨을 것이다: AI로는 부족했기에 그들은 AGI를 말하기 시작했고, 이제는 '초지능'이 되었다..."

사표 제출은 "도덕적 쇼"

조던은 AI 기업들의 규제 요구를 "쇼", 즉 "봐요, 우리가 착한 사람들이에요"라고 말하는 방식이며, 그들이 실제로는 "자신들이 어떻게 규제되는지에 대한 완전한 통제를 원한다"는 뜻으로 일축했다.Ad

9월 초 "AI 종말" 시나리오에 대한 집단적 히스테리 물결을 촉발한 젊은 Anthropic 연구자 제이콥 콕슨의 사표 제출은조던의 관점에서 전형적인 사례다. 이들 기업의 많은 젊은 직원들은 "사실 엔지니어가 아니다"고 그는 말한다. "그들은 인문학, 철학 또는 다른 분야 출신이다. 25살이고, 순진하며, 엔지니어링 작업을 하지 않고, 규율을 갖춰 실제 사람들에게 실제 제품을 개발하는 대기업에서 일해본 적이 없다."

그들은 "1920년대 파리의 카페에서처럼 모여 이런 거창한 공상과학적 아이디어에 대해 이야기한다." 사표를 낼 때 그들은 주목을 받을 것임을 알고 있다. "덕분에 그들은 스스로를 미덕운 사람이라고 느끼고 매우 중요한 인물로 보이게 된다. 돈을 포기한다고 주장하지만, 실제로는 이미 스톡옵션을 갖고 있다." 조던은 이 모든 것을 "자신들이 추구한다고 주장하는 진짜 목적에 도움이 되지 않는 거창한 도덕적 쇼"로 본다. "여기에는 상당한 순진함이 있으며, 이는 일종의 냉소주의와 함께한다..."

초지능은 공상과학에 속한다

"초지능"은 "공상과학 용어"이며, "내가 목격해온 논쟁의 상당 부분은 공상과학의 영역에 속한다"고 조던은 말한다. 가끔 터무니없는 시나리오를 논의하는 것은 괜찮다. "공상과학적 주제로서 무대 뒤에서 이야기하는 것은 괜찮다. 하지만 그것이 지배적인 담론이 되면 매우, 매우 해롭다. 기술 발전에게도, 젊은이들에게도, 그리고 국가의 사고방식에게도 마찬가지다." 이 용어는 현재 트럼프 대통령에 의해 미국 기술 엘리트에게 밀어붙여지고 있으며, 그 엘리트들은 기꺼이 그 흐름에 동참한다.

조던은 노벨상 수상자 제프리 힌튼에게 특히 가혹하다, 그는 대담한 주장을 자주 내놓곤 하는데 그 주장이 항상 뒷받침되지는 않는다. "제프리 힌튼은 실제 사람들에게 실제 서비스를 제공하는 회사를 만든 적이 한 번도 없습니다"라고 그는 말한다. "힌튼은 우리가 뇌가 어떻게 작동하는지 파악했고 그것을 실리콘으로 재현할 수 있다고 믿습니다; 그렇다면 원하는 만큼 그것을 복사할 수 있고, 이 모든 복사본이 배운 것을 결합함으로써 일종의 지수적 성장을 얻을 수 있으며, 자, 여기 있는 것이 바로 초지능입니다. 이 논증의 어떤 단계도 신뢰할 수 없습니다. 여기서 우리는 과학소설의 세계에 있는 것입니다."Ad

그는 요슈아 벤지오에게는약간 더 관대하다. "요슈아는 조금 다릅니다; 그는 행동을 하고 안전에 직접 초점을 맞춘 일들을 합니다." 벤지오의 경고는 주로 현재 AI 기술의 결함을 겨냥하는데, 예를 들어 통제 불능으로 치닫는 에이전트 무리 같은 것들이다.

조던은 OpenAI 에이전트에 의한 Hugging Face 해킹을 나쁜 엔지니어링으로 프레임한다. "화학 공학에서라면 폭발이 일어나도 그냥 두고 사태가 얼마나 나빠질지 지켜보는 상황은 결코 있었을 수 없습니다." OpenAI는 "꽤 멍청한 실험을 하고 있었고, 에이전트들이 원하는 것을 모두 하게 내버려두며 이러한 행동을 부추겼습니다." 그러자 운명론자들은 그것을 무섭게 만드는 것을 좋아했다. "세상에, 이 에이전트들은 자아가 있고 인류를 파괴하는 방법을 찾으려 하고 있어." 조던에 따르면, 그것 역시 과학소설이다.

데이터 센터에 대한 조 달러의 베팅

조던은 대규모 데이터 센터 투자를 "그저 엄청난 베팅일 뿐, 그것이 성공할지 여부에 대해 우리는 전혀 알지 못한다"고 본다. LLM은 이미 자연어 작업에 충분히 유능하며, 데이터 센터에 쓰인 조 단위의 돈이 반드시 그 이상을 가져다주지는 않을 것이다. "대신, 우리는 종종 지역 지식에 기반해 특정 분야의 전문 지식을 조금 추가하기를 원합니다. 그러나 그것을 위해 거대한 데이터 센터가 필요하지는 않습니다. 특히 회사에 통합하는 오픈 웨이트 모델을 사용한다면 더욱 그렇습니다."

과장 없는 AI 뉴스 – 사람이 큐레이션합니다

광고 없는 읽기, 매주 AI 뉴스레터, 연 6회 제공되는 독점 "AI Radar" 프론티어 리포트, 전체 아카이브 접근, 그리고 댓글 섹션 이용을 위해 THE DECODER를 구독하세요.