월요일에 OpenAI는 놀라운 수학, 컴퓨터 과학, 물리학 분야의 혁신을 발표했으며, 회사가 자신의 연구 결과를 전달하는 방식도 발전하고 있다고 밝혔습니다. 하지만 그런 노선 수정에도 불구하고 The Verge과 인터뷰한 연구자들은 회사의 행동에 점점 지쳐가고 있습니다.
10월 초에 OpenAI와 수학자들 사이에는 혼란스러운 몇 달이 있었습니다. 수학자들은 100여 개의 사전 발표된 논문들이 방법 없이 던져진 상황에 여전히 대응하고 있습니다. 이번에는 OpenAI가 전문가 “목동들”과 협력하여 최신 혁신을 어떻게 공유할지 결정하고 있다고 밝혔습니다.
관련
세 가지 결과 모두 수학, 컴퓨터 과학, 물리학 분야에서 가장 중요한 미해결 문제 중 일부와 관련이 있습니다. 일부는 OpenAI의 이전 연구를 확장하는 것이고, 다른 것들은 새로운 지평을 열는 것입니다. OpenAI의 “목동들”의 조언에 따라 각각은 다른 배포 전략을 가지고 있습니다. 수학 결과에 대해, OpenAI는 AI로 생성된 결과를 공개했으며, 이를 통해 연구자들은 그 결과를 설명하기 위해 자신만의 방식으로 조직할 수 있게 되었다. 컴퓨터 과학 관련 발견에 대해서는, OpenAI는 외부 연구자 그룹도 구성하여 그 결과를 설명하도록 할 예정이다. 반면 물리학 관련 내용은 전혀 공개되지 않았으며, OpenAI는 자료를 공개하는 방법에 대해 외부 전문가 그룹에게 맡기겠다고 말했다.
- 수학적 결과는 매우 놀랍습니다. 이는 모든 차원에서 카케야 추측을 해결한다고 주장합니다. 간단히 말해, 이 문제는 얼마나 적은 공간이 필요한지를 묻는 것입니다. 바늘이나 연필을 회전시키다 모든 방향으로. 3차원 버전에 대한 증명은 뉴욕대 수학자 홍왕이 이룬 성과 중 하나였습니다. 수상 올해 초에 수상한 권위 있는 필드스 메달. 브라운 대학교 수학 교수인 브렌던 해셋은 말했다 The Verge OpenAI의 주장은 “잘 뒷받침된 것처럼 보인다”고 했지만, 그는 계산적으로 결과를 검증하는 방법인 Lean 형식화를 아직 확인하지 않았다고 강조했습니다.
- 물리학 결과는 물리학에서 가장 성공적이고 완전한 이론적 틀인 표준 모델을 탐구합니다. 이는 강한 핵력을 설명하는 양자 크로모다이네마톤에 관한 내용으로, 강한 핵력은 자연의 네 가지 기본 힘 중 하나입니다(중력, 전자기력, 약한 핵력과 함께). 또한 양자 크로모다이네마톤은 현대 입자 물리학의 핵심인 양-밀스 이론과의 관계도 다룹니다. 양-밀스 이론은 수학 분야의 7개 천년기 문제 중 하나의 핵심이기도 합니다. 다만 OpenAI의 연구는 해결되지 않은 “질량 간극”에 대해서는 다루지 않습니다.
- 최종 결과는 기하급수적 시간 가설을 반증한다고 주장한다. 이 가설은 이론 컴퓨터 과학에서 널리 받아들여지는 가정으로, 특정 문제들은 단순한 노력 방식보다 훨씬 빠르게 해결될 수 없다는 것이다. 이는 P 대 NP 문제와 밀접하게 관련되어 있으며, P 대 NP 문제는 해결이 쉽게 확인될 수 있는 문제들이 실제로도 쉽게 해결될 수 있는지 묻는 연구 분야의 가장 큰 미해결 문제 중 하나이다.
공개 수준의 차이와 그러한 연구를 평가하는 복잡성 때문에 연구자들이 회사의 연구 결과를 완전히 판단하기는 어렵습니다. 모든 정보를 가지고 있음에도 불구하고 그렇게 하는 데 시간이 걸릴 것입니다. 하지만 The Verge과 인터뷰한 전문가들은 결과를 진지하게 받아들일 이유가 있다고 말했으며, 그 결과를 “엄청나다”, “중대한 획기적인 성과” 또는 “중요하다”고 설명했습니다.
"처음에는 몇 명의 저명한 과학자만이 그들을 관찰할 수 있다는 것은 전혀 말이 되지 않는다."
하지만 연구자들의 과학에 대한 흥미는 OpenAI의 행동에 대한 짜증으로 약화되었다. 이는 그들이 "피곤한 AI 생성된 발견들"이라는 표현으로 설명하는 몇 달간의 상황 이후에 나타난 익숙한 감정이었다. 많은 사람들은 더 넓은 공동체가 AI 연구실의 발견들을 철저히 검토하는 어려운 작업을 시작하기를 원했으며, OpenAI가 왜 전문가들을 선별하여 과정을 감독하도록 추가적인 장벽을 만들고 있는지 의문을 제기했다.
대부분의 전문가들은 The Verge과의 인터뷰에서 OpenAI가 외부 연구자들과 협의하는 결정을 환영했지만, 결과를 공개하는 것은 누구나 검토할 수 있도록 제공해야 한다고 주장했습니다. “오늘처럼 문제를 공개하는 것에는 아무런 문제가 없다”고 고등연구소의 연구원인 콘스탄틴 코글러는 말했습니다. 이전에 공개된 수백 개의 결과와 비교해 세 가지 결과만을 공개하는 것은 더 관리하기 쉽다고 생각했습니다. 하지만 OpenAI가 선택한 전문가들만 접근할 수 있도록 제한하는 결정에 대해서는 의문을 제기했습니다. “몇몇 저명한 과학자만이 그 결과를 볼 수 있다는 것은 말이 안 된다”고 그는 말했습니다.
관련
- OpenAI는 수학자들을 계속 채용하고 있습니다
- OpenAI는 다시 실수하지 않기 위한 방법에 대해 엘리트 수학자들의 의견을 구하고 싶어합니다
- 수학자들은 OpenAI가 자신의 연구 결과를 사용하지 않았다는 증거를 원한다
“그들이 그 그룹을 직접 선정하는 것은 재앙적이다”라고 텍사스 대학교 오스틴 캠퍼스의 물리학 교수인 안드레아스 카르흐가 말했다. The Verge“대규모 연구소들은 이미 충분한 역량을 갖고 있습니다. 그들이 승자와 패자를 선정하는 것은 옳지 않습니다.” 카르흐는 처음에 “경쟁 과정을 통해 연구원들을 선정”하는 방식을 제안했지만, 이로 인해 비슷한 그룹이 형성될 가능성이 있다고 인정했습니다. 그는 이를 “최상급”이라고 표현했습니다. 이후 그는 OpenAI가 왜 “지금 당장 증명 자료를 공개할 수 없는지” 의문을 제기했으며, 전문가 팀을 임명하는 것도 궁금해했습니다. “이렇게 하면 접근성을 민주화할 수 있을 것이며, 동시에 결과가 의미 있고 이해하기 쉽도록 하는 데에도 관심이 있다는 것을 보여줄 수 있을 것입니다.”라고 그는 말했습니다.
“제 생각에는 어떤 접근 방식이든 누군가는 불만을 가질 거예요.”
수학 및 인공지능 자문그룹(AGMAI)이 지향하는 바가 바로 이와 같은 검열입니다. AGMAI는 OpenAI의 전문가들로 구성된 그룹으로, 이전에 그룹과 상담할 것을 약속했던 그룹입니다. AGMAI는 발표 일일 전날에 경고를 보냈습니다. “우리는 AI 기업들이 이러한 관행을 채택하지 말 것을 권장합니다”라고 그들은 말했습니다. 특정 사람들에게 결과를 먼저 제공하는 것은 “불필요”이며, 선정된 연구자들의 명성을 빌려주고, 불평등한 접근, 편견 있는 선택, 지연 등의 문제를 초래한다고 주장했습니다. 대신 그들은 AI 연구소가 학술 저장소에 결과를 공개하고, 정형화된 증명과 문제가 어떻게 선택되었는지에 대한 정보를 제공하며, 결과를 이해하기 위해 노력하는 사람들에게 재정 지원 및 기타 지원을 제공할 것을 권장했습니다.
최신 결과가 발표된 후, AGMAI는 OpenAI에게 물리학 분야에서 발표된 결과에 대한 자연어 및 Lean 결과를 “지체 없이 공개”할 것을 촉구했습니다.
“이것들은 물리학의 중심적인 문제이지만, 수학에서도 중요한 문제입니다. 양-밀스 양자 이론의 존재는 밀레니엄 상 문제의 일부이며, 4차원에서 상호작용하는 양자장 이론을 구축하는 것은 수십 년 동안 수학 물리학의 목표였습니다.”
OpenAI가 이 작업을 주도하도록 요청한 과학자들에게 우리는 큰 존경을 가지고 있습니다. 하지만 최근의 발언에서 설명했듯이, 이해는 공개적으로 이루어져야 하며 모든 사람에게 동일한 접근권이 주어져야 합니다. OpenAI는 Lean 형식화가 완료될 때까지 배포를 연기했다고 말했습니다. 그들의 말에 따르면 이제 형식화가 완료되었으므로, 더 이상 배포를 연기할 과학적 이유는 없습니다.
하스ett은 연구 결과를 공개적으로 제공하는 것이 과학의 발전에 도움이 되고, AI와 같은 새로운 도구의 더 넓은 사용을 장려할 수 있다고 말했습니다. “전 세계의 많은 그룹이 이러한 결과를 다루고 있기 때문에, 그러한 도구를 사용하고자 하는 사람들도 신속하게 그 도구들을 받아들일 수 있다”고 그는 말했습니다.
“인간의 참여 없이 기본적인 결과들이 너무 빠르게 해결되고 있어요... 논문들은 읽기와 검증하기가 어렵습니다.”
OpenAI가 연구자들과 소통할 방법을 찾는 것은 점점 불가능해지고 있습니다. 회사는 다양한 접근 방식을 시도하고 있으며, 각 접근 방식에 장단점이 있다는 점을 인정합니다. 스탠포드 수학자인 제러드 두커 리치먼은 “어떤 접근 방식이든 누군가는 불만을 가질 것이라고 생각합니다. 따라서 가장 적게 불쾌한 선택을 찾는 것이 문제입니다.”라고 말했습니다.
조지아 공과대학교의 수학 교수인 샤오유 헤는 이 문제가 오픈AI가 연구 결과를 발표하는 방식을 넘어 더 깊은 것이라고 생각한다. “결과는 매우 인상적이지만,” 그가 말했다, “그들은 결과를 발표하는 방식에 있어 책임감 있고 신중하려고 노력하는 척하면서도 주요 문제를 바꿀 수 없다고 생각합니다. 즉, 인간의 기여 없이 근본적인 문제들이 너무 빠르게 해결되고 있으며, 논문 자체가 읽기와 검증하기 어렵다는 것입니다.”
이 이야기의 주제와 작가들을 따라가세요하여 개인화된 홈페이지 피드에서 이와 유사한 내용을 더 보고 이메일 업데이트를 받으세요.