IT지가 10월 27일 소식, 차오신문 10월 26일 보도에 따르면, 필즈상 수상자이자 시카고대학교 수학과 교수인 덩위(邓煜)는 지난주말 열린 '즈스펀자(知识分子)' '싸이셴셩(赛先生)' 포럼에서 기조연설을 발표하며 AI 시대 수학 연구에 대한 그의 생각을 체계적으로 설명했다.
덩위는 AI가 인간에 비해 갖는优势로 한편은 AI가 무한한 지식 폭을 가지고 있다는 점, 다른 한편은 AI가 극히 낮은 시도 비용 / 시행착오 비용을 가지고 있다는 점을 들었다. 그러나 우리는 한 가지를 견지해야 하는데, 수학 연구에서든 무슨 일이든,인간이 언제나 주체로서 존재하며AI는 하나의 도구로서, 우리 인간이 연구에 활용하는 도구라고 했다.
덩위는 AI를 연구자로 삼는다면 학술 규범을 준수해야 한다고 보았다. 만약 AI가 매우 중대한 문제를 증명했다면, 매우 합리적인 요구는AI의 사고연쇄를 공개하는 것이다. 그러나 AI 기업이 공개를 거부하는 것은 명백히 학계의 관례에 부합하지 않는다. "이 AI 기업은 그렇게 하기를 원하지 않는다. 그들이 공개한 모든 증명 중에서 극소수만이 실제로 사고연쇄를 공개했으며, 대부분의 경우 그들은이른바 증류 방지를 구실로 삼아사고연쇄와 관련 정보의 공개를 거부하고 있다."
덩위는 AI 기업에게 있어,네가 인류 전체의 인터넷 문헌, 인류 전체의 지식을 증류할 때만큼은 활짝 대놓고 증류할 수 없다고 말했다. 사실 아무도 너를 증류하려 하지 않고 모두 그저 사고연쇄를 이해하고 싶어 할 뿐인데, 너는 남이 너를 증류하려 한다고 생각하고는 이건 안 된다 저건 안 된다고 말하기 시작한다.
덩위는 오픈소스 수학 모델을 통해수학계가 자신들만의 모델을 자기 손에 쥐고 있도록 보장하여이러한 AI 기업에 의존할 필요가 없게 하자고 제안했다. 다음으로, 모델의 사용 역시 데이터 사용, 사고연쇄의 공개, 추적 가능성 등을 포함하여 학계 규범을 따라야 한다.
IT지가 주목한 바에 따르면, 현지 시간 9월 11일, 타오(陶哲轩), 덩위(邓煜), 페터 숄체(Peter Scholze) 등 25명의 필즈상 수상자가 최초 서명자로서 공동 성명서 《수학에서 AI의 심각한 부조화》(A Severe Misalignment of AI in Mathematics)를 발표하며 AI 기업과 수학 공동체 사이에 '심각한 부조화'가 나타나고 있다고 경고했다.
성명서는 지난 몇 달 동안 대규모 언어 모델의 수학 능력이 현저히 향상되어 수학 분야의 여러 중대한 미해결 문제를 해결할 수 있게 되었다고 밝혔다. 그러나 AI 기업이 수학 문제를 벤치마크로 해결하려는 추진은 수학 과학과 수학계 모두에 해롭다.AI 기업의 목표는 수학계의 목표와 심각하게 부조화되어 있으며, 이는 다른 과학과 창의적 직업, 나아가 전체 사회에 영향을 미치는 더 광범위한 정렬 문제의 일부이다.
성명서는 이러한 AI 솔루션들이 종종 서둘러 공개되어 정식으로 저술할 시간이 없었고, 새로운 방법과 새로운 아이디어를 분리하거나 타인의 관련 연구를 인용할 시간도 없었다고 언급했다. 모든 창의적 직업과 마찬가지로 이는심각한 저자 표기와 표절 문제를 야기했다. 또한 AI가 구상한 아이디어는 그 발전과 수학의 정전 편입을 책임질 의향이 있는 수학가가 없으면 결코 완전히 실현될 수 없으며, 수학가들 사이의 핵심적인 인간 전달 사슬도 상실될 것이다.