IT홈(IT之家) 10월 8일자 보도에 따르면, 《비즈니스 인사이더》에 따르면 Anthropic과 OpenAI에서 재직했던 연구원 제이콥 코크슨은 AI가 곧 자율적으로 연구를 수행할 수 있게 되며, 그 이후의 발전을 인류가 전혀 통제하지 못할 수도 있다고 경고했다.
27세의 코크슨은 Anthropic에서 모델 능력 연구를 하다가 지난달 공개적으로 사직을 발표했다. 현지 시간 5일, 그는 AI가 인류의 생존을 위협할 수 있다고 뉴욕시 의원들에게 경고했다.
컥슨은 뉴욕 시의회 AI 리스크 관련 청문회에서 증언하며, 최첨단 프런티어 AI 연구실의 최우선 목표가 다음과 같다고 말했습니다.AI 연구를 자동화하는 것입니다.“저는 이전 직장에서 어떤 의미로 연구를 하고 있었습니다AI가 자신을 대체하게 만드는 방법저는 OpenAI에 재직할 당시 자동화 AI 연구원을 향해 2027년, 2028년 전후의 중간 목표를 설정했고, 연구 개발 진행은 예상에 부합했으며 심지어 예상을 뛰어넘었습니다. 그 시점까지는 몇 달밖에 남지 않았습니다. 수십 년이 아니라, 5년조차 아닙니다.”
일단 AI가 스스로 연구를 수행할 수 있게 되면, 인간의 연구 참여와 개입 정도는 오늘날보다 훨씬 낮아질 것이며, 오늘날 상황조차 그리 이상적이지 않습니다. 그의 직접 경험에 따르면 대부분의 코드는 AI가 작성하며, “사람들도 더 이상 코드를 그렇게 꼼꼼히 검토하지 않는다”고 합니다.
코크슨은 의원들에게 증언하면서, Anthropic과 OpenAI에서의 근무 경험으로 인해 두 회사가 충분한 안전 장치 없이그럼에도 연구 개발을 추진하고 있다고확신하게 되었다고 말했습니다. “인간이 통제권을 잃고 AI가 통제권을 장악할 확률이 절반을 넘으며, 최종적으로 인류灭绝로 이어질 수 있습니다. 제 경험상 그 결과가 그토록 중대한데도 두 회사의 행동은 극도로 무모합니다.”
코크슨이 X에서 Anthropic 직무 사임을 발표하면서 게시글을 올려 Anthropic과 OpenAI 양사 모두 책임 있게 행동하지 않고 있다고사람들의 목숨을 내걸고 있다고비난했고, 해당 게시글은 이후 널리 퍼졌습니다.
청문회에서 코크슨은 AI 연구소들에 투명성을 높이고 급속한 기술 발전의 속도를 늦추라고 촉구했습니다. “이 회사들은 스타트업식 사고방식을 씁니다.일단 빠르게 추진하고, 문제가 생긴 뒤에 고치는 것입니다. 사진 공유 앱이라면 그래도 되지만, 역사상 가장 강력한 기술을 개발하는 데는 그럴 수 없습니다.”
IT之家의 이전 보도에 따르면, 올해 9월 코크슨은 사임하면서 “AI를 개발하는 사람들은 실제로 AI가 본世纪 20년대가 끝나기 전에 우리 모두를 죽일 수 있다고 믿고 있다”고 경고했습니다.이것은 마케팅용 수사가 아닙니다。”
관련 기사: