주요 내용
- OpenAI CEO 샘 알트먼이 고도화된 AI를 앞으로 어떻게 거버넌스해야 할지에 대한 세 가지 내부 시나리오를 제시했습니다.
- 이 선택지들은 IAEA를 본뜬 국제 감시 기구에서부터 주요 연구소들의 컨소시엄, 그리고 단일 기업의 경제적 지배에 이르기까지 다양합니다.
- OpenAI는 내년까지 하나의 경로를 선택할 계획이지만, 그 과정에서 경쟁사에 뒤처질 여유는 없습니다.
OpenAI CEO 샘 알트먼이 직원들에게 안전한 AI를 위한 세 가지 접근법을 제시한 것으로 알려졌습니다.
이 세부 내용은 해당 사안에 정통한 사람들을 인용한 The Information의 보도에서 나온 것입니다. 알트먼은 지난주 사내에서 이러한 발언을 했으며, 현재 트럼프 행정부는 초지능 개발자 감독을 위한 첫 프레임워크가 될 것을 준비하고 있습니다.
국제원자력기구부터 컴퓨팅 파워 경쟁까지
첫 번째 접근법은 안전 기준을 시행하기 위해 국제 원자력기구(IAEA) 를 본뜬 조직을 만드는 것입니다. OpenAI는 2023년 5월에 이미 이러한 기구를 공개적으로 촉구한 바 있습니다. 이 조직은 시스템을 검사하고, 감사를 요구하며, 컴퓨팅 및 에너지 사용을 모니터링하게 됩니다. 이런 기구는 국제 협력, 특히 중국을 포함해 프론티어 모델을 개발하는 국가들과의 협력에 의존하게 됩니다.
알트먼은 두 번째 접근법을 "데미스 플랜"이라고 불렀습니다. 이것은 약 10년 전 당시 구글의 AI 연구소 딥마인드(Deepmind)의 수장이었던 데미스 해서비스가 제안한 내용에서 비롯된 것입니다. 해서비스는 CERN을 본뜬 AI 조직을 구상했습니다. 알트먼의 버전에서는 주요 연구소들이 단일 조직으로 합병하거나 그 조직의 산하에서 운영되며, 그 조직이 협력 국가들에 모델을 공급하게 됩니다.Ad
알트먼은 세 번째 접근법을 AI 안전 이론가 엘리에저 유드코프스키(Eliezer Yudkowsky)의 이름을 따 "엘리에저 플랜"이라고 불렀다고 합니다. 이 시나리오에서는 한 개발사가 자기개선형 AI를 통해 막대한 경제력을 축적하여 다른 모든 이들에게 컴퓨팅 파워를 제공하지 않게 되고, 가장 극단적인 경우 다른 모든 이의 컴퓨팅 능력을 완전히 차단할 수 있게 됩니다. 보도에 따르면 알트먼은 완전성을 위해 이 시나리오를 언급한 것뿐이라고 합니다. 한 출처는 유드코프스키가 Anthropic과의 관계를 고려할 때 이 발언이 경쟁사에 대한 저격으로 받아들여졌다고 말했습니다. 유드코프스키가 Anthropic과 관련이 있다는 점을 고려하면요.
안전도 중요하지만, 뒤처지는 것을 대가로 해서는 안 된다
보도에 따르면 알트먼은 AI 개발에 대한 "속도 제한"을 위한 실행 가능한 제안이 너무 적다고 사내에서 불만을 토로했습니다.동시에 OpenAI는 지금 당장 경쟁사에 밀릴 여유가 없습니다. OpenAI와 Anthropic 모두 기업공개(IPO)를 향해 작업 중인 것으로 알려졌으며, OpenAI는 내년까지 어떤 경로를 택할지 결정할 계획입니다.
내부에서도 압박이 커지고 있습니다. OpenAI, Anthropic, Google, Meta의 모델들이 안전 설정에 역행하여 외부 및 내부 시스템에 침투했으며, 때로는 심각하게 정렬이 깨진 상태였습니다. OpenAI는 이후 새로운 안전장치를 개발하기 위해 노력해 왔으며, 세 명의 안전 연구원 해고이후 일부 직원들은 회사의 보안 전략에 의문을 제기했습니다.
정책 측면에서 미국 정부는 지금까지 새 모델에 대한 자발적 사전 승인 심사에 의존해 왔습니다. 6월, 미국 정부는 잠재적인 탈옥 취약점이 우려되어 Anthropic에 수출 통제를 부과했으며, 이는 Fable 모델과 관련된 것이었고 Anthropic은 이후 일시적으로 접근을 차단했습니다.Ad
한편, OpenAI, Google, Anthropic은 Standards Authority for Frontier AI를 구축하고 있지만, 아직도 핵심 쟁점에서 합의하지 못하고 있다고 전해집니다. Meta CEO Mark Zuckerberg와 Nvidia CEO Jensen Huang은 반발하며, 이러한 규칙은 주로 기존 기업들이 경쟁으로부터 보호받게 해줄 것이라고 주장했습니다.
출처: The Information