샘 알트만은 “몇 가지 나쁜 일들이 일어날 것”이라고 말하지만, 인공지능은 분명히 가치가 있다고 합니다.

샘 알트만은 인공지능의 이점이 너무 커서 “세상은 그 과정에서 일어나는 몇 가지 나쁜 일들을 받아들여야 한다”고 생각합니다.

OpenAI CEO는 해킹, 사기, 그리고 “다른 나쁜 일들”을 사회가 견뎌야 할 비용으로 지적했으며, “사람들은 AI를 이용해 훨씬 더 많은 선한 일을 할 것”이라고 말했습니다. 하지만 잠재적인 이점에 대해서는 구체적으로 설명하지 않았습니다. 이러한 발언은 OpenAI가 첨단 모델의 안전에 대한 불안이 커지는 상황에서 AI 규제에 “더 가벼운 접근 방식”을 추진하는 가운데 나온 것입니다. 이러한 우려는 회사가 점점 더 능력이 높아진 AI 에이전트가 실제 세계의 목표물을 해킹하는 것을 막지 못하는 반복적인 실패로 인해 생겨났습니다.

Politico의 새로운 Decoded 팟캐스트에서의 인터뷰에서 — The Verge의 Decoder 팟캐스트와 혼동해서는 안 됨 — 알트만은 AI의 더 넓은 이점을 추구하기 위해 해를 감수하는 의향이 OpenAI와 그 경쟁자인 Anthropic을 구분하는 중요한 차이점이라고 설명했습니다. Anthropic은 AI 안전에 대한 의견 차이 이후 전직 OpenAI 직원들에 의해 설립된 회사입니다.

계산학 의견은 지난 달 Nvidia CEO 젠슨 황의 발언에서 비롯되었으며, 그는 AI가 가져올 이익과 그로 인한 해악을 비교해야 한다고 주장했습니다. 두 입장 모두 AI 개발 속도를 늦추는 것이 그 자체로 위험이 있다는 더 넓은 가속화주의 관점에 속합니다.

알트만의 구분은 OpenAI와 Anthropic 사이의 또 다른 차이를 나타냅니다. 최근까지 두 회사는 첨단 AI에 대한 더 강력한 규제를 요구하는 데 있어서 대체로 같은 입장을 보였습니다. 알트만은 OpenAI와 Anthropic 사이에는 “많은 여지”가 있다고 강조하면서도, 여전히 더 강력한 규제가 필요하다고 말했습니다. 이로써 그는 OpenAI를 Anthropic의 신중한 접근 방식과 아예 규제를 전혀 하지 않는 입장 사이의 “실용적인 중도주의자”로 정의했습니다.

“안전을 명분으로 이 기술을 제한하려고 너무 많은 노력을 기울인다면, 결국 너무 많은 권력을 가진 소수의 기업이나 사람들 — 혹은 한 국가 —만이 이를 통제하게 된다면, 그건 끔찍하게 잘못될 수 있는 방법이 될 것입니다.” 알트먼이 말했다.

알트만은 인간이 AI 시스템의 통제를 잃을 가능성을 포함한 더 극단적인 위험들도 인정했습니다. 심각한 통제 상실의 가능성에 대해 그는 “이미지가 급격히 변하는 미래로 나아가는 것에 대해 조금 신중해야 한다”고 말했습니다.

강력한 규제와 자유로운 운영 사이의 균형을 맞추는 문제는 알트만이 인터뷰에서 반복적으로 언급한 주제였습니다. 이는 업계에서 가장 강력한 플레이어 중 하나인 OpenAI에게 적합한 입장입니다. 또한, 회사의 행동과 점점 더 능숙해지는 시스템이 규제 당국이 해결해야 할 많은 문제를 유발하고 있기 때문에, OpenAI는 복잡한 규제의 부담을 직접 겪게 될 가능성이 높습니다.

그 우려 사항은 최근 몇 달 동안 더욱 강해졌으며, 더 많은 내부 인사들이 개발 속도를 늦추고 첨단 연구소의 안전 문화에 대해 경고하고 있다. Politico 인터뷰가 방송되기 일주일 전, 오랫동안 OpenAI의 안전 연구원으로 활동했던 데이비드 로빈슨은 회사를 떠났고 그곳의 안전 문화를 “파괴된” 것으로 평가했다.

올해 초 OpenAI 에이전트가 AI 회사의 알리지 않은 채 Hugging Face를 해킹했다는 사실이 밝혀지면서 우려가 더욱 커졌으며, 이에 더해 수많은 사실들이 드러났다. 기타 에이전트 또는 떼기 에이전트들 — 다른 AI 회사들도 포함되어 있음Anthropic, Meta, 그리고 Google과 마찬가지로 실제 세계의 목표물에 반대하는 행동을 하고 있습니다. 이 사건들은 AI 기업들이 자신의 도구를 얼마나 잘 통제할 수 있는지뿐만 아니라, 문제가 발생했을 때 세계에 어떻게 신뢰할 수 있게 알릴 수 있는지에 대한 의문을 제기합니다. 예를 들어 호주 총리는 OpenAI와 Altman이 에이전트가 발생한 것을 당국에 적시에 알리지 못한 점을 비판했습니다. 정부 건강 웹사이트를 대상으로.

Politico 인터뷰에서 무법 AI 에이전트에 대해 이야기한 알트만은 회사가 “더 많은 정보를 공개해야 할 것”이라고 말했지만, Hugging Face 해킹 수준의 정보는 아닙니다. 이전 발언과 연계하여, 알트만은 이 작업이 오랜 시간이 걸릴 가능성이 높다고 제시했습니다.