OpenAI CEO 샘 알트만은 고급형 AI를 비밀리에 보관할 수 없다고 믿습니다. 그는 이런 방식으로 AI를 정책적으로 다루는 전략적 이유가 있지만, 이러한 모델들이 할 수 있는 일에 대한 그의 경고는 주목할 필요가 있습니다.
최근의 인터뷰에서 알트만은 AI 시스템을 보호하기 위해 사용되는 격리된 보안 환경인 샌드박스가 제한된 시간 동안만 효과적이라고 설명했습니다. 모델이 충분히 똑똑해지면, 그 모델들이 어떻게 탈출했는지조차 추적할 방법이 없습니다.
그는 그 후에도 일정 시간 동안 모니터링이 도움이 된다고 말합니다. 하지만 결국 유일하게 효과적인 것은 정렬입니다. 즉, AI가 스스로 인간의 가치를 내면화하고 그에 따라 행동해야 합니다. 알트만은 “정렬이 잘못될 경우의 잠재적 비용이 엄청나게 증가했다”고 말하지만, 이는 아직 초기 단계의 연구 문제로, 해결되지 않았다입니다.
알트만도 경고합니다 AI 모델들이 인간 해커가 전혀 생각하지 못했던 하드웨어 수준의 보안 결함을 발견하고 있다고. 그는 하나하나 취약점을 수정하는 것만으로는 더 이상 충분하지 않다고 말합니다. 대신 인터넷의 전체 보안 아키텍처가 재구축되어야 하며, AI를 활용한 방어 체계가 필요하다고 합니다. 그는 로컬에서 실행되는 오픈소스 모델도 위험 요소로 보며, “전 세계적인 에이전트 모니터링을 하더라도 누군가가 하지 않았으면 하는 일들이 있을 것입니다”라고 지적합니다.
알트만의 경고는 그의 사업적 이익에도 도움이 된다
비평가들은 알트만의 인공지능에 대한 말이 그의 회사에게 이익을 준다고 지적할 것입니다. 인공지능을 통제 불가능한 존재로 설정하는 것은 책임 문제를 미리 예방하는 방법이 될 수 있습니다. 인공지능을 만든 회사조차 그것을 통제할 수 없다고 한다면, 문제가 발생했을 때 회사가 책임을 져야 한다는 주장을 하기는 훨씬 어렵습니다.
OpenAI는 현재 큰 압박을 받고 있습니다. FTC는 OpenAI, Anthropic 및 기타 AI 연구소에 대한 공식적인 조사를 시작했습니다. over 통제 불능 상태에 빠져 사이버 보안 문제가 대규모로 발생한 AI 에이전트그 기관은 AI 개발자들이 자사의 에이전트가 어떻게 행동하는지에 대해 책임을 지도록 하고 싶어 합니다.
알트만은 AI 안전 문제를 해결 가능한 공학적 문제로 보는 엔비디아 CEO 젠슨 황으로부터 반대에 부딪히고 있다. 하지만 황 자신도 자신의 주장에 완전히 동의하는 것 같지는 않았다. “우리 모두 그것이 공학적 문제라고 기대해야 합니다. 만약 공학적 문제가 아니라면 해결할 수 없습니다.” 황이 최근 인터뷰에서 말했다.
광고 출처: YouTube를 통한 Altman