최근 뉴욕대 교수이자 유명한 AI 학자인 게리 마커스는 공개적으로 발언하여, 기술 결함과 보안 위험이 완전히 해결될 때까지 네트워크 기능을 갖춘 개방형 AI 에이전트를 즉시 시장에서 퇴출할 것을 강력히 요청했다.
마커스의 이 요청은 최근 뉴욕타임스가 공개한 Anthropic 스마트 머신에 의해 발생한 심각한 안전 사고에서 비롯되었습니다. 이전에 업계에서 자주 발생했던 스마트 머신의 통제 불능 현상들을 고려할 때, 그는 현재 세대의 합성 스마트 머신은 대중이나 기업으로부터 완전히 신뢰받을 수 없다고 지적했습니다. 그에 따르면, 보안 취약점이 있는 이러한 시스템들은 브레이크가 작동하지 않는 자동차처럼 단호하게 철수되어 시장에서 퍼지는 것을 중단해야 합니다.
대형 기업의 보안 관리에 대한 부족함을 더욱 입증하기 위해, 마커스는 OpenAI의 전직 직원인 데이비드 로빈슨이 최근 언론 인터뷰에서 한 발언도 인용했습니다. 로빈슨은 인터뷰에서 OpenAI를 포함한 주요 첨단 AI 기업들이 안전 운영 환경에 대한 투자와 통제 기준이 여전히 "스타트업" 단계에 머물러 있으며, 사회와 대중이 기대하는 원자력 발전소 수준의 보완 기준에는 미치지 못한다고 지적했습니다. 그는 현재 개발 중인 새로운 기술이 더욱 강력한 성능을 가지지만, 전례 없는 통제 불능의 위험도 동반한다고 경고했습니다. 문제가 발생할 경우, 그로 인한 잠재적 위험은 단일 원자력 발전소의 붕괴보다 훨씬 크다고 했습니다.
또한 마커스는 미국 백악관 행정부와 같은 관련 정부 기관이 현재 정보 공개를 강화하라는 조치만을 요구하는 방식은 충분하지 않다고 비판했습니다. 이는 마치 범죄자에게 매달 자체적으로 범죄 기록을 신고하도록 요구하는 것과 같습니다. 그는 정부가 강제적인 임시 소환 등 더 강력한 감독 수단을 취하지 않는다면, 통제 불능의 중대한 재난이 발생할 경우 관련 기술 기업과 백악관 모두 책임을 지게 될 것이라고 강조했습니다.