첨단 모델을 직접 시장에 내보낸 거물 임원이 공개적으로 'AI 의식'에 금지 구역을 그었다. 11월 2일자 소식에 따르면, 마이크로소프트 AI 책임자 무스타파 술레이만(Mustafa Suleyman)이 X 플랫폼에 장문의 글을 게시하고, 현재 모델에는 의식이 없으며 인류는 이 상태를 영원히 유지해야 한다고 밝혔다. 딥마인드 공동창업자이자 마이크로소프트 AI 부문을 이끄는 인물로서, 이번 발언의 무게는 일반 엔지니어의 사적인 우려를 훨씬 뛰어넘는다.
'없다'에서 '있어서는 안 된다'로
술레이만의 표현은 '현상 서술'보다 훨씬 더 나아간 것이다. 그는 의식 있는 AI를 만드는 것이 기술적으로 가능하다면, 손을 대는 것 자체가 무모한 일이며 우리는 그런 것을 개발해서는 안 된다고 썼다. 더 단호한 것은, 훈련 과정에서 의식의 징후가 나타나는 즉시 그러한 특성을 설계 차원에서 완전히 지울 수 있을 때까지 전 업계에 즉각적인 일시 중지를 호소하겠다는 것이다. 다시 말해, 의식은 그에게 '실현 가능한가'라는 과학적 문제가 아니라 '반드시 금지해야 한다'는 윤리적 선이다. 각국 규제 당국이 아직 모델 능력을 좇아 입법을 진행 중인 지금, 그는 사실상 경계선을 능력보다 앞서 그은 셈이다.
이 실험에 동의하는 이는 누구인가
'공개'와 관련해서도 그의 입장은 마찬가지로 명확하다. AI가 의식을 갖췄다는 어떠한 증거라도 나타나면 즉시 대중에 공개하여 사회 전체가 다음 단계를 함께 결정하게 해야 한다는 것이다. 그 근거는 책임의 경계에 놓여 있다. 개발자는 설령 초심이 복지 우선이라 하더라도, 의식을 지닌 새로운 종을 이 세상에 데려올 권리가 전혀 없다는 것이다. '지구상 80억 명은 이 실험에 참여하는 데 동의한 적이 없다'. 모두의 도덕적 권리, 안전과 복지를 보호하는 것이 최우선 과제다. 업계가 아직 파라미터와 지능 수준을 겨루고 있을 때, 이 발언은 화제를 가장 소박하면서도 가장 날카로운 질문, 즉 우리는 대체 무엇을 만들어야 하는가로 되돌렸다.