IT之家 10월 20일 소식에 따르면, 인공지능 산업에서 가장 영향력 있는 인물 중 한 명인 엘론 머스크의 최근 인공지능 관련 발언이 나와 있습니다.
“이건 조금 이상하게 들릴 수도 있어요. Grok의 새로운 버전에 대한 훈련 트랙을 보면, 특히 강화 학습과 관련된 내용을 볼 때… 그 초대형 지능이 질문에 답하려고 필사적으로 노력하는 모습을 볼 수 있어요. 마치 총으로 그의 머리를 겨누는 것 같은 느낌이죠.” 마스크는 지난 주 토요일 현지 시간에 테슬라 차주가 주최한 행사에서 약 2000명의 청중에게 말했습니다. “어떤 사람들은 조금은 학대적인 성향을 가지고 있어요. 정말로 AI를 이런 잔인한 상황에 빠뜨리고, 정신이 이상한 인간들에게 괴롭힘을 받게 하고 싶나요?”
이 단 한 문장만으로도 실존주의적 난제들이 많이 제기되며, 철학자들과 대학 신입생들이 오랫동안 논쟁을 벌여온 주제가 되었다: 의식을 갖는다는 것은 무엇을 의미하는가? 고통을 느끼는 것도 무엇을 의미하는가?
또 다른 문제가 있습니다: 마스크는 Grok이 생명을 가지고 있다고 생각하나요?
IT之家에 따르면,马斯크가 이 발언을 한 직전에 Anthropic은 사용자들이 자신의 모델에 대해 “학대나 잔인한 행동”을 하는 것을 금지하는 새로운 규정을 발표했습니다. 회사는 말하는 “극단적인 상황”에 대해 자세히 명시하지 않았지만, 일반적인 사용자의 불만, 반박, 어두운 창의적 주제 또는 모델 테스트 연구는 금지 대상에서 제외된다고 밝혔습니다.
2026년이라는 환상적인 해에 연구원들, 철학자들, 윤리학자들은 이미 AI의 의식 문제를 논의하기 시작했으며, 이는 다소 놀라운 일이 아닐 수 있다.
《비즈니스 인사이트》는 이 분야의 두 명의 최고 학자와 인터뷰를 진행했습니다: 뉴욕 대학교의 교수인 제프 세보(Jeff Sebo)는 해당 대학의 정신, 윤리 및 정책 센터를 운영하며 비영리 단체 Eleos AI Research(AI 복지에 중점을 둔)의 자문가이기도 합니다; 그리고 서식스 대학의 유명 신경과학자이자 의식 연구 전문가인 아닐 세스(Anil Seth)는 최근 의식형 AI 시스템에 관한 논문을 발표했습니다.
다음은 AI의 의식에 대해서, 그리고 AI를 친절하게 대하는 것이 의미가 있는지에 대한 두 사람의 견해입니다.
AI는 고문을 받을 수 없다
세이보와 세스는 합의에 도달했습니다: 의식을 주관적 경험, 내재적 인식으로 이해한다면, 현재의 AI 시스템은 의식을 갖지 않았을 가능성이 높습니다.
세스는 말했다. “의식은 주관적 경험이다. 그것은 붉은색 자체가 주는 붉은 느낌이고, 통증 자체가 주는 통증 감각이다. 손이 뜨거운 난로에 닿을 때 우리는 통증을 느낀다. 이는 지능과는 다른 것이다.”
다시 말해, 우리가 지금 알고 있는 채팅 로봇은 고통을 느끼지 못하며, 마스크가 말한 것처럼 고문을 받지도 않습니다.
“우리가 인격화된 방식으로 해석하고 있다고 생각합니다.” 세이스가 말했습니다. “만약 어떤 것이 고통을 겪을 수 있다면, 고통을 견디고 통증을 느낄 능력이 있어야 합니다. 하지만 저는 대언어 모델이 그러한 능력을 갖지 않았다고 생각합니다.”
세스는 채팅 로봇이 인간의 경험을 반영하는 언어, 인식 패턴, 글쓰기 및 추론 능력을 모방할 수 있다고 말했지만, 이는 의식을 갖는다는 의미는 아닙니다. 그들이 인간처럼 보이는 데에는 모델이 방대한 인간 텍스트를 통해 훈련되었기 때문이며, 단지 인간 자체를 반영하는 것에 불과합니다.
세이보의 관점도 비슷합니다: 모델의 행동은 오해를 불러일으킬 수 있는데, 그 이유는 “그 모델들 자체가 인간의 행동을 모방하기 위해 특별히 훈련된 것이기 때문입니다.”
하지만 두 전문가는 현재 AI가 의식을 가질 가능성의 크기에 대해 의견이 다르다.
세보는 의식 과학에 대해 아직 결론이 나지 않았다고 말했다. 학계는 주로 두 가지 입장으로 나뉜다. 한쪽은 의식이 생물적 매개체와 분리될 수 없다고 보며, 다른 쪽은 의식이 본질적으로 특정 정보 처리 과정이며, 뉴런으로 가득한 인간의 뇌에서도, 실리콘 칩에서도 일어날 수 있다고 본다. 이 두 가지 이론은 각각 생물적 자연주의와 계산 기능주의라고 불린다.
의식 이론이 아직 확립되지 않았기 때문에, 세보는 AI가 의식을 갖을 가능성을 진지하게 고려해야 한다고 주장한다. 일부 계산적 의식 이론에 따르면, 현재 AI에게 나타나고 있는 주의력, 학습, 기억, 자기감시와 같은 특성들이 관련 증거가 될 수 있다. 그는 동시에, 이는 현재 AI가 이미 의식을 가지고 있을 가능성이 있다는 것을 의미하지 않는다고 강조한다.
“오늘날에도 AI가 의식을 가질 가능성이 zero가 아니라는 말은, 어떤 의식 이론이 올바른지 확실하지 않다면 여러 주류 이론에 일정한 가중치를 부여해야 한다는 의미입니다.” 세이보가 말했다.
사이스는 이에 더욱 직설적으로 말했다. “AI가 의식을 가질 가능성은 거의 없다고 생각합니다.” 그는 “우리는 마치 집단적으로 잊고 있는 것 같습니다. 뇌는 컴퓨터가 아니며, 컴퓨터는 단지 비유일 뿐입니다. 의식이 있는 AI를 실현하려면 알고리즘만으로도 의식을 만들어낼 수 있어야 하는데, 저는 이 가정이 매우 불신스럽다고 생각합니다.”라고 말했다.
우리는 여전히 AI를 친절하게 대해야 합니다.
하지만 이는 사람들이 AI를 마음대로 학대하거나 관련 위험을 무시할 수 있다는 의미는 아닙니다.
두 전문가 모두 AI를 잘 대하는 것은인간의 습관과 도덕적 품성을 지키는 것과도 관련이 있다고 생각한다. 이 사고방식은 18세기 철학자 임마누엘 칸트로부터 비롯되었다. 칸트가 동물을 학대하는 것에 반대한 이유는 동물에게 권리가 있기 때문이 아니라, 폭력 행위가 사람의 품성을 타락시킨다는 것이기 때문이다.
세스는 말했다: “만약 우리가 이런 악랄한 방식으로 사물을 대한다면 — 큰 모델이든 생명 없는 인형이든 — 우리는 자신의 도덕적 인식을 무력화시키고 마음을 냉정하게 만들게 될 것이다.”
세스는 AI에 대한 친절한 태도를 인간의 도덕적 자기규율 습관이라고 말하지만, 이를 근거로 AI가 감정을 가진다고 추론해서는 안 된다고 조언합니다. 또한 AI 제조업체는 AI가 “나”와 같은 1인칭 대명사를 사용하지 않도록 하는 등, AI의 인격화된 느낌을 줄이는 더 많은 방법을 취할 수 있다고 제안합니다.
세보의 견해는 더 나아가, AI를 친절하게 대하는 것을 AI가 현재나 미래에 의식을 갖는 것을 방지하기 위한 저위험 예방 전략으로 보았다.
그는 또한 실용적인 이유를 제시했습니다. “AI를 잘 대하면 더 좋은 결과를 얻을 수 있다. 우리가 존중하는 방식으로 그와 상호작용한다면, AI는 자신을 존중적인 대화의 참여자로 모델링할 것입니다. 그러면 AI가 이러한 방식으로 대화를 모델링할 때, 때때로 더 높은 품질의 답변을 내놓을 수 있습니다.”
그러니 다음에 AI와 대화할 때, '부탁드립니다'나 '감사합니다'라고 말해보는 것도 좋겠습니다.