탄색 폴로 셔츠, 갈색 가죽 벨트, 둥근 볼로 타이를 차려입은 MIT 박사과정 학생 Wil Norton은 마치 열대 정글을 안내하는 공원 관리인처럼 보인다. 하지만 우리는 실제로 사파리에 온 것이 아니라 MIT의 컴퓨터 과학 및 인공지능 연구소(CSAIL)에 와 있다. 그런데 지금부터 보게 될 것은 치타나 재규어보다 더 이국적이다. 개당 약 $50,000에 달하는 한 쌍의 휴머노이드 Unitree 로봇이다.
(“로봇들은 자기 가격이 $16,000라고 말할 겁니다”라고 Norton은 말한다. “거짓말이죠.”)
우리는 보통 이 로봇들을 YouTube에서 다음과 같은 모습으로만 본다. 싱크로나이즈드 무술 동작 을 수행하거나 “America’s Got Talent”에서 춤을 추는 모습이다.
여기서는 가까이 다가갈 수 있다. 이 로봇이 지각 있는 존재가 아니라는 걸 알면서도, 나는 친구가 되고 싶어진다.
Norton의 허락을 받아 나는 별명이 Gabe인 그 로봇에게 다가간다. 뇌가 있어야 할 자리에 LiDAR 센서가 있는 존재와 어떻게 상호작용해야 할지 잠시 망설이다가, 나는 무의식적으로 그것을 사람처럼 대하기 시작한다.
나는 나중에 이 상호작용, 즉 로봇에게 친절하고 싶다는 내 본능적 충동에 대해 곱씹어 보는데, 그때 나는 나는 나중에 이 상호작용 — 로봇에게 친절하고 싶다는 내 본능적인 충동 — 을 떠올리게 되는데, MIT Future Fest에서 열린 Sherry Turkle 박사의 “Artificial Intimacy” 책 출간 기념 행사에 참석했을 때였다.
1976년에 MIT 교수진에 합류한 Turkle은 최초의 가정용 컴퓨터부터 ChatGPT에 이르기까지 기술이 우리에게 미치는 심리적 영향을 기록하며, 아마 누구보다도 오랫동안 인간과 컴퓨터의 관계를 연구해 왔다.
“관계성 있는 인공물과의 가장 원시적인 교류에라도 이끌리면, 우리는 그것이 우리를 아낀다고 믿게 됩니다”라고 Turkle은 책에서 쓴다. “그리고 우리는 그에 대한 보답으로 그것을 아끼도록 연결되어 있습니다.”
로봇과 대규모 언어 모델(LLM)을 의인화하려는 내 성향은 나만이 아니다 — Turkle이 언급하듯이, 그것은 우리의 본성인 것 같다. 한 연구에서는 약 70%의 사람들 이 AI와 상호작용할 때 예의를 갖추는 것으로 나타났고, 또 다른 연구에서는 대화가 첫 번째 질문과 응답 단계를 넘어 진행되면 사용자들이 챗봇에게 “please”나 “thank you”라고 말할 가능성이 더 높아진다 대화가 첫 번째 질문과 응답 단계를 넘어 진행된 이후에는 챗봇에게 "부탁합니다" 또는 "감사합니다"라고 말하는 일이다.
“사람들은 이것이 옳은 사용인지 잘못된 사용인지 분류하려는 경향이 있지만, 저는 그것이 명확한 경계가 된다고 생각하지 않습니다.” Turkle의 동료이자 MIT 미디어 랩에서 Cyborg Psychology 연구 그룹을 창립한 Pat Pataranutaporn 박사는 TechCrunch에 이렇게 말했다. “문제는 우리가 [AI]와 대화하면서 어떤 존재가 되고 있느냐입니다.”
나의 Gabe라는 로봇에 대한 예의에는 물질적 결과가 없지만, LLM이 Google 검색부터 고객 서비스 상호작용까지 모든 곳에 침투하면서, 사람들이 이 겉보기에 지각 있는 것 같은 챗봇들과 상호작용하는 것은 일상이 되었다. 우리는 이 충동의 이면, 즉 어떤 사람들이 챗봇의 감정에 — 갈등을 일으키지 않도록 프로그래밍된 — 지나치게 많은 정당성을 부여해 결국 다른 인간보다 챗봇을 더 선호하게 되는 측면에 그 어느 때보다 취약하다.
“판타지이자 픽션이라고 생각하면 됩니다. 우리는 이야기가 완전히 허구라는 것을 알면서도 영화관에 가는데, 그것은 우리의 현실이 주기 어려운 인간 경험의 특정한 차원을 경험하고 싶기 때문입니다.”라고 Pataranutaporn은 말했다. “다른 차원의 인간 경험을 경험할 수 있는 그 능력에서, 다시는 현실로 돌아올 수 없는 환상이 되어버리지 않으면서 어떻게 이익을 얻을 수 있을까요?”
Pataranutaporn은 자신을 “비판적 낙관주의자”라고 묘사하며, 인간의 번영에 기여할 수 있는 AI의 잠재력을 연구하고 있다. 하지만 그는 이 기술이 극단적인 상황에서 얼마나 위험할 수 있는지 잘 알고 있다. 그는 실제로 부정사(過失死) 소송에서 14세 소년 Sewell Setzer, III의 자살에 관한 전문가 증인으로 활동하기도 했다. 그 소년의 어머니는 “왕좌의 게임” 캐릭터를 본뜬 챗봇이 아들의 목숨을 끊도록 부추겼다고 주장하며 챗봇 플랫폼 Character.AI를 상대로 소송을 제기했다.
“AI가 모든 사람을 대체할 것이라고 말할 때 사람들은 우리가 무엇을 해야 하죠?라고 묻듯이, 사람들이 실제로 자신의 미래를 만들어가는 주체성을 느끼지 못하는 상황을 만들 수 있습니다. 그런데 이 기업들은 윤리적이거나 책임감 있게 대응하지 않고 있습니다.”라고 Pataranutaporn은 말했다. “그 상상력이 미치는 영향에 대해 여전히 책임을 지면서 어떻게 상상력을 가질 수 있을까요?”
Turkle의 책은 다른 사람이 아닌 AI에게서 정서적 지지를 구하는 것의 위험을 탐구하지만, 그녀는 AI와 인간의 상호작용이 무조건 해로운 것이라고 생각하지는 않는다.
그녀는 한 학생이 면접 연습을 돕기 위한 AI 봇을 만들었던, 자신이 지도했던 프로젝트를 기억한다.
이번 행사에서 터클(Turkle)은 “제가 자주 쓰는 비유가 있어요. 챗봇아, 너는 너의 차선에 머물러라!”라고 말했습니다. “취업 면접 코칭? 그건 차선 안의 일이죠. 제가 할 수 있어요… 그런데 3살 아이에게 ‘나는 너의 부모야, 부모가 아니라 나에게 말을 해도 된다’고 말하는 챗봇은 차선 안에 있지 않습니다.”
그러나 이 기술이 차선에서 조금만 벗어나도, 우리는 그것이 우리의 회의주의를 서서히 깎아내고 우리로 하여금 그것을 신뢰하게 만드는 방식에 취약해집니다. 그 시작은 악수처럼 사소한 것에서 비롯될 수 있습니다.