사이버네틱스의 시조인 노르베르트 비너는 한때 이렇게 말했습니다. “각 시대의 사고는 그 시대의 기술에 반영된다.” 지난 한 세기 동안 우리의 사고는 컴퓨터에 반영되었으며, 인공지능 산업도 포함됩니다. 구글의 데미스 하사비스는 뇌를 “튜링 머신에 대한 생물학적 근사”라고 말합니다. 엘론 머스크는 더 직설적으로 “사람들은 뇌를 생물학적 컴퓨터로 생각해야 한다”고 선언합니다. (머스크의 뇌는 종종 나를 걱정시킵니다.)
하지만 인간은 컴퓨터와의 간단한 비교로는 우리가 얻을 수 있는 것보다 훨씬 더 복잡하며, 대부분의 AI 산업이 인정하는 것보다도 더 많습니다. 그리고 그들의 제품이 문화 속으로 점점 더 깊숙이 들어가면서, 이것이 바로 그들이 이렇게 혼란스러운 상황을 만드는 이유를 설명해줍니다. 알고리즘은 마치 핫도그와 같은 존재입니다. 순간적으로 우리를 매혹시키지만, 수천 년에 걸쳐 진화해온 인지 시스템의 건강과 지속 가능성을 해칩니다.
문제를 이해하려면 약간의 신경과학 지식과 인류 진화의 전체 역사를 알아야 합니다.
뇌가 컴퓨터와 같다고 생각하는 개념은 앨런 튜링으로 거슬러 올라간다. 이는 사고를 세 단계의 과정으로 보며, 기능적으로 알고리즘과 같다고 제시한다: 우리의 정신은 세계로부터 정보를 받아들인다 (입력), 그 정보를 어떤 방식으로 조작한다 (계산), 그리고 그 다음 행동을 수행한다 (출력). 인지는 행동으로 이어지며, 이는 다시 행동으로 이어진다. 조금 더 세부적인 표현으로는 다음과 같은 차트와 비슷하다:
많은 면에서 이 모델은 생산적인 역할을 해왔습니다. 우리의 뇌를 컴퓨터로 상상하는 기술자들은 단순한 덧셈 기계에서 인공 신경망과 생성형 AI에 이르는 실제 컴퓨팅 기술을 발전시켜, 우리 자신의 마음을 더욱 세밀하게 반영하는 시스템을 추구해왔습니다.
하지만 이 거울의 이미지는 정확하지는 않지만 왜곡되고 제한적입니다. 컴퓨터와 컴퓨터 과학의 발전에 중요한 역할을 한 존 폰 노이만은 회의적이었습니다— 계산 모델이 “인간 신경계의 특별한 복잡성”을 포착할 수 있을지 의문이었습니다. 즉, 우리의 신경계는 우리가 “세상”이라고 부르는 거대한 생태계를 탐색하는 데 도움을 주도록 진화했습니다. 그리고 우리는 그 세상을 통제하기 위해 행동합니다(가능한 한 최선을 다해).
계산적 접근법은 우리의 정신의 최종 결과물을 살펴보고 그 작동 방식을 “역방향 엔지니어링”하려고 합니다. 하지만 역으로 돌아가는 대신, 수백만 년에 걸친 뇌와 신경계 발달의 긴 진화적 역사를 검토하여 모델을 구축할 수도 있습니다. 이는 몬트리올 대학교의 신경과학자인 폴 시세크가 선호하는 접근법입니다. 그는 수백만 년에 걸친 뇌와 신경계 발달의 생물학적 모델을 인내심 있게 개발해왔습니다.
시세크는 우리의 뇌가 정보 처리기보다는 피드백-통제 시스템으로 더 잘 이해될 수 있다고 주장한다. 우리의 몸은 단순히 입력을 받는 것이 아니라, 사용 가능한 옵션에 따라 그 입력이 어떻게 조정되는지에 따라 행동을 취한다. 시세크가 빠르게 지적하듯이, 이는 새로운 아이디어가 아니다. 20세기 초에 철학자 존 듀이는 마음을 회로로 설명했는데, “반사보다 유기적인 것이라 할 수 있다. 왜냐하면 동작 반응이 자극을 결정하고, 감각 자극이 움직임을 결정하는 것과 마찬가지로 말이다.”
두 접근 방식의 차이점은 정확히 무엇인가요?
여기서는 야구의 전형적인 예시가 있습니다: 외야에서 플라이볼을 잡는 것입니다. 계산 모델에 따르면, 이 문제를 해결하기 위해서는 복잡하고 무의식적인 정신적 계산이 필요합니다. 외야수는 볼의 속도를 추정하고 중력의 영향을 계산하며, 볼이 어디로 갈지 “계산”하기 위해 수많은 수학적 절차를 거칩니다.
관련
반면에 피드백-통제 접근법은 간단한 지식 전략을 제시합니다 — 기본적으로는 “시각 영역 내에서 공을 같은 위치에 유지하고, 그 상태를 유지하기 위해 움직인다”는 것입니다. 우리는 받는 자극을 조정하기 위해 행동을 취합니다.
이는 센터 필드에서 플레이한 사람들의 경험에 더욱 부합하는 것이며, 정신적 과정과 물리적 움직임을 분리하지 않고, 계산 모델이 요구하는 복잡한 계산도 피합니다. 인간은 그보다 더 역동적입니다. .
이 접근법은 시간이 지나면서 진화해온 뇌의 생물학적 구조와도 잘 맞아떨어집니다. 고대 물고기에서 양서류, 포유류, 영장류, 그리고 최종적으로 현생인류까지, 우리는 새로운 환경적 가능성에 대응하여 새로운 행동들이 나타난다는 것을 관찰합니다. 예를 들어, 공룡이 멸종했을 때, 이는 야간에 활동하는 생물들이 낮 시간에도 먹히는 위험을 줄여서 세계를 더 자유롭게 돌아다닐 수 있게 되어 다양한 새로운 능력이 생겨나게 되었습니다. Cisek의 관찰에 따르면, 우리 신경계의 역사는 “계속해서 통제권을 세계로 더욱 확장해 나가는” 과정입니다. (그의 다음 책에서는 이 모든 내용을 더 자세히 다룰 예정이며, 이 글이 그가 책을 완성하도록 작은 압력을 가하는 데 도움이 되기를 바랍니다.)
이는 위의 다이어그램과는 매우 다른 대체적인 다이어그램으로 이어집니다. 우리는 시간이 지남에 따라 나타난 행동과 능력의 지도를 모두 제시할 수 있습니다. 그리고 우리는 뇌의 구체적인 물리적 구성 요소를 이러한 기능들 위에 겹쳐서 표시할 수 있습니다.
계산 모델과 같이 왼쪽에서 오른쪽으로 이동하는 대신, 이 모델은 진화하는 시간 동안 위에서 아래로 펼쳐지는 것으로 볼 수 있어야 합니다. 예를 들어, 오래전에 척추동물들이 더 많은 이동 능력을 갖게 되면서, 지형 표지나 밤에 이동하기 위한 전문적인 시스템이 유용해졌습니다. 이로 인해 우리가 지금 '해마'라고 부르는 구조가 발달하게 되었습니다. 중요한 점은, 이로 인해 우리 조상들도 한 곳에서 다른 곳으로 뛰어다니는 중요한 순간들을 기억하게 되었으며, 그 결과 과거 경험에 대한 “단편적 기억”이 발달했다는 것입니다.
마음의 계산 모델로는 이와 같은 일을 전혀 할 수 없습니다. 그것은 관찰 가능한 신경과학 구조와는 전혀 맞지 않습니다. 게다가, 뇌가 하는 많은 일이 환경 내에서 생명체의 상호작용을 조절하는 것임을 숨겨버립니다. 따라서 시세크는 우리의 뇌와 행동 사이의 관계를 이해하는 방식을 급격히 바꿔야 한다고 제안합니다. 알고리즘 기반의 입출력 방식에서 벗어나 더 동적인 피드백 시스템으로 나아가야 합니다.
지금까지 인류 발전에 관한 우리의 이야기는 대체로 물리적 세계로부터 얻는 피드백에 초점을 맞추어 왔습니다. 하지만 인류에게 가장 중요한 “피드백 루프” 중 하나는 우리의 심오한 사회적 성향에서 비롯됩니다. 컴퓨터 모델도 이를 제대로 반영하지 못하고 있으며, AI 산업도 마찬가지입니다. 우리는 수천 년 동안 서로 학습하고 소통하기 위한 기관과 규범을 만들어왔지만, 불과 십년도 채 되지 않는 시간 안에 빅테크 기업들이 그것들을 체계적으로 파괴해 왔습니다.
어떻게요? 다시 말하자면, 역사적 맥락이 필요합니다.
수십만 년 전의 어느 시점에, 우리의 먼 조상들은 놀라운 일을 했습니다. 그들은 서로의 행동을 모방하는 법을 배웠습니다. 몸짓과 움직임을 모방함으로써, 돌 도구를 부수는 등 성공적인 기술들을 전달할 수 있었으며, 공유된 의식적 행동을 통해 더 복잡한 활동도 조율할 수 있었습니다. 이는 우리의 인지 능력을 형성하는 데 영향을 미쳤습니다. 이것이 바로 인간 문화의 시작이었습니다.
우리는 수천 년 동안 서로로부터 배우고 소통하기 위한 제도와 규범을 만들어왔습니다. 그리고 빅테크 기업들은 이러한 제도와 규범을 파괴하기 위해 체계적으로 노력하고 있습니다.
인간은 곧 소리를 모방하고, 그 결과 말을 사용하는 능력을 갖게 되었다. 우리가 이전에 다룬 바와 같이, 언어는 사고와 같은 것이 아니지만, 우리는 서로의 생각을 소통할 수 있게 해준다. 어느 시점에서 우리의 방랑하는 사냥꾼-채집인 조상들도 비정적인 공동체에 정착하기 시작했으며, 음식을 찾아서 이동하는 대신 식량을 재배할 수 있는 복잡한 농업 방식을 발전시켰다.
마침내 우리는 쓰여진 표시를 사용하여 우리의 구어적 언어와 다른 추상적인 개념을 나타내기 시작했습니다. 우리는 복잡한 개념을 세대를 거쳐 전달할 수 있게 되었습니다. 지식이 인류 집단 간에 공유되는 과정인 형식적 교육은 얼마 지나지 않아 등장했습니다. 또한 “시장”, “법”, “민주주의”와 같은 인간의 의사결정을 집단화하는 관행과 제도도 시간이 지나면서 나타났습니다.
제가 방금 한 모든 주장은 논란의 여지가 있으며, 여기서 제가 제공할 수 있는 것보다 훨씬 더 많은 세부 정보가 필요합니다. 하지만 이 과정은 우리의 생물학적 진화와 연속적으로 일어나는데, 이는 우리 주변 세계에 대한 통제권이 점점 더 넓어진다는 의미입니다.
그리고 때로는 이러한 문화적 변화가 원치 않는 결과를 초래하여 도움이 되기보다는 해를 끼칩니다.
인간의 식단은 아마도 가장 명백한 예시일 것입니다. 수렵과 채집 생활 시절에는 지방이 많은 음식이 드물었지만 생존에 필수적인 귀중품이었습니다 — 그저 지켜보기만 하면 됩니다. 혼자 만약 이에 의문이 있다면 — 우리는 그런 것들을 찾아서 몸속에 저장하도록 진화했습니다. 그러나 문화적으로 농업과 다른 농업 기술이 발전하면서, 약 10,000년 정도의 시간이 지나면서 오늘날에는 지방이 많은 음식들이 넘쳐납니다. 핫도그를 원한다면 충분히 구할 수 있습니다.
AI는 우리가 세계를 헤쳐나가기 위해 필요한 지식을 개발하는 능력을 방해한다
그게 바로 문제입니다. 핫도그는 우리의 신체에 위험을 초래합니다. 과도한 지방으로 동맥을 막아서 우리가 더 이상 저장할 필요가 없는 것들을 내부에 보관하게 만듭니다. AI도 우리의 인지 능력에 유사한 위험을 제시합니다. 세계를 헤쳐나가는 데 필요한 지식을 개발하는 능력을 막아버리기 때문입니다. 이것은 인지적인 핫도그입니다.
가끔 먹는 핫도그는 누구에게도 해롭지 않지만, 점심이나 저녁 식사로 정기적으로 먹으면 분명히 해로울 것입니다. 인공지능의 경우도 마찬가지입니다. 해로운 것은 가끔 사용하는 것에서 오는 것이 아니라, 그것을 우리의 정신적 식단의 일부로 만드는 것에서 옵니다.
그러나 바로 그게 빅테크 하이퍼스케일러들이 하고자 하는 일입니다.
2025년 7월에 방송된 “AI가 교육을 어떻게 변화시키는지”에 관한 팟캐스트에서 OpenAI의 교육 담당 부사장인 레아 벨스키는 자랑하며 “학습자들이 ChatGPT의 월평균 9억 명의 사용자 중 절반 이상을 차지한다”고 말했습니다. 그녀는 이 서비스가 “세계 최대의 학습 플랫폼”이라고 했습니다. 최근에는 Anthropic이 “Claude for Teachers”이라는 새로운 프로그램을 발표했는데, 이를 통해 교실에서 일하는 교육자들이 프리미엄 모델에 무료로 접근할 수 있게 됩니다.
이러한 노력은 학생들에게도 교사들에게도 이익이 되지 않을 것입니다. 사실, 이것은 우리가 인지를 발전시키는 데 의존하는 시스템을 AI가 어떻게 약화시키는지 보여주는 가장 명백한 예시입니다.
프랑수아 쇼레는 과거 구글의 소프트웨어 엔지니어였으며, 기억에 남을 만한 인물입니다. 설명되었다 “인지 자동화”의 도구로서의 AI는, 그가 정의한 바에 따르면 “인간의 추상적 개념을 소프트웨어에 인코딩한 다음, 그 소프트웨어를 사용하여 인간이 일반적으로 수행하는 작업을 자동화하는 것”입니다. 지난해, 학자들로 구성된 학제간 연구팀이... 논쟁했다 우리가 생성형 AI를 대규모 언어 모델의 형태로 보아야 한다고 설득력 있게 말해야 합니다. 즉 “주로 지능적인 에이전트로서가 아니라 새로운 종류의” 문화 및 사회 기술“인간들이 다른 사람들이 축적한 정보을 활용할 수 있도록 해준다” (강조 표시 생략).
AI 열성가들은 이의 장점에 대해 수많은 예측을 해왔으며, 단점은 컴퓨터, 계산기, 심지어 글쓰기와 같은 이전 형태의 자동화와 비슷하다고 대체로 무시해왔다. (플라토가 글쓰기에 반대했다는 주장에 대한 인용문이 너무 많이 들어서 나는 별도의 글에서 이에 대해 다루었다 — 그는 작가였다!)
이전에는 인간의 사고를 대체하도록 명시적으로 설계된 것을 개발하고 광범위하게 배포한 적이 없었습니다.
이전 기술들의 효과가 어떠하든, 인류의 사고를 대체하도록 명시적으로 설계된 것을 우리가 개발하고 널리 배포한 적은 전에 없었습니다 — 이것이 바로 AI 옹호자들도 주장하는 바입니다.
교육에 대해 보면, ChatGPT는 세계 최대의 학습 플랫폼일 수 있지만, 학생들은 이를 대거 활용하고 있습니다. 피하기 그들의 지속 가능한 지식을 구축하는 데 필요한 노력적인 사고. 증거 계속됩니다 to mount 증명하기 the 부정적 영향 의 AI 교육 환경 내의 도구들 (그리고 젊은 세대 일반적으로) 싫어해). 최근 연구 중국에서 보고된 바에 따르면, 수천 명의 학생들이 AI를 사용하기 시작하자 사실상 숙제를 하지 않게 되었다(이는 그들의 학습에 심각한 손상을 주었다). 심지어 증거 학생들이 학습 목적으로 대규모 언어 모델을 사용할 때, 다른 상황에서 판단과 비판적 사고를 쉽게 할 수 있는 습관이 생긴다.
다른 종의 뇌와 몸이 우리의 경우처럼 긴 시간 동안 발달하는 경우는 없으며, 역사적으로 우리는 지식을 한 세대에서 다음 세대로 전달하는 독특한 문화 기관들을 갖추고 있습니다. 우리는 이러한 인간만의 특별한 노력을 열심히 보호해야 하지만, 대학과 학교 관리자들뿐만 아니라 빅테크 기업들도 AI를 가능한 한 깊고 빠르게 우리의 교육 시스템에 도입하려는 노력을 하고 있습니다.
만약 우리가 단지 마음을 컴퓨터로 보면, 인공지능은 학습에 유리해 보일 수 있다 — 그래서 많은 사람들이 인공지능 튜터를 만드는 꿈을 꾼다. 하지만 이미 그러한 노력이 이루어지고 있다. 실패왜냐하면 우리의 마음은 단순한 입출력 장치가 아니기 때문입니다. 그것은 실제로 존재하는 것이며, 더 정확히 말하자면 우리 더 넓은 인지 생태계 내에서, 우리는 자신의 인지 에너지를 어떻게 사용할지에 대한 선택을 해야 합니다. 우리는 이를 통해 우리의 세계에 대한 행동력과 통제력을 확대합니다. 비록 그 통제력이 제한적일지라도 말입니다.
만약 우리가 단지 마음을 컴퓨터로만 보는다면, 인공지능은 학습에 유리해 보일 수 있습니다 — 하지만 이 모델은 잘못된 것입니다.
하지만 이는 도전입니다. 노력적인 사고는 어렵고, 기술적 대안이 제공된다면 우리는 그것을 선택할 것입니다 — 일부 연구자들이 최근에 ‘인지적 위임’이라고 불렀습니다. 인지적 위임이 확산되면, 그들은 “자율적인 추론을 지원하는 사회적 환경이 약화될 수 있다”고 경고합니다 — 그리고 그렇게 되면 이러한 위임은 “더욱 쉽고 매력적으로 변한다”고 합니다.
연구자들은 AI로부터 인지적 면역화 프로그램을 권장합니다. 이는 인간의 인지 능력을 활성화시키는 실천 방식과 기관들을 유지하는 것을 의미하며, 즉 도움 없이 문제를 해결하고, 검증하고, 비판적인 논의를 하고, 의도적으로 무관심한 상태를 유지하는 것입니다.
우리는 그러한 기관을 “학교”라고 부릅니다.
정책 레버도 당겨져야 할 것입니다. 제 생각에는 매우 노르웨이가 흥미롭다 최근 금지됨 13세 미만의 학생들을 위한 학교에서의 AI 사용의 대부분. 미국에서는 주요 교사 노동조합도 마찬가지로 호출되었다 초등학교와 주요 학교 지역에서 채팅봇을 금지하기 위한 것 로스앤젤레스 그리고 뉴욕 시 최근에 금지 조치도 실시했습니다. (공개: 이러한 금지 조치를 주장하는 단체인 Schools Beyond Screens에 비공식적인 조언을 제공했습니다.) 그들이 마지막이 되지는 않기를 바랍니다.
좋은 소식은, 그렇게 말할 수 있다면, 저항이 커지고 있다는 것입니다. 아마도 많은 영상들에서 대학 졸업생들이 AI를 칭찬하는 연설자들을 비판하는 모습을 보셨을 것입니다. 이는 분명히 일자리에 대한 우려 때문이지만, 많은 사람들이 AI가 자신들의 인지 발전에 미치는 해로운 영향을 인식하고 있다고 생각합니다. 물론 오버린 러디트 클럽의 학생들도 마찬가지입니다. 그들은 대학 총장에게 공개 서한을 보내서 AI를 받아들이는 행동을 비판했습니다: “당신이 AI의 해를 시작할 때, 우리는 우리 자신의 자기실현의 해를 시작할 것입니다 — 우리 노력의 결과를 실현하고, 인간의 불완전함과 순수한 탐구를 받아들일 것입니다.” 정확히 그렇습니다.
우리 뇌의 제어 시스템은 수백만 년에 걸친 생물학적 진화와 수천 년에 걸친 문화적 진화의 결과입니다. 우리는 마음의 계산 모델에서 벗어나 우리를 인간으로 만드는 모든 요소를 파악하고, 인간 문화의 원동력인 우리의 심오한 사회적 본성을 이해해야 합니다. 우리는 종으로서 뛰어난 회복력을 보여왔지만, 인지적 '핫도그'를 과도하게 섭취하는 것은 우리 모두에게 좋지 않습니다.
건강하게 먹고, 건강하게 생각하세요.
이 이야기의 주제와 작가를 팔로우하여 개인화된 홈페이지 피드에서 이와 유사한 내용을 더 많이 확인하고 이메일 업데이트를 받으세요.