오늘은 AI, 기술, 프라이버시에 대해 폭넓은 생각을 가지고 있는 일리노이 주지사 JB 프리츠커와 이야기를 나눕니다.
이 쇼를 꾸준히 들어오신 분들이라면, 제 지론 중 하나는 이러한 이슈들이 크고 어쩌면 다소 뜻밖의 정치적 재편을 이끌고 있다는 것이라는 점을 아실 겁니다. 그리고 다음 달에 중간선거가 있고 많은 지역에서 이미 조기투표가 진행 중이라 지금은 판돈이 상당히 높습니다.
그래서 저는 프리츠커 주지사에게 이 모든 것에 대해 물었고, 그는 정부가 대체 무엇을 위한 것인지라는 실존적이고 심오한 잡초숲 속으로 과감히 뛰어들 의향이 놀랍도록 있었습니다. 그는 일부 문제는 정부가 많은 일을 해야만 하는 집단행동 문제라고 말하는데, 동의하기 어렵지 않습니다. 우리는 이 모든 문제를 하나씩, 심지어 주 단위로 하나씩 해결할 수 없습니다. 꽤 깊이 있는 대화였고, 많은 이슈에 대해 정말 깊이 들어가 보았습니다.
그리고 물론 이것도 물어봐야 했습니다. 베어스는 일리노이에 남을 건가요?
시작하기 전에, 부탁 하나 드리겠습니다. Decoder 유튜브 채널을 구독해 주세요. 매주 월요일과 목요일에 새 에피소드를 올리고 있습니다.자, 일리노이 주지사 JB 프리츠커입니다. 시작하겠습니다.
JB 프리츠커 주지사, 당신은 일리노이 주지사입니다.
Decoder 에 오신 것을 환영합니다..
감사합니다, 닐레이. 함께할 수 있어 기쁩니다.
당신과 이야기할 수 있어 매우 기대됩니다. 지금은 중간선거 시즌의 한복판입니다. 당신은 재선에 도전하고 있죠. 솔직하게 말씀드려야겠습니다. 저는 이 인터뷰에서 개인적으로 큰 부담을 느낍니다. 주지사와 이야기하고 있기 때문만이 아니라, 제가 시카고에서 학교를 다녔기 때문입니다. 제 여동생은 아직 시카고에 살고 있습니다. 제 아내는 일리노이에서 자랐고, 그녀의 가족 전체가 일리노이 중북부의 농부들입니다. 정말 물어볼 질문이 한가득입니다. 여기서 잘해야 합니다.
음, 우리는 당신을 우리 편으로 주장하겠습니다. 이 모든 것을 알게 된 이상, 당신은 일리노이 주민입니다.
Verge 구독자 여러분, 어디에서 팟캐스트를 들으시든 광고 없는 Decoder 를 독점적으로 이용하실 수 있다는 점을 잊지 마세요. 여기로 이동하세요. 아직 구독자가 아니신가요? 여기서 가입하실 수 있습니다.
그건 잘 모르겠네요. 저는 위스콘신에서 자랐습니다. 첫 번째 질문입니다. 저는 필사적인 패커스 팬입니다. 베어스가 인디애나로 이전하는 것을 허용하시겠습니까?
그것은 우리의 의도가 아닙니다. 사실 저희는 베어스와 NFL과 베어스를 시카고 또는 알링턴 하이츠에, 어쨌든 일리노이 내에 유지하기 위한 논의를 진행 중입니다.
패커스 팬으로서 베어스가 인디애나로 이전하는 결과만큼 웃긴 것은 없다고 말하고 싶습니다. 그 점을 분명히 해두고 싶습니다. 이 경우 나는 공공연히 편향되어 있습니다. 저는 그 주식을 두 주 보유하고 있으니까요. 하지만 여기서 비교를 해보려고 합니다. 제가 거기서 시작한 이유는 그 결과가 웃기다고 생각해서만이 아니라(물론 웃기다고 생각하지만), 우리가 세대를 가로지르는 정치적 재편의 한가운데 있는 것 같기 때문입니다.
이번 선거운동에서 대기업이라는 개념, 그것이 정부와 어떻게 상호작용해야 하는지, 정부가 대기업에 맞서고 굴복하지 않으려면 어떻게 해야 하는지에 대한 생각이 모두 재편의 대상이 되고 있다는 것을 확실히 느끼실 겁니다.
이 구체적인 사례에서 제가 비교할 대상은 당신의 동료 주지사인 캘리포니아의 개빈 뉴섬입니다. 캘리포니아는 엘리슨 가문, 파라마운트를 워너브라더스 합병 문제로 고소했습니다. 파라마운트는 떠나겠다고 위협했습니다. 그들은 내슈빌, 텍사스, 마이애미, 요즘 이런 소음을 만드는 어느 곳이든 가리키며 큰 소리를 질렀고, 뉴섬이 굴복한 것처럼 느껴집니다. 그가 검찰총장 롭 본타에 압력을 넣어 소송을 합의로 끝내고 그들을 주에 잔류시킨 것처럼 보입니다.
그들은 소송을 합의로 마무리했습니다. 다음 날 엘리슨 가문은 “우리는 결코… 우리는 캘리포니아 출신입니다. 절대 떠나지 않을 것입니다.”라고 말했습니다. 저는 베어스 사례에서 정부와 기업이 어떻게 상호작용해야 하는가라는 더 큰 재편과 연결된 유사성을 봅니다. 그 유사성이 보이십니까? 그 재편이 느껴지십니까?
제가 말씀드릴 수 있는 것은, 시카고와 일리노이에서 우리는 상당히 강경한 협상가들이라는 것이고, 지금 베어스와 진행 중인 일이 바로 그것입니다. 하지만 재편에 대한 당신의 지적은 이해합니다. 세대적 변화가 있고, 세금 납부자들을 보호하는 것, 그리고 솔직히 말해 사람들의 삶을 장악하고 가정을 침범하는 모든 기술에 가장 취약한 사람들을 보호하는 것에 대한 태도의 변화도 있다고 생각합니다.
그래서 저는 정부가 이제 더 적극적으로 나서서 모든 일에 기업과 단순히 협력하는 존재가 아니라 우리 국민을 위한 투사가 되어야 한다고 믿습니다. 저는 주지사가 되기 전 사업가였다는 것을 아실 겁니다. 하지만 저는 또한, 적어도 일리노이 주민들에게는, 제 임무는 정부 외에는 누구도 자신을 지켜주지 않는 이 주의 노동자들을 보호하는 것임을 알고 있습니다. 그것이 제가 보는 재편입니다.
그 세대적 변화에 대해 저도 동의합니다. 그것은 부분적으로 민주당의 세대적 변화이기도 합니다. 세대적으로 우리는 좀 더 공격적입니다. 그리고 저는 아마 이번 11월에 이미 관직에 오를지도 모르는 다음 세대보다 연장자일 것입니다. 저는 61살이지만, 저 자신을 기술 세계에서 나왔고 진보적 가치를 위해 싸워온 사람으로 생각합니다. 그래, 우리는 더 공격적이 되어야 하고 우리 국민을 위해 확실히 나서야 합니다.
제가 이 재편을 특히 뚜렷이 보는 곳은 두 곳입니다. 하나는 데이터 센터, 하나는 프라이버시이며, 이들에 대한 초당적 반발이 눈에 띄게 나타나고 있습니다. 사실 세 번째를 추가하고 싶은데, 그것은 광의의 반독점입니다. 실리콘밸리에 가 보면 좀 이상합니다. 데이비드 색스가 바이든 행정부의 리나 칸이 AI 산업이 안전 관리를 위해 반독점 면제가 필요한지에 대해 말하는 것을 리트윗하고 있습니다.
그들은 두 회사가 반독점 면제가 필요 없다는 데 동의합니다. 사실 더 경쟁적이어야 합니다. 다시, 그것을 이러한 회사들을 규제하는 맥락에서, 정부와 세계 최대 기업들 사이의 역학을 생각하는 맥락에서 놓아봅시다. 그럼 질문을 좀 더 직접적으로 던지겠습니다. 뉴섬이 파라마운트에게 굴복한 것이 옳았다고 생각하십니까, 아니면 그들이 떠나겠다는 위협을 반드시 지키게 했어야 한다고 생각하십니까?
파라마운트 상황에 대해 충분히 알지 못해서 답을 드릴 수 없고, 그렇게 하는 것은 불공평할 것입니다. 다시 말씀드릴 수 있는 것은, 오늘날 우리의 지향점 — 저는 대형 AI 기업들과 대형 소셜미디어 기업들도 그렇게 생각합니다 —은 너무 적은 손에 너무 많은 권력이 집중되어 있어서는 안 된다는 것이어야 합니다.
특히 잠재적으로 실존적이고, 확실히 변혁적일 수 있는 — 경제에 관해 말하자면 아마 비교적 온건한 표현일 것입니다 — AI를 이야기할 때는, 우리가 깊이 개입해야 할 것입니다. 물론 양측 모두에 가드레일이 필요하지만, 또한 제가 AI 부문에서 미국의 고용에 잠재적으로 중대한 변화가 일어날 것이라고 생각하는 문제도 다뤄야 합니다. 저는 우리가 대량의 일자리 상실을 반드시 겪어야 한다고 확신하는 사람은 아니지만, 그 방향으로 흘러가는 것처럼 느껴집니다.
제가 말하고자 하는 것은, 우리는 대비해야 하고, 일자리를 잃게 될 사람들 — 적어도 일자리를 잃을 것처럼 보이는 사람들 —을 보호해야 한다는 것입니다. 그리고 이 생각을 드리겠습니다. 요즘 4퍼센트의 실업률이 거의 완전고용에 가까운 수용 가능한 수준이라고 한다면, 우리가 목표로 삼고 유지하기를 희망하는 수준이 그 정도라면, 우리가 마주하게 될 문제는 아주 짧은 시간 안에 7퍼센트에 이르러 그것이 기준선이 되거나, 어쩌면 10퍼센트가 될 수도 있다는 것입니다.
그리고 어떤 나라에서든 10퍼센트 실업률에 도달하면 경제와 정부에 어떤 격변이 일어나는지 생각해 보십시오. 이 기술로 인해 사람들을 일자리에서 내쫓게 되는 상황에서, 우리는 사람들에게 일할 존엄성과 스스로 삶을 꾸릴 수 있는 충분한 소득을 어떻게 제공할 것인지에 집중해야 합니다. 그런데 그 혜택의 상당 부분은 극소수의 사람들에게 돌아갈 것입니다. 그래서 우리는 그 문제와 씨름하여 결론에 도달해야 합니다.
저는 특히 주 정부들과 대기업들 사이의 협상에서 목격한 일종의 외교적 줄다리기로 시작하고 싶습니다. 그 줄다리기는 실재합니다. 위협은 '우리는 떠나겠다'는 것입니다. 방금 유타의 케빈 올리어리가 데이터 센터에 대해 이야기하는 것을 다뤘는데, 유타 주민들이 케빈 올리어리가 그 데이터 센터를 짓는 것에 정말 강하게 반발했습니다. 그런데 그의 주장은 '난 그냥 다른 곳을 알아볼 뿐'이라는 것이었습니다.
이것이 주들이 하는 일입니다. 주들은 세금 인센티브와 혜택으로 경쟁합니다. 어쩌면 모두의 일자리를 없애버릴 데이터 센터를 위해서요. 주들은 토지 이용권을 두고 경쟁합니다. 농장이 많은 농촌 주가 있을 수 있습니다. 이러한 역학을 어떻게 생각하십니까? 다른 주들과 경쟁하고 있다고 느끼십니까, 아니면 이 초당적 재편이 이 기업들이 실제로 무언가를 내놓아야 하는 보다 수평적인 경쟁의 장을 만들고 있다고 보십니까?
우리는 경쟁 중입니다. 그저 그렇습니다. 왜냐하면 초당적이지 않기 때문입니다. 적어도 제게 물으신다면요. 정부에 변화가 없는 한요. 잠시 텍사스를 예로 들겠습니다. 11월 3일부로 텍사스에 새 주지사가 들어설 가능성이 있습니다. 사실, 그럴 가능성이 상당합니다. 하지만 오늘날 3선 — 4선을 희망하는 — 공화당 주지사와 공화당 의회가 운영하는 텍사스를 보면, 그들은 인센티브에 관한 자신들의 입장을 바꿀 의도가 전혀 없습니다.
일리노이 주에서는 그렇게 하고 싶지 않습니다. 물론 우리 국민에게 가치 있다고 생각하는 것들에 지불하기 위해 주가 확보한 세수를 보호하고 싶지만, 동시에 일자리를 유치하고 일자리를 잃지 않도록 확실히 하고 싶습니다. 그리고 사우스캐롤라이나, 미시간, 텍사스, 플로리다가 있는 세계에서 — 어느 쪽이든 선택하세요. 미시간은 민주당이 집권하고 있어 약간 다를 수 있지만, 이들이 우리의 경쟁자들입니다. 기업을 일리노이로 유치하기 위해 경쟁할 때, 저는 무엇보다 먼저 인센티브 면에서 어느 정도 근접한 수준인지 확실히 해야 합니다. 그렇지 않으면 우리는 아예 고려 대상이 되지 못합니다.
그리고 어림잡아 어느 정도라고 말할 때, 나는 적게 주는 쪽을 원한다는 뜻입니다. 그리고 재정 외에 제공할 수 있는 다른 이점들을 최대한 제공함으로써 우리가 보유한 자원을 보호하고 싶습니다. 그 예로, 우리는 기업들에 제공하는 일종의 화이트글러브 서비스에 대해 자주 이야기합니다. 예를 들어 공장을 이곳으로 가져오려 한다면, 우리는 귀사를 위한 일종의 컨시어지 역할을 하는 사람이 있어서 허가가 필요한 우리 부서들을 안내해 주기를 원합니다. 이것이 기준을 낮춘다는 의미는 아닙니다. 다만 많은 경우 관료주의가 너무 많은 시간을 잡아먹어서 기업이 주(州)에서 실제로 원하는 일을 하는 것이 불가능해지곤 합니다.
1,000개, 2,000개, 3,000개 일자리를 가져다줄 대기업을 유치하려 한다면, 대규모 조세 인센티브를 주지 않고도 최소한 절차를 조금은 수월하게 진행하도록 만들려고 노력합니다. 그것이 제가 생각하는 방식입니다. 우리는 경쟁 중입니다. 그것은 분명한 사실입니다. 그래야 할까요? 그래서는 안 된다는 논의가 많고, 어쩌면 연방 차원에서 공정한 경쟁의 장을 만들기 위한 조치를 해야 할지도 모르지만, 이것이 바로 지금 우리가 살고 있는 세상입니다.
기준선을 설정하기 위해 그 질문들을 하고 싶었습니다. 저는 정말로 무언가가 일어나고 있다고 생각합니다. 많은 젊은이들이 현상 유지에 불만을 품고 있습니다. 많은 사람들이 일반적으로 빅테크 기업들이 AI로 하려는 일, 즉 일자리 상실 가능성에 불만을 갖고 있습니다.
그리고 국민, 정부, 그 기업들 사이의 관계는 그들이 데이터 센터로 물리적 인프라를 확장하려 하고, 모두 방위산업체가 되어 문자 그대로 우리의 세금을 받아 무기 체계를 판매하고 정부를 위해 데이터를 수집하는 만큼, 그 어느 때보다 난처해 보입니다. 그것은 거대한 소용돌이입니다.
거기서부터 시작하고 싶었지만, 잠시 시간을 내서 Decoder 질문을 드리고 싶습니다. 저는 정부의 운영이 매우 불투명하다고 개인적으로 생각하기 때문입니다. 대기업이 어떻게 운영되는지 파악하는 것은 매우 쉽습니다. CEO들은 입을 멈추지 않고 하루 종일 팟캐스트에 출연합니다. 하지만 대부분의 사람들은 당신의 직무가 어떻게 작동하는지 전혀 모른다고 생각합니다.
당신은 주지사로 선출되었습니다. 사무실은 어떻게 구성되어 있고, 일리노이 주정부를 어떻게 구조화하셨습니까?
제가 있는 자리에서부터 이야기하겠고, 물론 고객 서비스 관점에서도 살펴봅니다. 하지만 맨 위에서부터 시작하자면, 저는 실제로 일리노이 주지사 중 누구도 해본 적 없는 일을 했습니다. 즉, 부주지사를 한 명이 아니라 여러 명 만든 것입니다. 물론 우리에게는 선출된 부지사(lieutenant governor)가 있지만, deputy governor는 제가 임명하여 저 아래에서 저와 함께 정부를 관리하도록 돕는 사람입니다. 제가 한 일은 네 명의 deputy governor와 법률고문, 그리고 비서실장을 임명한 것입니다.
왜 그것이 중요할까요? 제가 하려고 노력한 것은 정부의 사일로를 허물는 것이었기 때문입니다. 저는 보건 및 인적 서비스 관련 부처 전체 — 즉 공중보건부, 인적서비스부, 의료및가족서비스부, 건강보험과 메디케이드, 팬데믹 기간의 공중보건에 이르기까지 모든 것 — 를 한 명의 deputy governor 아래 두어 직접 저에게 보고하게 했습니다. 그 개념은, 예를 들어 제가 26명의 직속 부하를 두는 대신, 네다섯 명의 직속 부하와 비서실장을 두고, 그들 각각이 예를 들어 여섯 또는 일곱 개의 부서를 아래에 두는 것입니다.
제 관점에서 제가 원했던 것은 정부의 사일로를 허물고, 흔히 벽을 쌓는 이 부서들이 서로 대화하지 않도록 만드는 일, 즉 한 부서가 다른 부서로 일자리를 잃거나 서로 대화하다가 프로그램에 대한 통제권을 잃을까 두려워하는 상황을 없애는 것이었습니다. 그것이 예전의 방식이었습니다. 이제 우리는 deputy governor가 있다. 그의 역할은 부서장들의 머리를 맞대거나 최소한 그들을 한자리에 모아 정부를 더 효율적으로 운영하게 만드는 것입니다. 자, 그것이 맨 위에서 본 모습입니다.
맨 아래에서 보면 이렇습니다. 즉, 일리노이에 사는 사람들은 주정부와 어떻게 상호작용하는가? 그리고 당연히 기술은 이루어진 업그레이드 중 하나로, 일을 더 쉽게 만들었습니다. 솔직히 말해 일리노이는 제가 주지사가 되기 전에 그러한 프로세스나 필요한 기술에 충분히 투자하지 않았습니다. 이에 대한 한 가지 예를 들자면, 우리는 BEACON이라는 것을 만들었는데, 이것은 부모와 가정이 아동 정신 건강 문제로 겪는 어려움을 해결하기 위해 설계되었습니다. 알고 보니 사람들이 도움을 받으려 정부에 접근하는 방식이 일곱 가지가 있었고, 우리는 그것들을 조율하지 않았고 모든 자원을 제공하는 데도 도움을 주지 않고 있었습니다.
저는 외부 자원에 대해 말하는 것입니다. 치료사는 어떻게 찾습니까? 정신과 의사는 어떻게 찾습니까? 그리고 그 비용은 어떻게 지불합니까? 스스로 감당할 수 없다면 메디케이드를 통해서요. 하지만 요점은, BEACON을 통해 여러 부서에 흩어져 있더라도 그 모든 자원에 접근할 수 있는 하나의 문이 있다는 것입니다. 그것은 단지 하나의 예일 뿐입니다. 우리는 이것을 고객 서비스 운영으로 생각하려고 노력하고 있습니다. 조직도가 어떻게 생겼는지 말하는 것과, 필요한 정부의 모든 자원에 어떻게 접근하는지 말하는 것은 전혀 다른 문제입니다.
우리는 사람들에게 정말 중요한 프로그램들을 제공합니다. 산모 사망률을 줄이기 위한 출산 형평성 이니셔티브가 있으며, 특히 흑인 및 유색인종 공동체를 대상으로 합니다. 그리고 일부 사람들에게는 무료 기저귀도 제공합니다. 문제는 사람들이 이러한 프로그램이 존재한다는 사실조차 모른다는 것이고, 프로그램이 존재한다는 것을 어떻게 알 수 있겠느냐는 것입니다. 특히 최저임금 일자리 두 개를 가진 직장인이라면 더욱 그렇습니다. 시간도 없고, 돈도 없고, 정부와 어떻게 대화해야 하는지조차 모릅니다. 그래서 우리는 사람들과 소통하는 방식을 통해 정부의 이러한 모든 문제를 해결하려 하고 있습니다.
재밌네요. AI가 가져올 더 큰 기회 중 하나는, AI가 당신을 위해 관료제를 탐색하고 어떤 자원을 이용할 수 있는지 알려주도록 하는 것 같습니다. 반면에 사람들은 AI를 싫어합니다. 정말 싫어하는데, 이런 도구 많은 수가 실제로 당신을 위해 관료제를 탐색해 줄 수 있다는 연결고리가 만들어지지 않은 것 같습니다. 그것이 투자해야 할 부분이고, 사람들이 이런 도구에 대해 느끼는 인식의 흐름을 바꿀 전환점이 될 수 있다고 생각하시나요?
예, 하지만 서두르지 않고 들어가고 있습니다. 그리고 아마도 서둘러 들어가고 있는 주들도 있으리라는 것을 알고 있습니다.
그러니까, 미국 정부가 도입한 자사의 AI 챗봇 정부 전반의 웹페이지를 살펴볼 수 있습니다.
자, 이렇게 됐습니다.
제가 하려는 것은 아마도… 제가 주 정부에서 AI Cabinet이라는 것을 만들었는데, 이는 본질적으로 AI 전문가들을 주정부의 핵심 부처 수장들과 한자리에 모으기 위한 것으로, 프라이버시, 안전, 효율성을 함께 고민하기 위함입니다. 그리고 이런 것들은 반드시 함께 논의되어야 합니다. 효율성만 추구하겠다고 하면서 나머지 두 가지에는 신경 쓰지 않겠다고 말할 수는 없습니다.
그래서 그것이 바로 AI 내각이라는 구상입니다. 또한 솔직히 말하면, 아시다시피 AI에는 위험한 측면들이 있습니다. 그래서 저희 비상관리청이 그 AI 내각에 참여하고 있습니다. 저희 주경찰도 그 AI 내각에 참여하고 있습니다. 그리고 기억하십시오. 그러한 기관에서 일하는 많은 사람들은 AI에 특별히 능숙하지 않거나 AI의 잠재력과 잠재적 위험을 실제로 이해하지 못합니다.
그렇기 때문에 우리는 전문가들을 영입했습니다. 예를 들어 시카고 대학교, 일리노이 대학교에서, 전문성을 얻고 있는 곳의 두 가지 예로 들 수 있습니다. 그래서 네, 해야 할 일이 많습니다. 우리는 문제가 통제 불능 상태로, 다시 수습할 방법이 없는 지경에 이르기 전에 신중하게 접근하려고 노력하고 있다고 말씀드리고 싶습니다.
다른 디코더 모든 사람에게 드리는 질문은 결정에 관한 것입니다. 당신은 큰 책임을 맡고 있고, 의사 결정 과정에서 여러 제약이 있죠? 주 의회가 있고, 연방 정부가 있고, 주 안에는 다른 기관들도 있습니다. 어떻게 결정을 내리십니까? 당신의 프레임워크는 무엇입니까?
글쎄요, 저는 도널드 트럼프가 하는 방식으로는 하지 않습니다.
그렇게 말씀하시니 재미있네요. 저는 우리가 풀어야 할 문제가 있고 결정이 내려져야 한다는 생각에서 출발하는 것 같아요. 그 결정들이 주지사에게 넘어와야 하는 것들인가요? 말씀하신 대로 저의 처리 능력에도 한계가 있으니까요. 그래서 문제는 이렇습니다: 다른 사람들이 해결할 수 없거나, 다른 사람에게 맡겼을 때 제가 원하는 결과가 나오기 어려운 가장 심각한 사안들은 무엇인가? 그러면 그것들은 자동으로 저에게 넘어오게 됩니다.
내가 결정하는 것은 질문에 대한 첫 번째 답변에 해당하는 부분이고, 그 다음은 실제로 어떻게 결정을 내리는가 하는 문제입니다. 저는 내가 100퍼센트의 확률로 옳다고 생각하는 사람이 아닙니다. 조금 농담처럼 표현하자면, 제가 90퍼센트는 옳다고 확신하지만 10퍼센트의 확률로 완전히 틀릴 수도 있다는 것입니다. 최종 결정을 내리기 전에 반드시 의견을 듣고 토론을 거치고 싶습니다.
누군가 나에게 최고의 CEO는 자신의 조직 안에서 능력과 지성 면에서 평균보다 조금 아래 수준인 사람이라고 말한 적이 있다. 우리가 평균 이하의 리더를 원한다는 말이 아니다. 내가 말하려는 것은 당신이 채용을 너무나 잘해서 자신이 특별히 잘하지 못하는 여러 분야에서 자신보다 훨씬 뛰어난 사람들을 조직에 두고 있다는 것이다. 어쩌면 자신이 모르는 것을 알아차리고 도움을 청하려는 마음을 갖는 것이 나의 철학일지도 모른다. 정말 모르는 일이라면 기꺼이 도움을 청하라.
솔직히 말하자면, 주지사가 되면 지사의 권한에 속하는 주제가 정말 많습니다. 그 모든 주제에 대한 결정을 내리는 일은 초지능을 가진 인간이라면 할 수 있을지 모르지만, 대부분의 사람들은 공중 보건, 공공 안전, 교육에 관해 알아야 할 모든 것을 이미 알고 시작하지는 않습니다. 그래서 자신이 아는 것에서 출발하고, 거기에 전문성을 더하려 노력한 다음, 최고의 전문가들이 자신 앞에서 서로 논쟁하는 것을 바탕으로 결정을 내리게 됩니다. 적어도 저는 그렇게 하는 것을 선호합니다.
예를 하나 들어보겠습니다. 뉴욕주의 캐시 호츌 주지사 그 프로그램에 출연했었다. 그녀는 취임 첫 주에 허리케인 때문에 비상사태를 선포해야 했는데 방법을 전혀 몰랐다며, 이는 어떤 의미에서는 매우 인간적인 모습이었다고 말했습니다. 주지사가 되셨을 때 정말 방법을 몰랐던 일의 예를 하나 들어보시겠어요?
코로나19.
물론이죠.
솔직히 말해서, 세계적 대유행병이 일어날 거라고 생각하면서 주지사 선거에 나서는 사람은 아무도 없습니다. 사람들의 교육 문제를 해결하거나 최저임금을 인상해서라도 사람들 주머니에 돈을 더 넣어주겠다고 생각하겠지만, COVID가 닥쳐옵니다. 그리고 인정해야겠는데, 그 전문성의 수준이란, 어느 주지사도… 아니, 하와이 주지사인 의사 조시 그린이라면 처음부터 많은 [전문성을] 갖고 있었을지도 모르지만 — 나머지 우리 일반인들에게는 그야말로 일하면서 배워야 하는 상황이었습니다.
우리는 하루 18시간씩 일했습니다. 제 팀 전원이 모든 것을 걸고 임했고, 인공호흡기와 마스크의 긴급 조달 같은 일을 해야 했기에 색다른 방식으로 나가야 했습니다. 중앙관리서비스를 통해 계약을 찾는 식으로 진행할 수 있는 상황이 아니었습니다. 3일 안에 마스크가 필요하다는 상황이었죠.
관심 있으시다면, 당시 도널드 트럼프와의 저의 상호작용에 대한 짧은 이야기를 들려드리겠습니다. 어차피 재미있는 이야기라고 생각하니까요. 그런데 알고 계셨는지 모르겠지만 저는 도널드 트럼프의 큰 팬이 아닙니다. COVID 팬데믹이 닥쳤을 때 저는 취임 1년 차였고, 아직… 그러니까 그의 행정부와는 이야기를 나눴지만 그와 직접 이야기한 적은 없었습니다. 그래서 전화기를 들어 그에게 전화를 걸어 “대통령님”이라고 말했습니다. 참고로 저는 그가 아첨을 좋아한다는 걸 알았기 때문에 제 스스로를 위한 대본을 썼습니다. 평소에는 아첨하는 걸 좋아하는 사람이 아니지만, 대본을 썼습니다. 그 대본을 저장해 두었고, 지금도 가지고 있습니다.
그리고 저는 이렇게 말했습니다. “대통령님, 당신은 훌륭한 사업가이지만, 원래 75센트면 되는 N95 마스크에 8달러를 지불해야 한다는 게 국가 비상사태에 놓여 있다는 뜻이라는 걸 이해하실 수 있을 겁니다. 우리는 이 물건들을 구하고 감당할 수 있어야 하는데, 저는 다른 모든 주들과 경쟁하고 있습니다. 미국에서 충분한 마스크를 생산하도록 하려면 국방생산법을 발동해야 합니다.” 제가 그에게 한 말이 그것입니다. 그리고 이어서 “하지만 저는 지금 당장 마스크가 필요합니다. 저를 위해 무엇을 해주실 수 있나요?”라고 말했습니다. “저는 2백만 개의 N95 마스크와 4,000개의 인공호흡기가 필요합니다.” 그리고 말해두건대, 그는 약속했음에도 결국 배달하지 않았습니다.
COVID의 도전은 어마어마했고, 우리가 그것을 둘러싸고 만들어야 했던 조직… 저는 매일 아침 이 주제만으로 회의를 했습니다. 좋아, 병상이 몇 개 [확보되어 있지]? 주 전체적으로 각 지역마다 이용 가능한 병상 수를 알려주는 시스템이 우리에겐 없었습니다. 어떤 지역에서 발병이 일어나 그 지역을 사실상 집어삼키기 시작하면 어떻게 됩니까? 우리가 무엇을 해야 합니까?
그래서 이 모든 것들은 우리가 즉석에서 배워야 했던 것들입니다. 제가 말씀드릴 수 있는 것은 다시 한번 훌륭한 사람들을 곁에 두는 것의 중요성인데, 주변에 있던 사람들이 정말 훌륭했다는 점에서 제가 사람 뽑기를 잘 해왔다는 걸 입증했다고 진심으로 느꼈습니다. 그중 한 사람은 참고로 이번 선거에서 제 러닝메이트로 부지사에 출마하고 있습니다.
세대적 정치 재편에 관한 우리 대화의 맥락에서 COVID를 꺼내셨다는 점이 흥미롭습니다. 사실 저는 정부가 무엇을 측정해야 하는지, 정부가 사람들에 대해 얼마나 많은 통제권을 가져야 하는지를 둘러싼 특정한 재편의 시작점으로 COVID를 꼽고 싶습니다. 그리고 그 모든 것이 직접적으로 초당적인 Flock 카메라에 대한 반발로 이어졌다고 생각합니다.
프라이버시라는 개념 자체가 더 이상 제 생각에 좌파나 우파의 문제가 아닙니다. Flock의 CEO는 Flock 카메라를 금지하려는 모든 사람들이 범죄자들이라고 계속 말했기 때문에 여러 가지 곤경에 빠졌고, 그는 MAGA 매체에 나가서 그렇게 말하곤 했습니다. 그런 입장은 그냥 거부당했다고 생각합니다. 전국 각 주에서 Flock 카메라에 대한 반발이 일어나고 있는 것을 볼 수 있습니다. 저는 그 시작점으로 COVID를 지목하고 싶습니다.
정부가 지나치게 간섭할 수 있으며, 특히 정부는 사물을 측정할 수 없어야 한다는 생각. “검사하지 않으면 COVID는 없다”는 것이 그냥 하나의 관념이 되어버렸습니다. 그리고 우리가 사물을 측정해서는 안 되며, 측정 체계를 허물어야 한다는 생각은 두 번째 트럼프 행정부의 큰 부분을 차지합니다. 하지만 저는 COVID와 프라이버시의 연결고리를 아주 명확하게 봅니다. 한 세계에서는 시민을 보호하고 수많은 시스템을 구축하기 위해 정부가 하나로 모이는 것이 완전히 다른 방향으로 흘러갈 수도 있었습니다. 우리가 사는 세계에서는 그것에 대해 좌우 어느 쪽에서나 강렬한 반발이 일어나고 있습니다. 지금 프라이버시에 대해 어떻게 생각하십니까?
일리노이가 전국을 선도하고 있다는 건 알고 있습니다. 생체 인식 보호법(Biometric Identification Protection Act)이 있잖습니까. 시카고에 갈 때마다 공항에서 제 얼굴을 보는 것에 동의한다는 버튼을 눌러야 합니다. 그것이 하나의 방식이죠. 그런데 쿡 카운티만 해도 수백 대의 Flock 카메라가 있다고 생각합니다. 사람들은 카메라가 달린 Meta 안경을 쓰고 있습니다. 프라이버시와 관련해 무언가가 일어나고 있고, 그것이 COVID의 여파와 정부의 간섭에 대한 사람들의 감각과 정면으로 부딪히고 있습니다. 그 균형을 어떻게 찾아가고 계십니까?
글쎄요, 그리고 AI도 잊지 마세요.
네.
말씀하신 대로요. 그야말로 충돌이죠. 프라이버시에 대한 이러한 초점은 정당하며, 솔직히 말씀드리면 한참 늦은 감이 있습니다. COVID에 대해 말씀하신 내용은 이해합니다만, COVID에서 나온 무언가가 가속화되었다고 생각합니다. 바로 음모론이었습니다.
네.
지금 프라이버시를 둘러싼 반발에 대해 듣는 모든 것이 음모론이라는 말은 아닙니다. 하지만 이런 것들이 퍼지기는 쉽고, 사람들은 이런 것들이 어떻게 사용되는지에 관해 잘못된 정보를 갖고 있습니다. 그렇게 말한 후에, 제 생각은 이렇습니다. 우리는 여러 문제를 동시에 풀어야 하는 상황에 놓여 있고, AI가 다가오고 있다는 것입니다.
잠깐 AI 얘기로 가 보죠. AI는 이미 여기 있습니다. 제 말은 AI가 오고 있다는 게 아니라, 이미 와 있다는 겁니다. 멈추지도 않을 겁니다. AI 없이는 아무것도 못 하는 러다이트가 되지도 않을 겁니다. 그러니 문제는, 프라이버시라는 맥락에서 우리가 AI에 어떤 가드레일을 두고 있는지, 그리고 그것을 어떻게 관리하고 있느냐는 겁니다. 대통령과 David Sacks가 내세웠던 그 아이디어, 즉 모든 회사들을 한자리에 모아 놓고 "여러분, 자체적으로 자정하시죠"라고 말했던 그 생각은 통하지 않을 겁니다. 적어도 사람들의 프라이버시를 보호하는 데는 그렇습니다. 그리고 솔직히 말해 안전도 전혀 보장하지 못할 겁니다. 왜냐하면 모두가 자기 자신의 이익에 따라 움직일 테니까요. 제가 보기에, 그것이 정부가 필요한 이유 중 하나입니다.
정부가 이런 회사들보다 똑똑하다는 말은 아닙니다. 하지만 어떤 형태든 정부의 집단 행동이 필요한 이유 중 하나는, 아시다시피 개별적으로 사람들이 각자의 이익에 따라 움직이기 때문입니다. 즉, 사람들이 서로를 죽이고도 그에 대한 규칙이 하나도 없는 홉스적인 세계가 존재할 수도 있는 겁니다. 그래서 저는 정부를 도구로 사용해야 하고, 동시에 정부 내부에서도 똑똑해져야 한다고 생각합니다. 그리고 그 지점에서 세대교체가 매우 중요하다고 생각합니다. 모든 사람의 프라이버시를 보호하고 AI에서 비롯되는 다른 모든 문제들을 해결하고 있음을 보장하는 데 헌신하는, 더 똑똑하고 덜 관료적인 사람들의 집합으로서 정부를 활용해야 합니다.
그러니까 제가 하고 싶은 말은, 우리가 아직 필요한 수준에 전혀 미치지 못했다는 것이고, 하지만 이렇게 말씀드리겠습니다. 만약 연방 정부가 없다면, 지금 제가… 저는 일리노이에서 AI 안전 조치법(AI Safety Measures Act), 이는 미국에서 가장 엄격한 법이고, 어린이 소셜 미디어 안전법(Children’s Social Media Safety Act) 등을 포함해 우리가 해낸 일들이 매우 자랑스럽습니다. 우리가 해온 일들이 자랑스럽지만, 주별로 하는 방식은 이 문제를 해결하는 올바른 방법이 아닙니다. 우리는 이 문제들을 다루는 연방 정부가 없는 상황에서 할 수 있는 최선을 다하고 있을 뿐입니다.
그리고 제가 연방 정부라고 말할 때, 트럼프만 겨냥하는 게 아닙니다. 의회를 겨냥하는 겁니다. 의회가 아무런 조치도 취하지 않으면 우리가 홀로 나서야 합니다. 현재 몇 개의 AI 안전 조치법이 통과되었는지 모르겠지만, 제가 보기에는 세 개입니다. 뉴욕, 캘리포니아, 그리고 일리노이입니다. 다른 한두 개를 더 꼽을 수도 있겠지만, 우리 세 주가 최초였습니다. 그런데도 다른 47개 주가 있습니다.
이것이 저를 크게 걱정하게 합니다. 지금 문제들을 제기하고 계신데, 제가 모든 답을 갖고 있다고 말씀드리고 싶지만 그렇지 않습니다. 우리가 고민하고 있는 것은 우리가 바로… 사람들은 흔히 주(州)들이 민주주의의 실험실이라고 말합니다. 실제로는 정책의 실험실이고, 우리는 적어도 일리노이에서 우리 자신에게 불이익을 만들지 않으면서 정책의 실험실로 자신을 활용하려 하고 있습니다. 그것은 매우 어려운 일이고, 바로 그렇기 때문에 연방 정부에서 일어나고 있는 일을 바꿔야 합니다.
잠시 프라이버시에 집중해 보죠. AI에 대한 말씀은 이해합니다. 예컨대 Flock 카메라를 둘러싼 프라이버시 논쟁의 일부는 이렇습니다. 물론 한 교차로에 번호판 판독기 하나를 둘 수는 있습니다. 그리고 경찰이 그곳에 가서 SD 카드를 빼서 본부로 가져오고, Apple IIe에 업로드한 다음 손으로 직접 확인해야 했다면, 사람들은 아마 좀 다르게 느꼈을 겁니다.
하지만 그 카메라들은 모두 네트워크로 연결되어 있습니다. 실질적인 접근 통제도 사실상 없습니다. 지역 경찰서장들이 이 카메라들로 여자친구를 주 경계를 넘어 추적했다는 무수한 보도가 있습니다. 여기에 여러 데이터베이스를 종합하고 온갖 시스템을 넘나들며 각종 추적을 할 수 있는 Palantir 같은 시스템이 더해집니다. 사람들은 그것을 보고 있습니다.
지금 이루어지고 있는 전환은, 수많은 정보 데이터베이스를 서로 연결하고 영장 없이 검색하며, 전국 어디에서든 사람들을 추적할 수 있게 되었다는 것입니다. 주별로 그것을 금지할 수도 있고, 우리가 Flock에서 보고 있는 것처럼 도시별로 규제할 수도 있고, 거기에 프라이버시 관련 연방 차원의 통제를 둘 수도 있을 겁니다. 그 어느 것도 실제로 일어나고 있지는 않지만, 현장에서는 사람들이 맹렬하게 반발하고 있습니다. 그리고 그것이 제가 COVID, 음모론, 그리고 정부가 사람을 감시하고 지켜보는 데 얼마나 큰 권한을 가져야 하는가에 대해 연결 짓는 지점입니다.
그 과정에서 사람들의 태도가 실제로 바뀌는 무언가가 일어났습니다. 그리고 제 핵심 신념 중 하나는 미국인들은 남에게 명령받는 것을 싫어한다는 것입니다. 정당 정치를 떠나서, 미국인들은 남이 시키는 것을 싫어합니다. 그 무언가가 바뀌면서 다음과 같은 생각과 연결되었습니다. 우리에게는 번호판 판독 카메라 네트워크가 있는데, 눈에 보이는 대로 철거해 버리겠다. 미국인으로서 그것이 우리를 불쾌하게 만드는 무언가가 있기 때문입니다.
일리노이에는 프라이버시 법이 실제로 있습니다. 생체 정보 법의 마지막 개정은 2024년에 이루어졌고, 그 이후로 다시 변했습니다. 이 나라에서 추적과 감시에 대한 반대가 더욱 격해지고 있습니다. 그 프라이버시 법을 또 개정해야 한다고 생각하십니까?
저는 그 문제를 매년 살펴봐야 한다고 생각합니다. 한 가지 예를 들어 보겠습니다. 우리가 그 법을 통과시켰는데, 다시 AI 얘기로 돌아가자면, 고객님이 그렇게 묘사하신 방식이 정말 완벽한 표현이라고 생각합니다. 경찰이 직접 가서 SD 카드를 가져와 경찰서에서 분석해야 하는 것이었다면 상황은 달랐을 겁니다. 하지만 지금은 AI가 이런 장치들을 작동시키고 있고, 그것이 이런 일들이 순식간에 이루어지고 사람들을 추적할 수 있게 만들고 있는 것입니다.
봅시다. 우리가 이 문제를 다뤄야 할까요? 네, 매년요. 정부 윤리 문제와 같은 거죠. 제 말은, 윤리법을 시키는 순간 그것을 우회하려는 사람이 나타난다는 겁니다. 매년, 모든 법이 그렇듯이… 이건 아마 자본주의 전반에 걸쳐 해당되는 이야기일 겁니다. 항상 법을 우회하려는 사람들이 있죠. 세법을 만들면 누군가는 그것을 피하는 방법을 궁리합니다. 그리고 당신이 말하는 요점은, 그렇기 때문에 능동적인 정부가 필요하다는 것, 즉 관료적이기보다는 더 공격적으로 이런 문제들을 해결하려고 노력하는 정부가 필요하다는 것이겠죠. 우리가 그 속도를 따라갈 수 있을까요? 솔직히 말씀드리면, 저는 그렇게 생각하지 않습니다. 그리고 “그럼 그냥 전부 막아버리자”고 말할 수도 없다고 생각합니다. 놓치게 되는 것들이 있기 때문입니다.
그런 셈입니다. 그리고 또 AI 이야기로 돌아가게 되는데, 저는 이것에 대해 많이 생각합니다. 제 자녀들은 21세와 24세입니다. 그들은 100세 혹은 110세까지 살 것입니다. AI가 수많은 의학적 난제를 해결할 것이고, 이미 해결하고 있기 때문입니다. 이제 겸상적혈구빈혈의 치료법이 나왔고, 그렇지 않으면 25세나 30세에 죽었을 사람들이 완전한 삶을 살게 될 것입니다. 이것은 암을 비롯한 모든 분야에서 일어날 일입니다. 그래서 거기에는 모든 좋은 것이 있고, 동시에 나쁜 것도 있습니다. 그러니 당신이 무슨 말을 하는지 알겠습니다. 제가 말씀드릴 수 있는 것은, 우리가 점진적으로 — 정치적인 의미가 아니라 — 이러한 도전들을 다룰 수 있다고 믿는다는 것입니다.
일리노이주에서는 치료 과정에서 AI의 사용을 금지하는 법을 통과시켰습니다. 너무 많은 정보가 수집되고, 그 과정에 인간성이 부족하며, 거기에 인간성이 담겨야 한다고 생각하기 때문입니다. 다시 말하지만, 우리가 전면적으로 이것을 막으려는 것은 아니지만, 그것이 어떻게 사용되는지, 어디서 부적절한지 지켜봐야 할 것입니다.
그리고 그것이 불완전하게 들린다는 것을 압니다. 기술이 너무 빠르게 움직여서 누군가의 프라이버시가 침해될 수 있는 모든 방식을 우리가 따라잡을 수 있으리라는 생각은 매우 어려워 보이기 때문입니다. 하지만 다른 방법은 저도 모릅니다. 그래서 정부가 있는 것이고, 어쩌면 결국 우리는 AI 같은 것들의 경쟁적 사용, 즉 AI가 AI를 감시하고, 프라이버시 친화적이거나 프라이버시에 초점을 맞춘 AI가 그렇지 않은 AI를 감시하는 상황을 맞이하게 될지도 모릅니다. 그래도 당신이 AI 이야기만 하고 싶지는 않다는 것을 압니다.
저는 우려하고 있습니다. 프라이버시 문제는 오랫동안 있어 왔습니다. 당신도 분명 그 이야기를 해왔을 것이고, 저는 AI 이전부터 그 이야기를 해왔습니다. 이것은 모두가 무언가에 대한 접근을 얻는 대가로 자신의 개인 정보를 넘겨주는 것과 같습니다. 그것이 한동안 이어졌고, 그结果 우리 모두는 사실상 프라이버시를 포기한 것을 바탕으로 자신에게 맞춤화된 광고를 받고 있습니다.
아니, 웃기죠. 사람들은 믿습니다. 아이폰이 실제로 당신의 말을 듣고 있지 않다는 기사를 아무리 많이 써도, 광고 추적이 너무 정교해서 모두가 자신의 아이폰이 자신의 말을 듣고 있다고 믿습니다. 다음 단계는 이제 이런 시스템이 기술적으로 항상 당신의 말을 들을 수 있게 되었다는 것입니다. 그리고 '동의합니다'를 눌렀을 때 그들이 항상 당신의 말을 듣는 것보다 광고 추적을 하는 것이 더 저렴하다는 생각에 의지할 수도 없습니다. 지난 10년간 그것이 옳은 답이었죠.
경제적으로 올바른 답은 광고 추적이 항상 당신의 말을 듣는 것보다 저렴하다는 것이었습니다. 미래에는 그것이 매우 달라질 수 있습니다. 이미 The Verge에서 다룬 장치들 중에는 항상 당신의 말을 듣고 그것을 실행 가능한 데이터로 바꾼다고 주장하는 것들이 있습니다. 그리고 저에게는 기술 업계가 우리의 프라이버시법, AI 규제의 부재, AI 이전 시대를 위해 설계된 거버넌스 체계 전체를 통해 트럭을 몰고 가려 하는 것처럼 느껴집니다.
공공장소에서는 프라이버시가 없다는 개념은, 모두가 클라우드에 연결되어 모든 사진을 한꺼번에 즉시 검색하고 얼굴 인식을 수행할 수 있는 휴대전화를 갖고 있지 않았을 때는 정말 잘 통했습니다. 우리는 지금 그런 세상에 살고 있습니다. 공공장소에서 프라이버시가 없다는 생각에 대한 여론이 바뀌었다고 말하고 싶습니다.
사람들은 메타 안경을 좋아하지 않습니다. 그것들을 변태 안경이라 부르는 데는 이유가 있습니다. 그리고 그 어딘가에는, 연방 정부가 프라이버시법을 통과시켜야 한다는 주장이 있습니다. 미국에서는 상상력의 실패입니다. 우리에게는 연방 프라이버시법이 없습니다. 그리고 그 어딘가에는 주들이 민주주의와 정책의 실험실이라는 개념이 있습니다.
그건 그렇고, 이 기술·비즈니스 쇼에서 토머스 홉스가, 그리고 정부가 집단 행동 문제를 해결하는 우리의 연장선으로 존재한다는 개념이 얼마나 자주 등장하는지 놀랍습니다. 기술 업계가 그 역학을 존중하고 싶어 하지 않기 때문에 이것이 반복해서 나오는 것 같습니다.
그래서 저는 정부와 기업 사이의 그 관계, 그리고 반발과 협상으로 시작한 것입니다. 여기서는 기술 업계가 스스로 만든 거품 속에 있는 것처럼 느껴지기 때문입니다. 진심으로, 스스로 만든 미디어 거품 속에 있습니다. 그리고 모든 여론조사는 '우리는 AI를 싫어한다'고 합니다. 특히 젊은이들이 AI를 싫어합니다. 그리고 모든 움직임은 데이터 센터를 중심으로 일어나고 있는데, 거기서 가장 미국적인 정책 수단인 NIMBY가 작동하여 이 데이터 센터들을 지역 사회에서 막아내고 있습니다. 그리고 그것이 AI를 막는 한 가지 방법입니다.
당신은 7월에 데이터 센터 세제 혜택을 축소했습니다. 그리고 주 의회에 신축 공사에 대한 일련의 개혁 보장을 채택하도록 압박하고 있죠. 데이터 센터와 데이터 센터에 대한 반발이 AI 규제를 향한 효과적인 경로가 될 수 있다고 생각하십니까?
아니요, 그렇게 생각하지 않습니다. 저는 그것이 데이터 센터 규제로 가는 효과적인 경로라고 생각합니다. 사람들이 데이터 센터에 대한 반대와 AI에 대한 반대를 뒤섞어 하나로 묶어왔다는 것을 알고 있습니다. 그리고 많은 사람들이 둘이 서로 뒤섞여 있기 때문에 어느 쪽에 반대하는지 그 이유를 설명하지 못합니다. 하지만 이렇게 말할 수 있습니다. 즉, 적어도 우리의 목표는 그 개념에 초점이 맞춰져 있고, 사람들이 실제로 이를 느끼며, 이를 뒷받침하는 실제 데이터도 있다는 것입니다. 데이터 센터 자체, 즉 데이터 센터 내부에서 무엇을 하고 있는지는 잠시 제쳐두고요.
데이터 센터와 그곳에서 일어나는 일들이 가용 전력을 잠식하고 있으며, 그래서 여러분의 전기 요금이 오르고 있습니다. 적어도 모든 사람이 그렇게 느낍니다. 지금 전기 요금이 오를 필요가 없는 지점에 도달하기 위해서는 지난 여러 해 동안 해야 했던 일들이 많이 있습니다. 그것은 전력망 건설과 관련이 있습니다. 규제와 국경을 넘는 문제들로 인해 많은 전력망이 원래 건설되어야 했던 방식대로 건설되는 것이 거의 불가능해진 세상입니다. 미국은 우리가 사용하는 것보다 훨씬 더 많은 전기를 생산하지만, 그것을 충분히 잘 수송하지 못하고 있으며, 더 잘 수송한다면 훨씬 더 많은 전기를 이용할 수 있을 것입니다.
좋습니다, 하지만 그것이 효율적으로 이루어질 수 없다고 생각하더라도, 전력망에 더 많은 용량을 건설해야 합니다. 제가 말하려는 요점은 데이터 센터에 대한 반대가 부분적으로는 현재 미국에서 일어나고 있는 경제 상황, 즉 전기 요금, 가스, 월세, 모든 것이 오른 상황의 결과라는 것입니다. 전기 요금 고지서가 매달 도착하고 계속 오르기만 하니 사람들은 고개를 갸웃하며 “나는 누구에게 돈을 지불하고 있는가?”라고 말합니다. 이런 일이 일어나고 있으며, 이것은 특히 일리노이주에 해당합니다.
에너지 정책에 대해 전체적인 논의를 할 것은 아니지만, 이것만은 말하겠습니다. 일리노이주는 다른 어느 주보다 많은 원자력 전기를 생산합니다. 우리 전기의 대략 53 또는 54 퍼센트가 원자력에서 나오며, 우리는 전기 순수출 주입니다. 그러니까 일리노이에는 잉여 전력이 있는데도 요금이 오르고 있으며, 그것은 지역 송전기구들의 방식 때문입니다. 다시 말하지만 세부 사항에 모두 들어가지는 않겠지만, 본질적으로 오하이오가 하이퍼스케일 데이터 센터를 짓기로 결정하면 일리노이의 우리 요금이 영향을 받고, 이는 일리노이에 사는 사람들에게 충격적인 일입니다. 하지만 그들이 아는 것은 요금이 오르는 것을 원하지 않는다는 것이므로, 근처에 또 다른 데이터 센터가 오는 것을 원하지 않는 것입니다. 비록 문제를 실제로 일으키는 것은 오하이오의 그 데이터 센터일지라도, 데이터 센터에 반대하기를 선택한다 해도 말입니다.
그래서 이것은 하나의 도전입니다. 많은 정보가 확산될 필요가 있다고 생각합니다. 하지만 무엇보다도, 우리는 훨씬 더 많은 용량과 훨씬 더 많은 전력망이 필요하고, 그것이 데이터 센터에 대한 우려를 어느 정도 가라앉혀 줄 것이라고 생각합니다. 당신의 말대로, 프라이버시는 데이터 센터보다 AI와 더 관련이 있다고 생각합니다. 그리고 그것은 AI 자체만이 아니라 AI가 사용되는 방식의 문제이기도 합니다. 그러니 우리는 많은 반대에 부딪히게 될 것입니다. 아주 훌륭한 지적을 하셨습니다. 통제력을 잃었다는 이 느낌, 즉 더 이상 자신의 환경을 통제할 수 없다는 것이 바로 불안을 일으키는 요인입니다.
앞서 제가 말했던 정말 중요한 것으로 다시 돌아가고 싶습니다. 우리는 공직에 출마할 더 나은 사람들이 필요합니다. 우리는 정부에서 더 똑똑한 정책 개발이 필요합니다. 그리고 그 일부는 필요한 세대교체와 더 나은 이해입니다. 우리에게는 전혀 아무것도 모르는 채 미국 상원에서 봉사하고 있는 사람들이 있습니다. 교육부 장관, 트럼프의 교육부 장관이 그것을 A1이라고 불렀던사람 말입니다. 저는 말하자면, 이론상 이런 문제들에 대한 정책을 만드는 데 아무런 노출도 없는 나이 든 사람들이 있고, 그것은 우리 모두를 불안하게 해야 합니다. 그것이 정부에서 더 나은 사람들과 더 나은 시스템이라는 대의를 전진시켜야 하는 이유 중 하나입니다.
우리는 선거를 앞두고 있습니다. 새 의회가 있을 수도 있습니다. 의회에 새 지도부가 있을 수도 있습니다. 나이 든 민주당원들도 많이 있습니다. 실제로 저는 지난 선거에서 조 바이덴의 나이를 그가 패배한 이유로 직접 지적할 수 있을 것 같습니다. 나이 든 민주당원들의 지도력에 대한 전면적인 변화도 필요하다고 생각하십니까?
“전면적인 변화가 필요한가?”라고 물으셨지요. 제가 말할 수 있는 것은, 우리가 — 말해서는 안 된다고 생각한다는 것입니다.
음, 이제 저는 뉴욕에 살고 있습니다. 그냥 물어보겠습니다. 민주당이 상원을 장악한다면 척 슈머가 상원 다수당 원내대표가 되어야 한다고 생각하십니까?
그것은 상원 의원들이 내릴 결정입니다. 저는 그것에 어떤 영향력도 없습니다. 다만 이것은 말할 수 있습니다. 저는 임기제한에 반대합니다. 모든 선택지가 있어야 한다고 생각하기 때문입니다. 당신은 유권자입니다. 75세의 후보에게 투표하고 싶다면, 그러세요.
저는 단지 75세의 사람이 45세였을 때만큼 똑똑하거나 어쩌면 지금도 그런 45세의 후보, 즉 AI 프라이버시를 비롯해 우리가 논의하고 있는 모든 문제들에 대한 현대적인 시각을 가지고, 대기업이 우리 삶을 침해하는 것을 어떻게 억제해야 하는지에 대해 더 적극적인 견해를 가진 후보를 위한 훌륭한 사례가 만들어질 수 있다는 것을 제안하는 것뿐입니다. 하지만 사람들이 자신의 선택을 해야 한다고 생각합니다. 우리가 “나이 제한이 있어야 해요. 당신은 70세네요, 그러면 끝, 나가세요.”라고 말하는 것은 저의 생각으로는 우리 민주주의의 정체성에 어긋나는 일입니다.
글쎄, 저를 설득하셨습니다. 저는 46세입니다. 여기 주지사님과 함께 대통령 출마를 선언하겠습니다. 정말 감동적인 연설이었습니다.
말씀하세요, 선택지가 당신과 도널드 트럼프라면 저는 즉시 당신에게 투표할 것입니다.
낮은 허들이지만, 그것을 넘어서 기쁩니다.
마지막으로 두 가지 생각을 하나로 묶어 보겠습니다. 우리는 AI 규제에 대해 많이 이야기했습니다. 이 대화 앞부분에서 소셜 미디어 규제에 대해 조금 언급하셨습니다. 일리노이에는 소셜 미디어 법이 있다는 것을 압니다. 학교에서 아이들의 휴대폰에 대한 등하교 시간 전면 금지 조치가 있지요.
저는 그냥 마크 저커버그를 예로 들겠습니다. 마크 저커버그를 예로 드는 건 쉬우니까요. 그가 소셜 미디어 규제에 대해 말하는 방식을 보면, 사실상 공유지의 비극을 묘사하고 있어요. 당신은 그와 랜드마크가 되는 합의에 서명했죠. 일리노이주가 그 합의로 750 또는 760백만 달러를 받게 될 걸로 알고 있습니다. 그리고 그 합의의 큰 부분은 TikTok과 YouTube가 동일한 조건에 동의해야 하고, 그러면 Meta가 나머지 돈을 지불한다는 것이죠. 그리고 저커버그는 그 이유에 대해 아주 분명하게 말했습니다. Instagram이 참여 유발 콘텐츠로 회귀하는데 TikTok이 그러지 않으면, 아이들은 그냥 TikTok을 쓰게 될 테니까요. 그래서 정부가 모두가 동의하도록 해야 한다는 겁니다.
말씀드리자면, YouTube의 CEO인 Neal Mohan은 동의하지 않습니다. 그는 이에 서명하지 않을 겁니다. 그게 싸움 하나예요. 마크 저커버그가 AI 규제에 대해 말하는 방식을 보세요. 거기에는 그런 역학이 전혀 없습니다. 그는 마치 "완전한 자유경쟁이어야 한다. 우리 모두 경쟁할 것이다. 안전하지 않으면 시장이 알려줄 것이다. 우리는 괜찮을 것이다"라고 하는 거죠. 제 생각에 이 두 생각은 서로 완전히 모순입니다.
그가 돈을 다 버는 시장에서는, 정부가 개입해서 아이들을 해치지 못하게 막아야 합니다. 안전한 소셜 미디어에 대한 시장 수요가 없는 모양이니까요. 그런데 AI CEO들이 우리를 멈추지 않으면 우리를 모두 죽일 수도 있다고 말하는 시장에서는 완전한 자유경쟁이고, 그들이 실수로 모두를 죽이면 시장이 알려줄 거라는 겁니다. 이 두 가지를 어떻게 조율하시겠습니까? 소셜 미디어 규제에 10년 실패한 끝에 소셜 미디어 사건을 마무리한 것만으로도 기쁘신 건가요, 아니면 이번에는 그냥 방치하지 말고 규제로 AI를 해결할 수 있다고 생각하시나요?
보세요, 저는 본질적으로 낙관론자라서, 지금 직면한 모든 문제를 해결할 수 있다는 걸 절대적으로 안다고 말씀드리지는 않겠지만, 다른 무엇을 할 수 있을지 모르겠습니다. 다시 말해, 이 문제들 각각을 해결하려 노력하고, 가능한 한 예측하려 노력하는 것 말고는요. AI가 발전하는 속도보다 우리가 더 빠를 수 있을까요? 모르겠습니다. 하지만 노력을 멈출 수는 없다는 건 알아요. 그리고 제 낙관주의에는 근거가 있다고 말씀드리고 싶은데, 대다수의 사람들이 당신이 말하는 것, 즉 그것을 통제하는 것을 원한다고 생각하기 때문입니다.
그리고 다시 말하지만, 회사를 파괴하지 않고서요. 우리 모두가 그러려는 건 아니라고 생각합니다. 우리가 하려는 건 우리 집으로의 침입을 막고, 우리 아이들의 삶으로의 침입을 막는 것입니다. 우리는 그것을 해낼 수 있다고 생각하는데, 그건 우리가 수많은 거대한 문제들을 해결해 왔기 때문입니다. 그게 일종의 제 답변입니다. AI가 잠재적으로 실존적 위협인가? 물론 답은 그렇습니다. 그리고 우리가 해결할 수 있을까? 모르겠습니다. 핵무요… 다른 것에 비유를 들자면요. 핵무기는 여전히 인류에 대한 위험으로 우리 위에 걸려 있습니다. 그리고 지금까지는, 어쨌든, 우리는 세계를 폭파하지 않고 버텨 왔습니다. 그게 낙관을 주는지는 모르겠지만, 저에게는 그렇습니다.
우리는 국가로서 여기서 그것을 어떻게 통제할지 알아낼 수 있습니다. 우리가 국가로서 동맹국들과 협력해서 집단적으로 어떻게 통제하려 노력할지 알아낼 수 있습니다. 그리고 우리에게는 세상에 적과 경쟁자가 있으니, 우리가 어떻게 할지 알아내야 합니다. 어쩌면 핵무기 때처럼 상호확증파괴일지도 모릅니다. 하지만 이 모든 것은 우리가 풀어야 할 과제이고, 빨리 풀어야 할 과제입니다.
그리고 무섭습니다. 누군가가 이것을 이렇게 비유했는데… 1950년대 초반을 생각해 보세요. 모든 아이가 핵 폭발, 즉 원자폭탄이 터지면 책상 밑으로 들어가야 한다는 걸 배워야 했던 시절이요. 그건 별로 효과가 없었겠죠. 하지만 요점은, 사람들이 핵 폭발로 끔찍한 핵 대학살이 일어날 수 있다는 생각을 안고 살았다는 겁니다. 그래서 저는 우리가 AI와 함께 다시 그런 세계로 들어가고 있다고 생각합니다. 질문에서 너무 벗어나지 않았으면 좋겠네만 —
그럼 이걸 물어보겠습니다. 마지막에 조금 엉뚱한 질문입니다.
우리는 이 업계를 아주 촘촘히 다루는데, 핵무기와의 큰 차이는 서로 미워하는 다섯 명이 이끄는 다섯 회사가 사적으로 최첨단 핵무기를 만들지는 않았다는 점입니다. 하지만 그게 AI 업계의 역학입니다. 그들은 서로 진심으로 미워하고, 모두 가능한 한 빨리 최대한 많은 돈을 벌려고 합니다.
그리고 일부는 AI가 살아 있다고 생각합니다. Anthropic에 물어보면, 우리도 해봤는데, "Claude는 살아 있습니까?" 그들은 아니라고 하지 않습니다. 그들은 살아 있다는 것의 정의를 두고 당신과 논쟁하며, 그들에게 살아 있다는 것은 생물학적 구성 요소를 갖는 것을 의미하고 Claude에는 그게 없지만, 의식은 있을 수 있다고 말합니다.
업계에는 AGI를 만들기 위한 경쟁이 있습니다. 어떤 사람들은 자신들이 다른 종류의 의식을 지닌 외계의 마음을 만들고 있다고 진심으로 믿습니다. 어느 정부도 어떤 수준에서든 그런 것을 규제해야 했던 적이 있었는지, 다음 종류의 지능을 만들고 있을 수 있다는 사실에 종교적인 업계와 마주친 적이 있었는지 확신이 서지 않습니다.
당신은 어느 쪽에 서 계십니까? 그들이 인간과 나란히 서는 다음 종류의 의식을 만들고 있다고 생각하십니까, 아니면 다른 이들처럼 이것이 평범한 기술이라고 생각하십니까?
아이고, 그건 우리를 위한 또 다른 팟캐스트 주제네요. 하지만 한 가지만 말씀드리자면: 잠깐 동의하지 않겠습니다. 핵무기도 누구도 상상할 수 없었어요. 그리고…
하지만 핵무기는 정부가 만들었습니다. 그게 아니 —
이해합니다. 같다고 말하는 게 아닙니다. 그 당시에는 너무 새로운 것이어서 어떻게 통제할지 알아내야 한다는 겁니다… 왜냐하면 기억하세요, 정부가 하나만 있는 게 아니고, AI도 마찬가지입니다. 그 다섯 명만 있는 것도 아니죠. 중국에도 누군가 있을 겁니다. 어쩌면 다섯 명일 수도 있고요. 저는 모릅니다. 그리고 유럽이든 어디든 누군가 있겠죠. 우리가 앞서 있다고 말할 수도 있고, 그들이 앞서 있다고 할 수도 있습니다. 저는 모릅니다.
제가 말하려는 건, 그렇습니다, 이건 확산된 상황이고 정부가 통제하지 못한다는 겁니다. 100% 맞습니다; 그런 의미에서 핵무기와는 다릅니다. 하지만 아무도 본 적이 없다는 점에서는 핵무기와 같습니다. 우선 완전한 미스터리죠. 어떻게 통제할 겁니까? 러시아가 폭탄을 만들 거라고 아무도 생각하지 않았는데, 그들은 만들었습니다. 우리는 어떻게든 그것을 다루는 방법을 알아냈습니다.
다시 말하지만, 우리가 올바른 해결책에 도달할 수 있다고 믿으려면 낙관주의자여야 합니다. 우리가 '어떻게 통제할 것인가'에 대한 답을 가지고 있는지 저는 모릅니다. 하지만 이렇게 말씀드릐 수 있습니다. 만약 우리가 그것을 만들 힘이 있다면, 제 생각에는 그것을 통제할 힘도 있습니다. 의식이 있습니까? 깊은 질문을 하시네요.
AGI를 느껴보셨습니까?
즉, 의식이 있다고 생각하십니까? 사람들이 의식이 있을 수도 있고 의식을 갖게 될 것이라고 생각하는 이유는 이해합니다. 하지만 그래서 윤리학자들과 기술자들이 관여해야 한다고 생각합니다. 그리고 특히 제 생각에 정부가 반드시 관여해야 합니다. 왜냐하면 그렇게 하지 않고 어떻게 그 다섯 명과 이것을 개발한 회사들을 통제할 수 있겠습니까? 다른 방법이 없습니다.
솔직히 말씀드리면, 저는 의식이 있다고 생각하지 않습니다. 그런데 가끔 다른 사람들이 그렇게 믿는 이유가 명백히 드러나는 경험을 하곤 합니다. 추론 모델이 한 시간 동안 90단계를 거쳐 결론에 도달하는 것을 보면, 인상적이고, 사람들이 왜 그렇게 믿는지 알 수 있습니다. 저는 그렇지 않으며, 그럴 이유가 많이 있습니다.
문득 이런 생각이 듭니다. 이런 기술을 규제하려고 나선다면, 무언가를 믿느냐에 따라 한 길로 갈 수도 있고, 의식을 만들고 있다고 믿는다면 다른 길로 갈 수도 있겠다는 것이죠.
다시 말하지만, 업계 전체가 이에 대해 의견이 일치하지 않습니다. 젠슨 황과 다리오 아모데이는 그것이 살아 있는지에 대해 의견이 다릅니다. 젠슨은 그저 칩을 많이 팔고 싶어 할 뿐이고, 그는 그것이 그저 기술이며 통제할 수 있다고 기꺼이 말할 것입니다. 다리오는 자신이 AGI를 만들고 있다고 생각하며, 그건 전혀 다른… 그가 다른 종류의 규제 구조를 제안하는 데는 다 이유가 있습니다. 그냥 여쭤보는 겁니다. AGI를 느껴보셨습니까? 어느 쪽이라고 생각하십니까?
만족스러운 예스나 노는 드리지 않겠습니다.
제 말은, 느껴본 적이 없다는 겁니다. 그게 제가 하려는… 제 기본적인 답은 느껴본 적이 없다는 것입니다.
프리츠커 주지사님, 정말 즐거웠습니다. 마지막의 이 실존적 무한루프 같은 질문에 응해주셔서 감사합니다. 곧 Decoder 에 다시 와주셔야 합니다.
그러고 싶습니다. 감사합니다, 닐레이.
질문이나 의견이 있으신가요? decoder@theverge.com으로 연락해 주세요. 우리는 정말로 모든 이메일을 읽습니다!