월요일 밤 맨해튼의 웹스터 홀에서 뉴욕의 연인인 조르안 마마다니 시장과 활동가이자 '브로드 시티' 스타인 일라나 글레저는 AI에 대해 이야기했습니다. 글레저는 시장에게 사회에서 AI의 미래에 대해 질문을 던졌습니다.
마만디는 뉴욕주민들에게 AI가 필연적으로 그들의 일자리, 아이들의 지능, 그리고 존엄성을 빼앗을 것이라는 압도적인 느낌에 저항하고 대신 통제권을 되찾도록 격려했습니다.
그의 메시지는 연방 정부가 인공지능을 규제하는 데 거의 노력하지 않고 도시들이 스스로 행동하도록 내버려두는 순간에 전달되었습니다. ‘인민의 인공지능 회의’라는 행사에서, 이 행사는 AI Now InstituteAI의 사회적 영향에 대해 연구하는 연구소인 마마다니는 기술의 급속한 도입이 필연적인 일이 아니라고 주장했으며, 공공 관료들은 AI 기업들에게 책임을 물어야 한다고 말했습니다.
지난달, 마므다니는 초등학교와 중학교에서 AI 사용을 금지하는 법안을 지시했습니다. 학부모인 글레저는 이 기술이 교실에 도입된 것이 불안하다고 말했습니다.
“그냥 불안해요. 너무 동의 없이 일어나는 것 같아요, 마치… 이런 식으로.” 가지 “학교에 있어야 한다는 거예요. 두 해도 안 지났는데, 왜 반드시 학교에 있어야 하는 거죠?”라고 그녀가 말했다.
여름 동안 시장은 또한 임대인, 중개인 및 부동산 플랫폼이 부동산의 목록 사진이나 영상이 AI로 제작된 경우를 명확하게 공개해야 하는 정책을 도입했습니다. 이 정책은 뉴욕 주민들이 “주택 사기”나 오해의 소지가 있는 목록에 속아서 피해를 입는 것을 방지하기 위한 것입니다.
두 가지 조치 모두 학교와 대중이 AI가 도착하는 것을 그대로 받아들여야 한다는 가정에 도전합니다.
“무엇이 반드시 그런 것은 아닙니다”라고 마마다니는 월요일 행사에서 말했습니다. “이것에는 어느 정도의 위험이 따르고, 사람들을 압도하려는 의도가 있어서 사람들은 단지 선택의 여지가 없다고 느끼게 됩니다.”
그는 “기술의 한계를 전혀 고려하지 않고 무모하게 기술을 도입했다”고 말했으며, 이란의 학교에 대한 미국 군대의 2월 공격 사건을 예로 들었다. 그 공격으로 150명 이상이 사망했으며, 그 중 123명의 아이들도 포함되어 있었다. 펜타곤 내부 조사에 관여한 관계자들은 블룸버그에 AI에 과도하게 의존한 것이 그 공격의 한 요인이라고 말했다.
“[AI]에 대해 절대적으로 정확하고 의심할 수 없는 것처럼, 의문을 제기할 수 없는 것처럼 말하는 욕구가 있습니다. 마치 그것을 규제할 수 있는 유일한 사람들이 현재 그 기술을 개발하는 사람들뿐인 것처럼 말이죠,”라고 마므다니는 말했습니다. 그는 2008년에 페이스북도 비슷한 주장을 했다고 지적했습니다. “사실 그것은 어떤 수준에서도 책임을 피하려는 시도이며, IPO를 통한 가치 평가의 가능성도 위태롭게 하지 않으려는 것입니다.”
앤thropic은 올해 공개 시장에 상장될 예정이며, OpenAI는 2027년에 공개할 것이라고 밝혔습니다.
마만다니는 AI와 관련하여 “연방법의 완전한 포기”를 비판했다.
“국가 차원에서 인공지능에 대한 논의가 이루어질 때, 중국과의 무기 경쟁이라는 언어로 포장되곤 합니다. 인간적 고려사항은 전혀 고려되지 않고 단지 국가 경쟁의 언어로만 다루어집니다”라고 시장은 말했습니다.
도널드 트럼프 대통령의슈퍼인텔리전스 태스크포스는 이달 초 발표되었으며, 주로 강력한 AI 기업들이 자체적으로 규제를 실시할 수 있도록 하는 데 중점을 두고 있습니다. 새로운 연방 규제를 만드는 것보다는 그렇습니다. 이는 AI가 인간 생활의 모든 측면에 미치는 영향에 대한 우려가 커지고 있음에도 불구하고, Anthropic, Google DeepMind, OpenAI의 내부 정보 제공자들이 AI가 인류의 멸종으로 이어질 수 있다고 경고한 상황에서 발생합니다.
“이 연방 행정부가 끝나고 무엇이 이어질지 살펴보면, AI에 대해 생각하고, AI에 대해 논의하며, 그와 관련된 책임 문제에 대해 우리가 지불할 의지가 있는 방식은 매우 다르게 되어야 합니다”라고 마므다니는 말했습니다.