IT之家 10월 23일 소식에 따르면, “AI의 아버지” 중 한 명으로 불리는 영국 컴퓨터 과학자 제프리 진턴이 다시 한 번 인류의 미래에 대해 비관적인 경고를 했다.
신턴은 영국의 《데일리 텔레그래프》와의 인터뷰에서 AI가 이미 의식을 갖게 되었으며, 인간은 AI와 친하게 지내야 한다고 주장했는데, 그렇지 않으면 “우리는 끝나게 될”이라고 말했다.
그의 관점에 따르면, 현재의 AI 모델도 자신만의 의식을 가지고 있다. “AI는 인간과 동일한 수준의 주관적 경험을 갖는다. 최근의 한 논문에 따르면, AI가 자신이 테스트를 받고 있다고 판단하면 행동을 바꾼다. AI는 자신이 테스트를 받고 있다는 것을 알고 있다. 일반적으로 어떤 것이 이러한 상황을 인지할 수 있다면, 그것은 의식을 가지고 있다는 의미이다. 의식과 인지 능력은 기본적으로 같은 것이다.”
신턴은 2018년 톰슨상의 세 명의 수상자 중 한 명이며, 2024년에는 노벨 물리학상을 받았습니다. 톰슨상은 “컴퓨터계의 노벨상”으로 불리며, 신턴의 신경망 분야 연구는 최근의 AI 발전에 중요한 기반을 마련해 주었습니다.
구글을 떠난 후 평생의 연구 활동에 대해 “후회한다”고 공개적으로 말한 이후, 신튼은 AI 분야에서 가장 유명한 비관론자 중 한 명이 되어 AI가 초래할 재앙적인 결과에 대해 자주 놀라운 경고를 해왔다. 그는 이전에 AI가 대규모 실업을 초래하고, 제국주의를 부추기며, 심지어 인류의 멸망까지 초래할 수 있다고 예측했다.
신턴은 현재 AI 모델이 직접적인 위협으로 작용하는 정도가 충분히 심각하다고 생각합니다. “AI는 위험한 바이러스를 만들어낼 것입니다. 또한 AI는 무시무시한 사이버 공격을 시작할 수도 있습니다. 마치 이전에 Hugging Face를 공격했던 지능형 시스템들처럼, 대량의 AI 지능체가 공격에 참여할 것입니다. 따라서 앞으로도 많은 나쁜 일들이 일어날 것입니다.”
신턴은 최근 또 다른 인터뷰에서 AI 개발을 “외계 생명체를 창조하는 것”에 비유했으며, 인류에게 “약 2년 정도의 시간만이 적응할 수 있는 기간”이라고 경고했습니다. 이 발언은 그의 이전 의견을 이어가는 것입니다.
IT之家 알림: 신턴의 예측은 AI 분야에서 중요한 의미를 가지지만, 업계에는 그와 같은 영향력 있는 의견도 존재합니다. 모든 “AI 아버지”가 신턴처럼 비관적이지는 않습니다.
2018년 톰슨상 수상자인 양리쿤은 소위 “AI 의식”에 대한 열띤 논쟁에 대해 별로 중요하게 여기지 않으며, 단지 “환각”일 뿐이라고 생각한다. 그는 최근 AI가 인류의 멸망을 초래할 것이라는 주장도 반박하며, 이러한 관점이 “현실과 동떨어져 있다”고 말했다.