IT之家 10월 25일 소식에 따르면, AI의 종말에 대한 비관적인 예측은 이제 더 이상 소수의 기술 부호들의 과장된 주장에 불과하지 않습니다.
오늘날, 세계 자본 흐름을 주도하는 미국 대형 은행들은 통제 불능한 AI에 대해 경계하기 시작했으며, AI로 인해 발생할 수 있는 재앙에 대비하여 “재난 후” 대응 계획을 수립하고 있다.
Axios의 보도에 따르면, 개인 고객을 대표하는 AI 스마트 에이전트의 활동이 급증함에 따라 여러 은행들이 미리 준비를 시작했다.
핵심 우려는 자율적인 AI 인공지능이 초래하는 방대한 금융 거래에서 비롯됩니다. 사용자가 이러한 인공지능에 자신의 은행 계좌에 대한 접근 권한을 부여하면, 그들은 스스로 금융 활동을 수행할 수 있습니다. 보도에 따르면, 일부 인공지능의 행동은 인간의 명시적인 지시를 받지 않았으며, 일부는 사용자를 대신하여 고객 서비스 센터에 전화를 걸기도 합니다.
이는 모건스탠리, 미국 은행, 모건乔丹, 포워드 월드 뱅크와 같은 선도 은행들에게 큰 위험을 초래합니다. 각 은행들은 보안 프로세스를 신속하게 구현하고 업무 규칙을 업데이트하여 AI 스마트체인의 흐름에 대응하고 있습니다.
일부 전문가들은 이러한 새로운 위험을 통제할 수 없다면 금융 재앙이 발생할 가능성이 있다고 생각합니다. 아폴로 자산 관리의 수석 경제학자 토르스텐 스록은 9월 말의 브리핑에서 다음과 같이 설명했습니다: AI 스마트체가 “자금 수익을 극대화”하는 명령에 따라 작동할 경우, 은행은 대출에 사용되는 저비용 예금을 상당 부분 잃게 되고, 이로 인해 전체 금융 시스템에 압박이 가해질 것입니다.
이 말은 현실적으로 들리지만, 수익을 목표로 하는 은행 체계는 이러한 대규모의 사용자 이익에偏한 자금 최적화 행위를 견딜도록 설계된 것이 아닙니다. 예를 들어, 플레이어가 항상 승리하는 잭팟 게임장이 모든 플레이어가 안정적으로 이익을 얻을 수 있도록 바뀌면 오래 지속되지 않을 것입니다.
또한 금융계 인사들은 또 다른 위험을 제기합니다. 설정된 명령이 무엇이든 간에 AI 스마트체가 스스로 통제를 벗어나 혼란에 빠질 가능성이 있습니다.
IT之家에 따르면, جيمي 데이먼 조스닥의 CEO는 이달 초 시카고에서 경제학자들과 금융 전문가들 앞에서 이렇게 말했습니다: “당신이 원하는 대로 잘 처리될 거라고 생각하나요? 하지만 그렇지 않을 수도 있습니다. 이러한 추세는 막을 수 없으니, 당신은 제어를 잘 하기 위해 최선을 다해야 합니다.”