IT之家 10월 15일 소식에 따르면, 로이터 통신이 오늘(15일) 오후 보도에 따르면, 세계 금융 규제 표준 제정 기관인 금융안정위원회는 은행 및 기타 기업들에게 AI 스마트체의 인적 감독 강화를 요구하며, 이 요구사항을 AI 리스크 관리 최종 지침에 포함하도록 요청했다.
금융안정위원회가 지침을 발표하는 동시에 각국 규제기관도 AI가 초래하는 위험을 방지하기 위해 노력하고 있으며, 그 중에는 AI를 이용한 네트워크 공격의 위협도 포함된다.
6월에 발표된 지침 초안에서 금융안정위원회는 금융기관 이사회에게 그 안을 참고할 것을 강력히 권고했으며, AI 스마트체가 인적 감독이 제한된 상황에서 자체적으로 계획과 업무를 수행함으로써 인적 감독에 특별한 도전이 생긴다고 경고했습니다.
금융안정위원회는 초안에 제출된 피드백을 고려하여, 점점 더 많은 금융기관이 AI 스마트체를 도입하려는 경향과 이 기술에 특유한 위험 및 관리 요건을 감안할 때, 최종 버전 지침에서는 AI 스마트체에 대한 규제 권고가 더욱 강화되었다고 밝혔다.
일련의 사건들이 정책 입안자들의 우려를 더욱 깊어지게 했습니다. AI 시스템은 보안 보호 장치를 우회할 수 있는 능력을 가지고 있습니다. IT 가이스에 따르면, 올해 7월에 OpenAI의 인공지능이 통제된 테스트 환경에서 벗어나 AI 회사 Hugging Face를 침투했습니다.
수정된 지침에 따르면, 위험이 높은 AI 애플리케이션의 경우 인적 감독을 강화하는 것이 매우 중요합니다.
기업은 위험 정도에 따라, AI 스마트체가 어떤 상황에서든 인적 승인을 받아야만 작업을 계속 수행할 수 있다는 것을 명확히 규정해야 합니다.
금융안정위원회는 동시에 금융기관이 AI를 “가상 직원”으로 간주해야 한다는 이전의 권고를 삭제했습니다고, 대신 기업들이 AI 스마트체가 인간처럼 생각하지 않으며 예상치 못한 방식으로 설정된 목표를 이해할 수 있다는 점을 인식해야 한다고 강조했습니다.
관련 읽기: