AI는 사이버보안의 속도, 규모, 경제성을 바꾸고 있습니다. AI는 방어자가 취약점을 찾아 수정하고, 침입을 탐지하며, 공격에 대응하도록 도울 수 있습니다. 하지만 동일한 역량이 악의적인 행위자를 가능하게 하고, AI 시스템이 의도된 경계를 넘어 작동할 때 새로운 위험을 만들어낼 수도 있습니다. 우리는 지금 방어자의 기회 창(defender's window)에 있습니다. 즉, 고도화된 사이버 공격 역량이 널리 보급되기 전에 방어자에게 첨단 AI를 제공하고 보호 체계를 강화할 수 있는 제한된 기회에 놓여 있습니다.
오늘 우리는 이전에 발표한 사이버보안 실행 계획과 최첨단 안전 청사진(opens in a new window)을 바탕으로 사이버 방어자에게 힘을 실어주기 위한 청사진을 발행합니다. 자사 모델과 관련된 정렬 문제 및 보안 사고를 겪은 경험은 업계 전반에 걸쳐 더 강력한 안전장치와 책임성이 필요하다는 점을 보여줍니다. 이러한 교훈을 바탕으로, 이 청사진은 정부와 업계를 위한 세 가지 영역의 구체적인 제안을 담고 있습니다:
고급 AI의 안전과 보안 강화: 각 조직이 관리하는 운영에 대해 최첨단 모델과 에이전트의 보안 확보, 위험한 행동 탐지, 신뢰할 수 있는 종료 통제 유지에 대한 더 명확한 책임을 확립합니다.
정보 시대를 위한 사이버보안 현대화: 방어자에게 고급 도구, 교육, 기술 지원을 제공하고; 오래된 사이버보안 취약점을 해결하며; 필수 서비스 보안 확보와 낡은 시스템 교체에 투자합니다.
회복력 있고 적응력 있는 공공기관 구축: 정부 평가와 독립적인 기술 평가를 강화하고, 일관된 사고 보고 요건을 확립하며, 조율된 대응과 복구를 개선합니다.
AI 연구소는 자신들의 시스템이 만들어내는 위험을 해결하고 사회의 방어력 강화를 도울 책임이 있습니다. 역량이 발전함에 따라 정부 역시 공공을 보호할 전문성, 자원, 권한을 갖추어야 합니다. 우리는 정책 입안자들이 지금 행동하여 안전장치를 마련하고, 경험으로부터 배우며, 기술이 발전함에 따라 요건을 강화해 나가기를 촉구합니다.
전체 청사진 읽기 여기(opens in a new window).