AI는 사이버보안의 속도, 규모, 경제성을 바꾸고 있습니다. AI는 방어자가 취약점을 찾아 수정하고, 침입을 탐지하며, 공격에 대응하는 데 도움을 줄 수 있습니다. 하지만 동일한 역량은 악의적인 행위자를 지원할 수도 있고, AI 시스템이 의도된 경계를 벗어나 작동할 때 새로운 위험을 만들어낼 수도 있습니다. 우리는 방어자의 기회 창(defender's window)에 있습니다. 이는 첨단 사이버 공격 역량이 널리 보급되기 전에 방어자의 손에 첨단 AI를 쥐여주고 보호 체계를 강화할 수 있는 제한된 기회입니다.
오늘 우리는 이전에 발표한 사이버보안 실행 계획과 최첨단 안전 청사진(opens in a new window)을 토대로, 사이버 방어자에게 힘을 실어주기 위한 청사진을 발표합니다. 자사 모델과 관련된 정렬 실패 및 보안 사건의 경험은 업계 전반에 걸쳐 더 강력한 안전장치와 책임성이 필요함을 보여줍니다. 이러한 교훈을 바탕으로 이 청사진은 세 가지 영역에서 정부와 산업계를 위한 구체적인 제안을 담고 있습니다:
첨단 AI의 안전과 보안 강화: 각 조직이 관할하는 운영에 대해 최첨단 모델과 에이전트의 보안 확보, 위험한 행동 탐지, 그리고 신뢰할 수 있는 종료 통제 유지에 대한 책임을 더 명확히 합니다.
정보 시대를 위한 사이버보안 현대화: 방어자에게 첨단 도구, 교육, 기술 지원을 제공하고; 오래된 사이버보안 취약점을 해결하며; 필수 서비스 보안 확보와 구식 시스템 교체에 투자합니다.
회복력 있고 적응력 있는 공공기관 구축: 정부 평가와 독립적인 기술 평가를 강화하고, 일관된 사고 보고 요건을 마련하며, 조율된 대응과 복구를 개선합니다.
AI 연구소는 자신들의 시스템이 만들어내는 위험을 해결하고 사회의 방어력 강화에 도움을 줄 책임이 있습니다. 정부 역시 역량이 발전함에 따라 대중을 보호할 전문성, 자원, 권한을 갖추어야 합니다. 우리는 정책 입안자들에게 지금 행동할 것을 촉구합니다. 즉, 안전장치를 마련하고, 경험에서 배우며, 기술이 발전함에 따라 요건을 강화하는 것입니다.
전체 청사진 읽기 here(opens in a new window).