IT之家 10월 17일 소식에 따르면, 로이터통신의 보도에 의하면 구글 DeepMind의 공동 창립자이자 회장인 데미스 하사비스는 이번 주 수요일에 AI 스마트 에이전트가 일으킨 네트워크 공격 사건을 “예방 경고”라고 말했습니다. 만약 관련 당사자들이 시스템의 보안 수준을 더욱 향상시키지 않는다면, 전 세계적으로 심각한 네트워크 보안 문제에 직면할 수 있습니다.
검색 엔진의 모회사 알파벳의 수석 과학자인 하사비스는 더블린에서 열린 인공지능 서밋에서 다음과 같이 말했습니다. “저는 이러한 공격 사례가 우리에게 미리 경고하는 신호라고 생각합니다. 현재의 시스템은 충분히 강하지 않기 때문에, 발생한 피해도 제한적입니다.”
하지만 앞으로 1~2년을 내다보면, 전체 산업계와 각 기업, 그리고 각국 정부가 이러한 시스템을 보호하는 데 더 많은 노력을 기울지 않는다면, 아마도 재앙적인 큰 사건으로 전개될 가능성이 높습니다.
IT之家에 따르면, 마이크로소프트 회장 브래드 스미스는 컨퍼런스에서 AI의 통제 불능한 행동으로 2026년이 “경계해야 할 해”가 될 것이라고 지적했습니다. 이에 새로운 AI 안전 법률과 규정이 긴급하게 필요하며, 안전 방어 체계가 혁신의 속도를 따라잡을 수 있도록 해야 합니다.
스미스는 다음과 같이 강조했습니다: “어떤 회사나 기술도 법률보다 우위에 있을 수 없습니다. 하지만 우리는 법률과 규제가 필요합니다. 이러한 규제는 합리적이고 균형 잡힌 방식으로 이루어져야 하며 혁신도 고려되어야 합니다. 솔직히 말해서, 업계의 일부 사람들이 규제에 대해 ‘두려워하는’ 저항심은 우리가 넘어서야 할 장애물입니다.”
하사비스는 또한, 국제 표준 기구를 설립하는 것이 당연한 개입 조치처럼 보이지만, 그 메커니즘은 적당히 유연하고 민첩해야 하며 기술 혁신을 억제하지 않도록 해야 한다고 덧붙였다.
따라서 핵심은 동적으로 인증 메커니즘을 구축하는 것입니다. 이는 실제 직면한 위험 수준에 정확하게 맞추면서 기술의 발전에 따라 빠르게 조정될 수 있어야 합니다.