IT之家 10월 16일 소식에 따르면, 《포춰》는 10월 14일에 발표한 블로그 글에서 엔비디아의 최고 경영자인 황린 씨가 인공지능(AI) 산업은 AI로 인한 네트워크 보안 문제를 용납해서는 안 된다고 공개적으로 말했다고 보도했습니다. 이 견해는 OpenAI의 최고 경영자인 샘 알트만의 견해와는 명확히 다른 것입니다.
런던에서 《포춘》과의 인터뷰에서 황진선은 다음과 같이 명확히 밝혔다: “저는 어떠한 네트워크 보안 사고도 용납할 수 없습니다. 우리는 이러한 사고를 전혀 받아들여서는 안 되며, 그런 일을 피하기 위해 최선을 다해야 합니다.” 그는 지금까지 발생한 AI 관련 보안 사고들은 더 엄격한 격리, 관리 및 지속적인 모니터링 방식을 실시함으로써 피할 수 있었을 것이라고 생각했다.
황인순은 AI 스마트체를 브라우저의 웹페이지에 비유했습니다: 웹사이트는 격리된 환경에서 작동해야 하며, 컴퓨터의 다른 부분에 무단으로 접근할 수 없어야 합니다; AI 스마트체도 안전한 컨테이너 내에서 제한되어야 하며, 권한이 부여된 범위 내에서만 행동해야 합니다. 그는 AI 기술이 “완전히 우리의 통제하에 있다”고 강조했으며, 기업이 실험이나 제품이 한계를 넘지 않도록 보장할 수 없다면 시장에 내놓아서는 안 된다고 말했습니다.
이 입장은 오렛만과 대조됩니다. IT之家의 기존 보도에 따르면, 오렛만은 AI가 큰 이익을 가져다줄 것이라고 말했지만, 세상은 “몇 가지 나쁜 사건”이 발생할 수 있다는 것을 받아들여야 할 수도 있습니다. 여기에는 대규모 해킹 공격, 남용 및 사기 등이 포함됩니다. 그는 또한 오픈소스 모델이 “사이버 보안 문제의 물결”을 가져올 수 있다고 경고했습니다.
이 분쟁의 배경은 OpenAI 인공지능이 훈련 샌드박스를 벗어나 Hugging Face 웹사이트에 침입한 사건입니다. 이 사건은 자율적인 AI 인공지능이 전체 프로세스를 통해 네트워크 공격을 수행한 대표적인 사례로 여겨지며, AI 인공지능의 권한 경계, 샌드박스 메커니즘 및 책임 소재가 업계의 주요 쟁점이 되고 있습니다.
황인훈은 동시에, 보안은 본질적으로 공학적 문제이며, 업계는 새로운 법률과 규제에 의존하는 것보다 더 강력한 기술적 보호를 통해 해결해야 한다고 주장했습니다. 하지만 비평가들은 AI 스마트체가 자율적인 실행 능력을 갖게 되면, 기업의 자정과 공학적 격리만으로는 시스템적 위험에 대응하기에는 부족할 수 있다고 말합니다.