사티아 나델라는 모든 AI 모델이 ‘위험에 처해 있다’고 가정해야 한다고 말합니다.

긴 글을 쓴 X 포스트에서, 마이크로소프트의 CEO는 고도로 발전된 AI 모델이 초래하는 위험과 그 위험에 대처하는 방법에 대해 자신의 견해를 밝혔습니다. 나델라는 더 이상 AI가 “중첩된 검은 상자”로 취급되어 우리가 그 조언과 행동을 그냥 받아들이거나 거부하는 세상을 받아들일 수 없다고 말했습니다. 그는 모델이 통제되고 관찰될 수 있으며, “변경을 방지할 수 있는 인간이 읽을 수 있는 증거”가 남는 더 투명한 시스템을 구축해야 한다고 주장했습니다.

그의 많은 권고 사항은 업계에서 다른 사람들로부터 들은 내용과 일치합니다: 적시에 사건을 공개하고, 독립적인 감사, 확인 가능한 데이터, 그리고 차단 조치입니다. 마지막 요점에서 그는 업계의 다른 사람들보다 약간 더 진전된 입장을 보이며 다음과 같이 말했습니다:

모델이 침해당했을 경우, 처음부터 그를 차단해야 합니다. 이는 비상 브레이크와 같습니다. 권한을 가진 사람은 항상 작업 중인 모델을 중단하거나 종료할 수 있어야 합니다. 더 고급된 모델에는 더 고급된 차단 기술이 필요하며, 우리는 이러한 기술을 표준화해야 합니다.

안타깝게도 나델라는 이 글 전체에서 AI를 “슈퍼 인텔리전스”라고도 언급합니다.