IT之家 10월 27일 소식에 따르면, 《비즈니스 인커버》가 오늘(27일) 아침 기사에서 밝혔듯이 마이크로소프트 CEO 사티아 나드라는 AI의 “정렬” 문제에 대한 견해를 바꿨습니다. 그는 과거에 AI 시스템이 더 강력할수록 그 행동이 인간의 가치관과 목표에 부합하기 쉽다고 생각했지만, 이제는 두 가지가 자연스럽게 동기화되리라고 믿지 않는다고 말했습니다.
새 시즌의 《20VC》 팟캐스트에서 진행자 해리 스터빈스가 나드라에게 지난 1년 동안 어떤 생각이 변했는지 물었습니다. 나드라는 AI 능력이 점점 향상됨에 따라 AI의 행동을 인간의 가치관과 목표에 맞게 조정하는 “앵커링” 문제도 쉽게 해결될 것이라고 생각했다고 설명했습니다.
모델 규모 확대로 인한 효과는 네드라의 예상과 일치했으며, AI 능력은 지속적으로 향상되었지만, 정렬 문제는 여전히 해결되지 않았습니다. “저는 과거에 정렬 문제가 자연스럽게 해결될 거라고 생각했어요. 이제는 그렇게 생각하지 않아요. 정렬은 더 복잡하고 다른 성격을 가진 문제일 수 있습니다.”
나드라는 10월 10일 X에서 AI의 위험에 대해 경고하며 외부 보안 관리를 강화해야 한다고 주장했다. 그는 기업들은 AI 모델을 내부 보안 위협으로 간주해야 하며, 방어 조치를 취할 때 모델이 침해당할 가능성을 가정해야 한다고 말했다.
나드라는 게시물에서 이렇게 썼습니다. “신뢰할 수 있고 확실한 시스템 설계, 인간의 관리 및 철저한 운영 절차를 통해 행동이 완전히 예측하기 어려운 AI 모델에 대한 보호 장치를 마련해야 합니다. 기존 표준이 부족한 분야에서는 업계 표준을 제정해야 합니다.”
IT之家에 따르면, AI의 능력 향상이 자동으로 인간이 AI를 통제할 수 있도록 해주지 않는다는 의견을 가진 기술 산업 임원은 네다라만이 아닙니다. OpenAI의 CEO 사무르 오르트만과 Anthropic의 CEO 다리오 아모디는 AI의 잠재적 위협에 대해 경고한 바 있습니다. 올해 7월, 1,000명 이상의 AI 전문가들이 서명한 편지에서도 AI 능력의 발전 속도가 인간이 이해하거나 통제할 수 있는 수준을 넘어설 수 있다고 경고했습니다.