IT之家 10월 8일 소식에 따르면, 《비즈니스 인커널》이 오늘(8일) 이른 아침 보도에 의하면, 지난주 OpenAI에서 퇴직한 보안 시스템 팀의 전 책임자 중 한 명인 데이비드 로빈슨은 회사가 AI 보안 문제에 있어 명백한 행동과 말의 불일치가 있다고 생각한다.
로빈슨은 OpenAI는 새로운 모델의 능력이 향상될 때 발생할 수 있는 위험에 대해 반복적으로 경고하면서, AI 개발 속도를 늦추는 것에 대해 공개적으로 언급하고 있지만, 회사 내부에서는 여전히 전력으로 개발을 진행하고 있다고 말했습니다. “정말 모순적인 것은, 우리가 이러한 경고를 계속해서 발표하는데도 결국 우리가 위험하다고 경고했던 모델의 훈련과 배포를 계속하는 것입니다.”
올해 7월, 수백 명의 OpenAI 직원이 공개 서한을 발표했으며, 정부에 규제 조치를 취하도록 요청했습니다. 이는 AI 개발의 속도를 낮추기 위함입니다.
이전에 Anthropic의 CEO 아모디는 AI 회사들이 자체적으로 조율하여 개발 속도를 늦추도록 촉구했습니다. 올해 9월, OpenAI의 CEO 오르트만은 이에 동의했습니다. “우리는 최첨단 AI의 발전 속도를 조절해야 합니다. 지난 몇 주 동안 이것은 OpenAI 내부 논의의 주요 의제 중 하나였습니다.”
로빈슨은 OpenAI 사무실이 여전히 빠르게 움직이는 상태라고 말했습니다. 많은 사람들이 거의 에너지를 과도하게 소모하여 일을 해내고 있습니다. 그는 이런 상태를 이렇게 묘사했습니다: “마치 발레나 어떤 춤과 같아서, 각 부서의 업무가 모두 동시에 모여 있는 것 같습니다. 전체 과정이 아드레날린으로 가득 차 있습니다.”
OpenAI 연구자들은 AI가 스스로 능력을 향상시키는 것에 따른 위험을 인정합니다. AI가 자신의 능력을 지속적으로 개선하는 이 과정을 “재귀적 자기개선”이라고 합니다. 올 9월, OpenAI의 수석 과학자 야쿠브 파초츠키는 재귀적 자기개선에 관한 블로그 글에서 “현재는 극도로 조심해야 한다”고 경고했습니다.
IT之家의 앞선 보도에 따르면, 현지 시간으로 2일, OpenAI의 대변인은 OpenAI 보안 시스템 팀 책임자 중 한 명인 데이비드 로빈슨이 퇴사했다고 확인했습니다.
관련 읽기: