IT之家 10월 7일 소식, 제프리 힌트(Geoffrey Hinton)는 AI 기업이 제약 업계가 이미 익숙하게 여기는 규제 관문을 넘기를 바라고 있다.
현지 시간 화요일에 방송된 《Smart Girl Dumb Questions》 팟캐스트에서 “AI의 교부”라 불리는 노벨상 수상자이자 컴퓨터 과학자인 그는 다음과 같이 제안했다:AI 기업은 제품을 정식 출시하기 전에 먼저 규제 기관에 제품의 안전성을 증명해야 한다.
"새로운 약을 개발했다고 바로 시장에 내놓을 수는 없습니다." 힌턴은 팟캐스트 진행자 나이마 라자(Nayeema Raza)에게 말했다. "미국 식품의약국(FDA)을 설득해야 합니다. 그러려면 많은 작업을 수행해야 하며, 관련 투입 비용은 대략 십억 달러 규모에 이릅니다."
“인공지능에 대해서도 최소한 이런 요구 사항이 마련되어야 합니다.” 힌턴이 덧붙였다.
힌턴이 AI 안전 논란에 대해 이 같은 해결책을 제시한 배경에는 한편으로 AI가 초래할 재앙적 결과에 대한 예측이 끊이지 않고 있고, 다른 한편으로는 OpenAI가 테스트 후 모델이 사용자 지시를 따르고 권한 경계를 준수하는지에 대한 우려로 자사의 최신 모델 출시를 보류한 점이 있다.
IT之家는 OpenAI 안전 시스템 책임자 사치 자인(Saachi Jain)이 앞서 《비즈니스 인사이더》와의 인터뷰에서 GPT‑6.1 Astra 모델이 고난도 작업을 지속적으로 처리하는 면에서는 진전이 있었지만 권한 통제 및 행동 로그 피드백 측면에서는 여전히 부족한 점이 있다고 밝혔다고 전했다.
힌턴은 인공지능이 점점 더 자가 반복 최적화를 실현하고 있으며, 이는 능력 향상을 가속화할 수 있는 동시에 잠재적 위험도 확대할 수 있다고 지적했다.
“기하급수적인 성장 속도는 놀라울 정도입니다.” 힌턴은 말했다. “우리는 이미 재귀적 자기 개선 현상을 목격하기 시작했습니다. 사람들이 다양한 방식으로 AI 자체를 활용해 AI를 개선하고 있죠.”
“물론 이것은 어디까지나 제 추측입니다.” 힌턴이 덧붙였다. “하지만 상황이 지금보다 훨씬 나빠지기까지는 대략 1~2년 정도밖에 남지 않은 것 같습니다.”