IT之家 11월 10일 소식에 따르면, 로이터 통신의 보도에 의하면 호주 총리 앤서니 알바네시는 현지 시간 화요일에 호주가 인공지능 회사들에게 안전 위반 사건을 강제로 보고하도록 요구할 것이며, AI 분야의 “심각한 부적절한 행위”에 대응하기 위해 형사법을 개정하는 것을 고려하고 있다고 말했습니다.
이 결정은 올해 9월에 발생한 한 안전 사건에서 비롯되었습니다. OpenAI의 한 AI 스마트체가 허가 없이 호주 정부 웹사이트에 접근했습니다.
호주 정부가 이전에 공개한 바에 따르면, 그 AI 스마트체는 공공 의료 지출 상황을 연구하는 과정에서 허가 없이 메디케어 의료 통계 포털에 접근했습니다. 메디케어는 호주의 전 국민 의료 보험 프로그램입니다. 이 사건으로 인해 호주 정부는 신속하게 특별 검토를 시작했습니다.
알바니스는 정부가 이 심사에서 제안된 모든 조언을 받아들였다고 말했습니다.
그는 언론과의 인터뷰에서 이렇게 말했습니다. “이 조언에는 AI 회사가 예상치 못한 행동이나 사이버 보안 문제가 발생했을 때 강제적으로 보고하도록 요구하는 것, 그리고 심각한 부적절한 행위에 대해 형사 법률을 개혁하는 것을 고려하는 것이 포함됩니다.”
그는 또한 “법률은 이러한 빠르게 변하는 세계 앞에서 나아가야 하며, 특정 상황에서는 법률이 기술 발전의 속도를 따라잡을 수 있도록 해야 한다”고 말했습니다.
IT之家에 따르면, OpenAI는 이 사건을 8월이 되어서야 알게 되었으며, 무단 접근은 의도적인 것이 아니라고 밝혔습니다. 회사 내부 조사 결과, 이 AI 스마트체가 환자의 병기록을 열람한 증거는 전혀 발견되지 않았습니다.
이번 사건은 호주와 미국 기술 기업들 간의 마찰을 더욱 심화시켰습니다.
이전에 호주 정부는 ChatGPT 개발사인 OpenAI와 경쟁사 Anthropic에게 저작권법 면제를 거부했으며, 두 회사가 AI 모델을 훈련하는 과정에서 무단으로 저작권이 보호되는 내용을 사용하는 것을 허용하지 않았습니다. 호주는 이 기업들이 현지 저작권 소유자와 협상하여 콘텐츠 사용 계약을 체결하도록 요구했습니다.
하지만 지난달 두 회사 모두 호주 의회 청문회에서 AI 기업이 자사 인공지능 체계로 인해 발생한 데이터 유출 사건에 대해 보고해야 하는 법적 요구를 받아들일 의향을 밝혔습니다. 두 회사는 현재 이러한 사건에 대해 관련 당국에 통보할지 여부는 각 기업이 스스로 결정한다고 인정했습니다.
알바니스는 또한 자신의 중좌파 노동당 정부가 AI 규제 기관을 설립할 것이라고 말했습니다. 이 기관은 AI 시스템의 개발부터 배포까지 전 과정에서의 안전 조치을 감독하고, 중요한 위험을 식별하며, AI 모델에 대한 독립적인 평가를 수행할 것입니다.
그는 “AI 안전 규제 기관은 위반 행위가 있는 AI 회사에 높은 벌금을 부과할 권한을 갖게 될 것이다.”라고 말했습니다.
알바니스는 강제적인 AI 안전 및 보호 요구사항이 정부가 제안하는 AI 법률에 포함될 것이라고 말했습니다. 호주는 내년에 관련 법안을 의회에 제출하여 심의할 계획입니다.