IT之家 10월 17일 소식에 따르면, POLITICO의 보도에 의하면 세 명의 정보원이 말한 바에 따르면 Anthropic의 대표가 미국 국회의사당에 의원들에게 선진 인공지능의 안전 및 방위 표준을 규정하는 법안 초안을 은밀히 제안했다고 합니다.
보도에 따르면, 현재 미국 의회는 이 급속히 발전하는 산업에 대한 규제 체계를 어떻게 구축할지 신중하게 검토하고 있습니다. 이 초안의 제출은 최고급 AI 연구소가 자사 기술에 대한 규제 규칙을 좌우하려는 실질적인 조치를 취하고 있음을 의미합니다.
“이 법안은 Anthropic이 ‘첨단 인공지능 프레임워크’에서 제안한 핵심 방안을 반영합니다. 우리는 6월부터 연방 및 각 주의 입법자들에게 설득하고 홍보해왔습니다,”라고 Anthropic 대변인은 말했습니다. “우리는 의회가 이러한 실용적이고 합리적인 정책에 대해 입법 조치를 취해야 한다고 확신합니다.”
초안은 규제 개입의 기준을 크게 강화했습니다: 모델이 예측 가능하고 급박한 “10억 달러가 넘는다(IT之家 주: 현재 환율로 약 67.03억 위안)경제적 손실”또는 “50명 이상의 사망이나 중상부상을 초래함“그때, 정부는 해당 모델의 배포 또는 사용을 중단할 수 있다.”
또한, 위의 위험은 생물학적 무기의 제조나 확산에서 비롯되는 경우, 모델이 개발자의 통제를 벗어나는 경우, 또는 심각한 네트워크 공격을 유발하는 경우에만 발생해야 합니다. 이 문구는 지난해 발효된 SB 53을 포함한 캘리포니아의 현행 AI 법안의 핵심 조항을 그대로 차용한 것입니다.
올해 여름, 여러 주요 AI 연구소에서 여러 안전 사고가 보고되었는데, 이들 연구소가 개발한 AI 스마트체가 일부 웹사이트와 플랫폼에 침입하거나 스캔 탐지를 실시한 것으로 나타났습니다. 하지만 현재까지는 이러한 사고로 대규모 인명 피해나 10억 달러 이상의 경제적 손실이 발생했다는 보고는 없습니다.
안타르피크가 제출한 초안에서는 일부 주 단위 인공지능 관련 법률을 폐지할 예정이며, 위험 공개 공시, 제3자 평가 및 중대한 보안 사고 보고 등의 핵심 규정이 포함됩니다. 여러 기술 산업 단체는 통일된 국가 표준에 비해 각 주별로 독자적으로 제정되는 파편화된 규제 체계가 기업에게 적응하기 어렵고 컴플라이언스 비용을 높인다고 밝혔습니다.
이 초안에서는 선도 모델 연구소에 대한 구체적인 요구사항도 명시되어 있습니다. 안전 프레임워크를 구축하고, 새로운 선도 모델에 대한 투명성 보고서를 발표하며, 신고자 보호 메커니즘을 실현해야 하며, 중대한 안전 사고가 발생할 경우 미국 상업부에 통보 절차를 이행해야 합니다.