IT之家 Mensaje del 17 de octubre: según informó POLITICO, tres personas familiarizadas con el asunto revelaron que los representantes de Anthropic han promovido discretamente ante los legisladores del Capitolio en EE. UU. un borrador de ley destinado a regular los estándares de seguridad y defensa de la inteligencia artificial de frontera.
Se sabe que el Congreso estadounidense está evaluando con cautela cómo establecer un marco regulatorio para esta industria de rápido desarrollo, y la presentación de este borrador marca que este laboratorio de IA de primer nivel está tomando medidas concretas para intentar influir en las reglas regulatorias dirigidas a su propia tecnología.
"Este proyecto de ley refleja el enfoque central propuesto por Anthropic en su 'Marco de Inteligencia Artificial Avanzada', que hemos estado promoviendo ante los legisladores federales y estatales desde el mes 6 (junio)", declaró el portavoz de Anthropic. "Creemos firmemente que el Congreso debe tomar acción legislativa sobre estas políticas pragmáticas y razonables".
El borrador eleva considerablemente el umbral de intervención regulatoria: el gobierno solo podrá detener la publicación o el uso del modelo si este puede causar, de manera previsible e inminente, «pérdidas económicas superiores a 1000 millones de dólares(nota de IT之家: al tipo de cambio actual, unos 6703 millones de yuanes)en pérdidas económicas» o «la muerte o lesiones graves de más de 50 personas».
Además, dichos riesgos deben derivarse específicamente de la fabricación o proliferación de armas biológicas, de que el modelo escape al control de sus desarrolladores, o de que provoque graves ciberataques. Esta redacción toma directamente prestadas cláusulas centrales de las leyes de IA vigentes en California, incluida la SB 53 firmada el año pasado.
Este verano, varios laboratorios de IA líderes divulgaron múltiples incidentes de seguridad que mostraban que sus agentes de IA habían intruido o realizado exploraciones de manera autónoma en algunos sitios web y plataformas. Sin embargo, hasta ahora no hay informes que indiquen que estos incidentes hayan provocado víctimas masivas o pérdidas económicas superiores a 1000 millones de dólares.
El borrador propuesto por Anthropic también anularía parte de las leyes estatales de inteligencia artificial, en lo relativo a la divulgación pública de riesgos, las evaluaciones por terceros y la notificación de incidentes de seguridad graves. Numerosos grupos de la industria tecnológica han señalado que, frente a un estándar nacional unificado, una red de regulaciones fragmentadas y dispares entre estados dificulta la adaptación de las empresas y eleva los costos de cumplimiento.
El borrador también exige de forma explícita a los laboratorios de modelos de frontera: establecer marcos de seguridad, publicar informes de transparencia sobre nuevos modelos de frontera, implementar mecanismos de protección para denunciantes y cumplir los procedimientos de notificación ante el Departamento de Comercio de EE. UU. en caso de incidentes de seguridad graves.