Durante el último año, han surgido preocupaciones sobre los peligros potenciales que plantea la inteligencia artificial, y se han librado intensos debates sobre el camino adecuado para la seguridad de la IA. Ahora, Anthropic parece haber presentado su propia visión de cómo el gobierno podría regular su industria.
Politico recientemente informó que el laboratorio de IA ha estado circulando un nuevo borrador de ley sobre seguridad de la IA que espera que el Congreso pueda considerar adoptar. La legislación plantea ciertos escenarios en los que la publicación de un modelo de IA podría ser bloqueada de su distribución.
Esos escenarios implican un «riesgo inminente y previsible», uno en el que más de 50 personas están en riesgo de morir o en el que podrían producirse daños materiales por más de mil millones de dólares, escribe Politico. El riesgo catastrófico en cuestión debe «derivar de la creación o liberación de un arma biológica, de que el modelo eluda los controles de su desarrollador o de un ciberataque», señala el medio.
Las métricas ofrecidas aquí — 50 personas y mil millones de dólares — son similares a las de una legislación de California que recientemente fue aprobada como ley, Proyecto de Ley del Senado 53, que de manera similar definió esos escenarios como equivalentes a “riesgo catastrófico”.
El proyecto de ley de Anthropic sugiere que el análisis del potencial de desastre de un modelo podría lograrse mediante el uso de “evaluadores independientes” que estarían registrados ante el Departamento de Comercio de EE. UU. Estos evaluadores podrían ser pagados por los propios laboratorios de IA, siempre que “el pago no dependa de los resultados de las evaluaciones”, escribe Politico.
No está claro cómo este sistema propuesto garantizaría que los pagos no pudieran influir en la evaluación. Demis Hassabis, presidente de DeepMind, planteó hace algunos meses que un organismo autorregulador de IA debería imitar a la Autoridad Reguladora de la Industria Financiera (FINRA) de la industria financiera.
En el proyecto de ley de Anthropic, cuando los evaluadores determinen que existe un riesgo catastrófico inminente, tendrían 72 horas para contactar al Departamento de Comercio al respecto. El Departamento de Comercio tendría entonces que solicitar a un juez de Washington, D. C. la detención del lanzamiento del modelo. La legislación prohibiría expresamente que cualquier agencia federal tenga la discreción de detener por sí misma la distribución del modelo, escribe Politico.
Anthropic no respondió de inmediato a la solicitud de comentarios de TechCrunch, pero un portavoz confirmó el proyecto de ley a Politico. “Este proyecto de ley representa las propuestas descritas en el Advanced AI Framework de Anthropic, por las que hemos estado abogando ante legisladores federales y estatales desde junio”, dijo el portavoz.
Los riesgos teóricos planteados en el proyecto de política están un poco alejados de los tipos de incidentes que han estado en la mente de la industria tecnológica últimamente. Si bien hay personas que advierten sobre la posibilidad de muertes humanas, la preocupación principal ha sido en gran medida la amenaza del hackeo agéntico. Una serie de incidentes en los que programas de IA aparentemente han desobedecido a sus operadores humanos y han hackeado sitios web en la internet abierta ha generado la preocupación de que los modelos puedan carecer de controles de seguridad adecuados.
En un esfuerzo por presentar una solución al espectáculo de crisis que los propios laboratorios han ayudado a provocar, empresas como Anthropic han ofrecido sus propias soluciones preferidas.
De hecho, a pesar de las advertencias perpetuas de los laboratorios de que la tecnología que venden podría provocar el fin de la civilización humana, en gran medida se han resistido a la supervisión gubernamental obligatoria. En cambio, han sugerido un sistema voluntario de evaluadores integrados —supuestamente observadores terceros “neutrales” colocados dentro de las organizaciones de IA para monitorear los modelos en busca de posibles señales de riesgo o abuso.
Aun así, la mera sugerencia de legislación por parte de Anthropic parece ir un poco más allá que otras propuestas regulatorias ofrecidas por la industria, incluida Nvidia, cuyo CEO, Jensen Huang, argumentó recientemente que la industria de la IA no necesitaba ninguna ley nueva.