Recientemente, el profesor de la Universidad de Nueva York y reconocido experto en IA, Gary Marcus, hizo un llamado público para que el mercado retirara inmediatamente todos los agentes inteligentes abiertos de IA con capacidad de conectividad, hasta que sus defectos técnicos y riesgos de seguridad sean completamente solucionados.
El llamado de Marcus surge de un grave incidente de seguridad causado por un agente inteligente de Anthropic, que recientemente fue revelado por el New York Times. Teniendo en cuenta los numerosos incidentes de control perdido de agentes inteligentes en la industria anterior, señala que los agentes inteligentes sintéticos de esta generación simplemente no pueden ser completamente confiados por el público o las empresas. En su opinión, estos sistemas con vulnerabilidades de seguridad deberían ser retirados de manera decisiva, como un automóvil con freno fallido, y detenerse su distribución en el mercado.
Para confirmar aún más las deficiencias de las grandes empresas en cuanto al control de seguridad, Marcus también citó información proporcionada por David Robinson, exempleo de OpenAI, en una entrevista reciente con los medios. En la entrevista, Robinson señaló que las inversiones y los estándares de control en el entorno de operación segura de las principales empresas de IA avanzadas, incluida OpenAI, siguen estando en la etapa de “empresas emergentes”, y no alcanzan los niveles de redundancia requeridos por las centrales nucleares, tal como lo esperan la sociedad y el público. Advirtió que las nuevas tecnologías en desarrollo actual no solo son más capaces, sino que también representan un riesgo de descontrol sin precedentes. En caso de que ocurra algún problema, los peligros potenciales serán mucho mayores que la destrucción de una planta nuclear individual.
Además, Marcus criticó que las medidas tomadas por los organismos gubernamentales relevantes (como la administración del Salón Ovale de Estados Unidos) de requerir únicamente una mayor divulgación de información son demasiado insuficientes. Esto es equivalente a pedir suavemente a los delincuentes que declaren por sí mismos sus registros penales cada mes. Subrayó que, si el gobierno no adopta medidas de supervisión más estrictas, como llamados temporales obligatorios, en caso de surgir un desastre grave e incontrolable, tanto las empresas tecnológicas como el Salón Ovale estarán responsables.