IT之家 mensaje del 25 de octubre: las predicciones pesimistas sobre un apocalipsis de la IA ya no son solo el alarmismo de unos pocos magnates tecnológicos.
Hoy, los grandes bancos estadounidenses que dominan los flujos de capital globales también comienzan a desconfiar de la IA fuera de control, y están elaborando planes de emergencia “post-desastre” ante catástrofes hipotéticas provocadas por la IA.
Según Axios, ante el aumento vertiginoso de la actividad de agentes de IA que actúan en nombre de clientes individuales, los grandes bancos ya están tomando precauciones.
La preocupación principal proviene del volumen masivo de operaciones financieras que generan los agentes de IA autónomos: una vez que los usuarios autorizan a estos agentes a acceder a sus cuentas bancarias, pueden realizar operaciones financieras por sí mismos. Según el reporte, algunas operaciones de ciertos agentes no recibieron instrucciones explícitas de humanos, y algunos incluso llaman por su cuenta al servicio de atención al cliente en nombre del usuario.
Esto supone un enorme riesgo para bancos líderes como Morgan Stanley, Bank of America, JPMorgan Chase y Wells Fargo. Todos están implementando con urgencia procesos de seguridad y actualizando sus reglas de negocio para hacer frente a esta ola de agentes de IA.
Algunos expertos consideran que, si no se controla este nuevo tipo de riesgo, podría desencadenarse una catástrofe financiera. Torsten Slok, economista jefe de Apollo Global Management, explicó en una nota publicada a finales del mes 9:si los agentes de IA siguen la instrucción de “maximizar el rendimiento del dinero”, los bancos perderían grandes cantidades de depósitos de bajo costo que usan para prestar, lo que afectaría a todo el sistema financiero。
Estas palabras suenan muy realistas: el sistema bancario, orientado al lucro, no fue diseñado para soportar este tipo de optimización masiva de fondos que favorece los intereses del usuario. Por poner un símil: un casino cuya máquina tragamonedas siempre gana al jugador no duraría nada si se modificara para que cada jugador ganara de forma estable.
También hay personajes del mundo financiero que plantean otro riesgo: independientemente de las instrucciones preestablecidas, los propios agentes de IA podrían perder el control y volverse erráticos.
IT之家 señala que Jamie Dimon, director ejecutivo de JPMorgan Chase, declaró a principios de este mes ante un grupo de economistas y expertos financieros en Chicago: “Crees que harán lo que tú quieres, pero no necesariamente. Esta tendencia no se puede frenar; solo puedes esforzarte al máximo en mantener el control”.