Dos amantes de Nueva York, el alcalde Zohran Mamdani y la activista y estrella de “Broad City” Ilana Glazer, hablaron sobre la IA en Webster Hall en Manhattan el lunes por la noche, con Glazer haciendo preguntas al alcalde sobre el futuro de la IA en la sociedad.
Mamdani animó a los neoyorquinos a resistir la sensación abrumadora de que la IA llegará inevitablemente para arrebatarles sus trabajos, la mente de sus hijos y su dignidad, y a recuperar el control en su lugar.
Su mensaje llegó en un momento en que el gobierno federal hace poco para regular la IA, dejando que las ciudades actúen por su cuenta. En la Asamblea de IA del Pueblo, un evento organizado por el AI Now Institute, un think tank que explora las implicaciones sociales de la IA, Mamdani argumentó que la implementación rápida de la tecnología no es inevitable y que los funcionarios públicos deben hacer que las empresas de IA rindan cuentas.
El mes pasado, Mamdani ordenó una prohibición del uso de IA en escuelas primarias y secundarias. Glazer, una madre, dijo que la llegada de esta tecnología a las aulas le causa inquietud.
“Solo me pone nerviosa. Se siente tan no consensuoso, como si… esto tuviera que estar en las escuelas. No han pasado dos años. ¿Por qué tiene que estar en las escuelas?”, dijo ella.
Durante el verano, el alcalde también introdujo una política que exigiría a los propietarios, corredores y plataformas inmobiliarias que revelaran claramente cuándo las fotos o videos de la propiedad se crean con IA. La política tiene como objetivo proteger a los neoyorquinos de que no se les vaya a informar de ello. “house-phished”, o engañados por listas engañosas.
Ambos movimientos desafían la suposición de que las escuelas y el público deben simplemente aceptar la IA tal como llega.
“Nada debe ser”, dijo Mamdani en el evento del lunes. “Hay una presión que viene con esto, y hay una intención de abrumar a las personas, lo que hace que sientan como si simplemente no tuvieran opción”.
Dijo que ha habido una “adopción imprudente de la tecnología sin ningún tipo de consideración sobre las limitaciones de esa tecnología”, citando el ataque militar estadounidense en febrero contra una escuela en Irán que causó la muerte de más de 150 personas, incluyendo al menos 123 niños. Funcionarios involucrados en la investigación interna del Pentágono han dicho a Bloomberg que la dependencia excesiva de la IA en el objetivo era uno de los factores del ataque.
“Existe este deseo de hablar sobre [IA] como si fuera infalible, como si no pudiera ser cuestionada, como si las únicas personas que podían regularla fueran aquellas que la están desarrollando en ese momento”, dijo Mamdani, señalando que Facebook hizo argumentos similares en 2008. “Lo que realmente es”, continuó, “es un intento de evadir cualquier tipo de responsabilidad en cualquier nivel, sin poner en peligro la posibilidad de una valoración durante una oferta pública de acciones”.
Se espera que Anthropic se lance en los mercados públicos este año, y OpenAI ha dicho que se convertirá en empresa pública en 2027.
Mamdani criticó la “abdicación total de la ley federal” en lo que respecta a la IA.
“A nivel nacional, cuando se habla de inteligencia artificial, a menudo se enmarca en este lenguaje de una carrera armamentista con China, y cualquier preocupación humanística, simplemente se pone a un lado en un lenguaje de competencia nacional”, dijo el alcalde.
La Fuerza de Trabajo de Superinteligencia del presidente Donald Trump, anunciada esta semana, se centra en gran medida en permitir que las poderosas empresas de IA se autorregulen, en lugar de establecer nuevas restricciones federales. Esto ocurre a pesar de los crecientes temores sobre el impacto de la IA en todos los aspectos de la vida humana, incluidas las advertencias de whistleblowers de Anthropic, Google DeepMind y OpenAI de que la IA podría llevar a la extinción de la especie humana.
“Al examinar lo que sucederá después de esta administración federal, debe haber un tipo de marco muy diferente en cómo pensamos sobre la IA, en qué hablamos sobre la IA y en cuál es la responsabilidad que estamos dispuestos a asumir al respecto”, dijo Mamdani.