Deux amoureux de New York, le maire Zohran Mamdani et l’activiste et star de la série « Broad City », Ilana Glazer, ont parlé d’IA à Webster Hall à Manhattan, lundi soir. Glazer a posé des questions au maire concernant l’avenir de l’IA dans la société.
Mamdani a encouragé les New-Yorkais à résister à cette sensation oppressante selon laquelle l’IA viendrait inévitablement emporter leurs emplois, l’esprit de leurs enfants et leur dignité, et à reprendre le contrôle plutôt.
Son message est arrivé à un moment où le gouvernement fédéral ne fait pas grand-chose pour réguler l’IA, laissant les villes agir de leur propre chef. Lors de l’Assemblée de l’IA du Peuple, événement organisé par l’AI Now Institute, une fondation de recherche qui étudie les implications sociales de l’IA, Mamdani a affirmé que la diffusion rapide de cette technologie n’est pas inévitable et que les fonctionnaires publics devraient tenir les entreprises d’IA responsables.
Le mois dernier, Mamdani a ordonné une interdiction de l’utilisation de l’IA dans les écoles primaires et secondaires. Glazer, une mère, a dit que l’arrivée de cette technologie dans les salles de classe la rend inquiète.
« Cela me rend simplement nerveuse. C’est tellement contraire au consentement, comme si… cela devait se faire dans les écoles. Ce n’était pas il y a deux ans. Pourquoi doit-il se faire dans les écoles ? » dit-elle.
Cet été, le maire a également introduit une politique qui exige des propriétaires, des agents immobiliers et des plateformes immobilières de divulguer clairement lorsque les photos ou les vidéos de l’annonce d’un bien sont créées par l’IA. Cette politique vise à protéger les New-Yorkais contre le “maison piratée” ou contre être trompés par des annonces trompeuses.
Les deux actions remettent en question l’hypothèse selon laquelle les écoles et le public doivent simplement accepter l’IA dès son arrivée.
« Rien n’a besoin d’être », a déclaré Mamdani lors de l’événement dimanche. « Il y a une menace qui vient avec cela, et une intention de submerger les gens, ce qui fait que les gens ont l’impression qu’il n’y a pas d’autre choix. »
Il a déclaré qu’il y avait eu une « adoption imprudente de la technologie sans aucune réflexion sur les limites de cette technologie », en citant l’attaque militaire américaine contre une école en Iran en février, qui a tué plus de 150 personnes, dont au moins 123 enfants. Les responsables impliqués dans l’enquête interne du Pentagone ont déclaré à Bloomberg que la dépendance excessive envers l’IA pour cibler les cibles était l’un des facteurs de l’attaque.
« Il y a ce désir de parler de [l’IA] comme si elle était infaillible, comme si elle ne pouvait être remise en question, comme si les seuls personnes capables de la réguler étaient ceux qui la développent actuellement », a déclaré Mamdani, en mentionnant que Facebook avait fait des arguments similaires en 2008. « En réalité, poursuivit-il, c’est une tentative d’échapper à toute responsabilité à tout niveau, sans mettre en danger la valeur potentielle de l’IPO », ajouta-t-il.
Anthropic devrait faire ses débuts sur les marchés publics cette année, et OpenAI a déclaré qu’elle sera cotée en bourse en 2027.
Mamdani a critiqué l’« abdication complète de la loi fédérale » en ce qui concerne l’IA.
« Au niveau national, lorsque l’on parle d’intelligence artificielle, on utilise souvent un langage lié à une course aux armements avec la Chine, et toute préoccupation humaniste est mise de côté dans un cadre de compétition nationale », a déclaré le maire.
La Force de travail sur l’intelligence superintelligente du président Donald Trump, annoncée plus tôt en ce mois, se concentre principalement sur permettre aux entreprises de IA puissantes de se réguler elles-mêmes, plutôt que de mettre en place de nouvelles restrictions fédérales. Cela se produit malgré les craintes croissantes concernant l’impact de l’IA sur tous les aspects de la vie humaine, y compris les avertissements émis par des whistleblowers chez Anthropic, Google DeepMind et OpenAI, selon lesquels l’IA pourrait conduire à l’extinction de l’humanité.
« Lorsque nous examinons ce qui va suivre cette administration fédérale, il doit y avoir une forme de cadre complètement différente pour penser à l’IA, pour parler d’IA, et pour assumer les responsabilités que nous sommes prêts à prendre en la matière », a déclaré Mamdani.