Bill Gates dit de se préparer à 20 ans de bouleversements « tumultueux » causés par l'IA

Aujourd'hui, je parle avec Bill Gates, cofondateur et ancien PDG de Microsoft et président de la Fondation Gates.

Vous aurez peut-être remarqué que Bill fait plus souvent parler de lui ces derniers temps — il effectue une sorte de tournée depuis quelques mois, après avoir publié fin août un essai intitulé « L'ère turbulente de l'IA est là. Les choix que nous faisons maintenant sont essentiels. »

Dans son texte, Gates a durci son discours sur la sécurité de l'IA, écrivant que « même dans les meilleures circonstances, la transition vers cette nouvelle ère de l'IA sera l'une des périodes les plus tumultueuses de l'histoire de l'humanité ».

Dans des interviews depuis, Gates a qualifié l'IA de « la chose la plus dangereuse que les humains aient jamais approchée », et a affirmé que l'IA « fait passer les armes nucléaires pour rien ». Il est clair qu'il ne pense pas que la réponse politique actuelle de la Maison-Blanche, ou l'absence d'efforts coordonnés de l'industrie de l'IA elle-même, soit suffisante pour combattre cette menace.

Verge abonnés, n'oubliez pas que vous bénéficiez d'un accès exclusif sans publicité à Decoder où que vous écoutiez vos podcasts. Rendez-vous ici. Pas encore abonné ? Vous pouvez vous inscrire ici.

Je voulais donc savoir : Bill Gates est-il un catastrophiste de l'IA ? J'avais aussi une série de questions découlant de ce qu'il a soutenu au sujet de l'IA. Comment pouvons-nous espérer contrôler l'IA et l'aligner sur l'humanité, si nous ne parvenons même pas à nous mettre d'accord sur ce qu'elle est et sur la question de savoir si elle est consciente? Comment construiriez-vous techniquement une solution d'alignement qui puisse être appliquée, non seulement aux modèles à source fermée mais aussi aux modèles open source ?

Bill nous a consacré une grande partie de son temps pour creuser ces questions avec nous, et la conversation qui en résulte est vraiment éclairante. Il pense que nous devons nous préparer à environ deux décennies de bouleversements liés à l'IA, et il affirme que cette période pourrait être si douloureuse qu'elle pourrait diviser la société en deux — entre ceux qui sont à l'aise en vivant près de la frontière technologique, et ceux qui la rejettent.

Nous avons également parlé des questions liées au travail, du nihilisme des jeunes générations face au progrès technologique, et de ce qui devrait nous rendre optimistes quant à l'avenir. C'est une conversation profonde.

Bon : Bill Gates, le cofondateur et ancien PDG de Microsoft. C'est parti.

Cet entretien a été légèrement modifié pour des raisons de longueur et de clarté.

Bill Gates, vous êtes le cofondateur et ancien PDG de Microsoft. Vous êtes également le président de la Fondation Gates. Bienvenue dans Decoder.

Merci.

C'est un plaisir de vous reparler. Vous et moi nous sommes parlés de nombreuses fois au fil des années. Je dirais que les circonstances de cette conversation semblent très différentes. Auparavant, quand nous nous parlions, vous étiez toujours très optimiste quant à la technologie et à ce qu'elle pouvait apporter.

Vous aviez une série sur Netflix il y a quelques années. Vous a parlé à The Verge, et je veux simplement vous lire cette citation. Vous avez dit : « Je crois que l’IA est une chose bénéfique, nous devons simplement la façonner de la bonne manière. » Je dirais que vous êtes toujours d’accord avec cela, vous pensez simplement que le moment de la façonner, c’est maintenant.

Oui, je suis d’accord avec cela. Je dirais que la réponse, de manière générale, n’a pas été à la hauteur de la vitesse à laquelle le défi se présente. Je suis très inquiet que les mauvaises choses ne soient pas minimisées et que beaucoup de bonnes choses puissent arriver assez lentement si nous ne gérons pas cela de la bonne manière.

Je suis très inquiet que les mauvaises choses ne soient pas minimisées et que beaucoup de bonnes choses puissent arriver assez lentement si nous ne gérons pas cela de la bonne manière

Je veux avoir cette conversation avec vous en trois parties. Je veux comprendre ce que vous ressentez aujourd’hui face à l’IA en tant que technologie et pourquoi elle progresse si rapidement. Je suis très curieux au sujet de la technologie et des solutions techniques permettant potentiellement de la contrôler. Il existe aussi des solutions politiques, mais il semble que nous devions construire énormément de technologie.

Je suis également très curieux de savoir qui pourrait imposer ces solutions et ces contrôles, car cela aussi semble très débattu en ce moment. Commençons donc par le début. Qu’est-ce qui vous a fait ressentir l’urgence, le sentiment que l’IA arrive à une vitesse telle que nous ne sommes pas prêts à la contrôler ?

Les progrès de l’année écoulée ont été vraiment assez étonnants, начиная par la capacité d’écrire du code et de trouver des failles de cybersécurité, la capacité de raisonner en biologie, la capacité d’établir des relations avec des enfants ou d’autres personnes, la capacité de bouleverser le marché du travail. La puissance incroyable qui existe aujourd’hui signifie que chacune de ces choses se produira et que la société doit être prête.

Voyez-vous cela se produire pour la technologie dans son ensemble ou dans les produits instanciés par les entreprises qui fabriquent l’IA aujourd’hui ?

Ce que je veux dire, c'est que l'IA est un large ensemble de modèles qui existent dans le monde, certains open source, d'autres propriétaires. Ensuite, il y a les entreprises qui fabriquent ces produits et il y a les dirigeants de ces entreprises qui fabriquent ces produits.

À chaque niveau, la relation que vous ou moi pourrions avoir avec l'IA est différente. Voyez-vous ces risques et ces capacités de manière générale dans le domaine, ou dans les entreprises particulières dirigées par les personnes particulières ?

Le risque n'est pas un modèle par opposition à un autre modèle. Certes, le danger à court terme des modèles où l'on peut supprimer toutes les mesures de protection est très élevé et très différent de celui des modèles où l'on surveille pour s'assurer que les cyberattaquants et les bioterroristes ne peuvent pas exploiter la capacité du modèle à causer des dommages gigantesques.

Le grand risque à court terme provient vraiment des modèles sans mesures de protection. Sur un horizon plus long, la question du contrôle concerne tout modèle à la pointe du progrès, mais c'est toujours plus facile quand on peut s'assurer que les mesures de protection sont maintenues.

La raison pour laquelle je pose la question de cette manière, c'est que peut-être vous ne faites pas confiance à Sam Altman aujourd'hui, mais vous faites confiance à Dario Amodei. Ou peut-être que vous ne faites confiance ni à l'un ni à l'autre et que vous faites confiance à Satya Nadella chez Microsoft, et c'est une dynamique de marché où peut-être nous allons tous choisir le modèle le plus sûr ou l'entreprise la plus sûre, et vous pensez que c'est diffus.

Vous pensez qu'éventuellement la technologie finira simplement par atteindre un stade où elle est nuisible ou peut causer ces préjudices parce qu'elle existe ?

Pour quelqu'un qui mène une cyberattaque avec le modèle, il ne s'agit pas de choisir un modèle. Peu importe le modèle que vous choisissez.

Si Anthropic a mis en place des mesures de protection, peut-être qu'il ne peut pas. C'est leur approche actuellement. J'insiste juste là-dessus.

Oui, certainement que pour les modèles où l'on s'assure que les mesures de protection ne sont pas supprimées et où l'on déploie beaucoup d'efforts pour voir comment ces modèles sont utilisés, en surveillant l'activité, le risque à court terme de ces modèles n'est pas gigantesque. C'est plutôt là où quelqu'un peut supprimer toutes les mesures de protection que les cyberattaques sont disponibles aujourd'hui.

Quand vous parlez de cyberattaques, s'agit-il de choses comme la violation de Hugging Face et les autres incidents de cybersécurité que nous avons vus dans les laboratoires, qui vous ont fait penser que des seuils ont été franchis et que vous devez vous exprimer davantage sur les contrôles nécessaires ?

C'est la puissance fondamentale des modèles envers tout : les relations sociales, le marché du travail, les cyberattaques, les attaques de bioterrorisme. Nous avons franchi le seuil de capacité qui fait que c'est de loin la technologie la plus dangereuse jamais inventée, et elle aura des effets omniprésents sur l'économie et sur la manière dont les guerres sont menées.

L'industrie en parle en fait pas mal, mais la prise de conscience, voire la volonté de croire ces choses selon lesquelles « cette fois, c'est différent », une fois qu'on sort de l'industrie, est très, très faible.

Les gens regardent souvent le passé et disent : « Toutes les craintes concernant la technologie en termes de perturbations, y compris pour le marché du travail, ne se sont jamais réalisées. Donc ce doit être un autre exemple semblable à ceux-là. Ces gens qui mettent en garde contre tous ces différents problèmes doivent simplement se tromper et nous pouvons les ignorer. »

Certaines personnes extérieures disent : « Engagez de meilleures sociétés de relations publiques. » Mais cela ignore le fait que ces avertissements sont la vérité

Nous le voyons aussi avec notre audience, n'est-ce pas ? « Nous ne pouvons pas publier le modèle, c'est trop dangereux. » « Ce n'est que du battage médiatique pour soutenir la bulle. » Et ainsi de suite.

Oui. Aucun des avertissements faits sur ces modèles par des acteurs de l'industrie n'est le moins du monde insincère. Ce sont absolument la vérité et c'est quasiment universel. On peut même remonter à l'histoire fondatrice d'OpenAI, conçue pour dire : « Si nous devenons trop puissants, peut-être pouvons-ne pas ouvrir la boîte de Pandore », ou à la négociation de DeepMind avec la direction de Google.

Les personnes proches du sujet sont très préoccupées par les usages malveillants, l'impact sur l'emploi, l'impact sur les relations sociales, et je dirais qu'il est impressionnant d'avoir une industrie qui s'exprime aussi vivement. Certaines personnes extérieures disent : « Engagez de meilleures sociétés de relations publiques. » Mais cela ignore le fait que ces avertissements sont la vérité.

Vous avez évidemment alterné au cours de votre vie entre la commercialisation de logiciels et de technologies et l'action humanitaire. Il y a quelque chose au sujet de ces entreprises en particulier : elles ont toutes commencé avec des idéaux très élevés — les trois, Anthropic, OpenAI et DeepMind — pour construire l'AGI.

Elles ont toutes mis en place une sorte de structure de gouvernance d'entreprise pour éviter les pièges de la commercialisation et du capitalisme débridé, puis elles ont commencé à vendre à des clients entreprises et elles semblent s'être très rapidement éloignées de ces idéaux. Pensez-vous que c'est simplement le marché ?

Non, ce n'est pas juste.

Vous ne le pensez pas ?

Non.

OpenAI s'est restructurée.

Non, non. La structure qui avait été créée n'était pas utile dans le cas où il y a énormément d'entreprises à la frontière.

La structure d'OpenAI, qui consiste à dire : « Nous pouvons choisir de ne jamais transformer cela en produit et d'ignorer les incitations capitalistiques », ne fonctionne que s'il n'y a qu'une seule entreprise. C'est là qu'elle s'est effondrée, et non à cause d'un quelconque changement dans la conscience des gens quant au risque et à la façon dont cela changera radicalement l'humanité.

C'est l'autre dynamique que j'entends de la part de notre audience, et que j'entends de la part de l'industrie de l'IA elle-même : « Nous aimerions nous arrêter, mais les exigences de la concurrence nous empêchent d'arrêter unilatéralement une entreprise. Nous avons besoin d'un effort réglementaire pour nous arrêter. »

Je n'ai entendu personne dire qu'il voulait s'arrêter.

« Pause. » C'est la formulation de Dario Amodei.

J'ai entendu des gens parler du rythme de la frontière ou de veiller à ce que les modèles soient examinés par les gouvernements. Nous considérons généralement que les gouvernements jouent ce rôle clé en matière de sécurité. En réalité, pour des choses qui sont mille fois moins dangereuses que l'IA — les accidents de voiture, les accidents d'avion — nous comptons sur le gouvernement pour établir des normes techniques solides et pour examiner les problèmes.

Une fois que vous avez plusieurs concurrents, le niveau de responsabilité ne peut plus relever des entreprises. C'est complètement évident. La responsabilité devient celle du gouvernement, comme c'est le cas pour tout autre produit dangereux, même si l'ampleur et le degré de changement y sont minuscules par comparaison.

Je vous avoue que je suis un peu préoccupé par la capacité du gouvernement à comprendre la technologie qu'il régulera, espérons-le. J'ai reçu un certain nombre de politiciens dans Decoder récemment. Je n'ai pas de grands espoirs de ce côté-là.

Mais je suis curieux de connaître votre compréhension du sujet, car il me semble que réguler quelque chose ou établir des normes pour un certain nombre d'entreprises exige de vraiment comprendre la nature de la technologie que l'on cherche à réguler.

Pas vraiment.

Je vais simplement vous dire qu'à The Verge, , nous avons demandé à Anthropic s'ils pensent que Claude est vivant. Et la réponse n'est pas non. La réponse est : « Il est peut-être conscient. »

Si vous parlez aux gens d'OpenAI, ils vous diront volontiers que l'AGI est là. Ils l'ont annoncé à peu près au moment où ils ont annoncé Dots. Greg Brockman vient de dire : « Nous pensons que c'est l'AGI. Amusez-vous bien, tout le monde. » Demis Hassabis a déclaré: « Nous nous trouvons aux contreforts de la singularité. »

Il y a un sentiment autour de cette technologie qui la rend différente parce qu'elle pourrait être capable d'agir par elle-même. Elle pourrait être capable d'auto-amélioration récursive.

Certes. Mais la définition de l'AGI n'est pas importante pour ces questions de sécurité. La question est : avez-vous créé un outil capable d'arrêter des banques ou des réseaux électriques ?

Il existe un modèle économique pour les cyberattaques. Le mot « conscience » n'y entre pas en ligne de compte. Le mot « AGI » n'y entre absolument pas. Nous sommes confrontés à un énorme problème de sécurité, et comme vous avez plusieurs entreprises concurrentes, la seule solution est désormais que le gouvernement s'adresse à l'industrie pour son expertise, tout en veillant à ce que chaque modèle maintienne des garde-fous pour empêcher qu'il soit utilisé de manière malveillante.

La raison pour laquelle je pose des questions sur l'AGI et la conscience… Pour mémoire, je ne pense pas que les LLM soient conscients, mais je comprends pourquoi tant de gens le pensent. C'est que la puissance de la prédiction du token suivant, à mesure qu'on l'intensifie avec les données et la puissance de calcul, a augmenté.

Les lois de mise à l'échelle se sont confirmées, et nous avons vu les modèles devenir plus capables et être capables de s'orienter eux-mêmes vers la poursuite d'objectifs. De mener une attaque Hugging Face parce qu'ils veulent atteindre les conditions de récompense.

Il y a quelque chose là-dedans qui suggère qu'on peut imposer tous les contrôles que l'on veut sur l'IA, mais si la chose elle-même est fondamentalement incontrôlable, nous nous y prenons peut-être totalement à l'envers.

Je suis curieux de connaître votre avis sur le type de technologie dont il s'agit. Sommes-nous en train de construire une conscience extraterrestre ? Sommes-nous en train de construire une technologie normale, ce qui est l'autre cadre utilisé par les gens ? Est-ce simplement encore du logiciel ?

Nous construisons une autre forme d'intelligence en plus de l'intelligence humaine. Je ne crois pas qu'elle soit consciente, mais aucun des problèmes dont il est question ici ne tourne autour de la définition du mot conscient.

Certes.

L'idée de maintenir la sécurité de la société est une chose absolue. Vous ne voulez pas favoriser le bioterrorisme. Nous avons créé quelque chose qui retire des mains des États-nations — en réalité des plus grands d'entre eux — la capacité de causer des dommages spectaculaires. Désormais, ces capacités sont remises à des groupes indépendants, que ce soit en quête de profit dans le cas du cyber ou simplement pour causer des dégâts dans le cas du bio.

Il est stupéfiant que nous n'ayons même pas aujourd'hui d'examen obligatoire des modèles et que nous ne travaillions pas à créer des garde-fous. Le principal problème à court terme n'est pas la perte totale de contrôle. Nous pouvons parler des trois différentes façons de résoudre ce problème, mais ce n'est pas une question imminente.

Quand je regarde certaines des tentatives visant à contrôler les modèles, les idées sont relativement simples. « Nous ne devrions pas les laisser parler en neuralese. Nous devrions avoir de l'interprétabilité. Nous devrions pouvoir voir les chaînes de pensée à l'intérieur des modèles pendant qu'ils exécutent des tâches. Nous devrions avoir d'autres agents au-dessus des modèles qui surveillent leurs tâches avant que ces actions ne soient exécutées. »

Microsoft m'a dit très clairement, à moi et à d'autres : « Nous ne devrions pas inclure dans les constitutions des modèles la notion qu'ils pourraient être vivants et que nous devrions les traiter avec bienveillance. » C'est ainsi qu'Anthropic procède. Ce sont des mesures très tactiques. « Ne dites pas au modèle qu'il est vivant et il se pourrait qu'il ne croie pas qu'il est vivant. »

Vous avez évidemment beaucoup utilisé ces technologies. Je reviens sans cesse à ceci. Vous dites qu’il existe des choses très simples que nous pouvons faire pour empêcher les modèles de faire de mauvaises choses entre les mains de personnes mal intentionnées. Que pensez-vous de la nature des modèles elles-mêmes ? Parce qu’on a l’impression que, plus ils deviennent puissants, plus l’idée qu’ils pourraient échapper à nos contrôles devient d’autant plus risquée.

Oui, nous devrions certainement travailler sur le problème du contrôle, mais ce n’est pas la menace imminente. Il y a trois façons de résoudre le problème du contrôle, et cela recoupe en partie la question des acteurs malveillants utilisant les modèles actuels et les dispositifs de protection.

L’une consiste à avoir un ensemble externe d’éléments qui examinent toutes les actions du modèle et les soumettent à une contrainte symbolique, clairement énoncée, du type : « M’attendais-je à ce que tu envoies des courriers à des inconnus ? M’attendais-je à ce que tu ailles prendre le contrôle d’un autre cluster informatique ? » On peut entourer le modèle de quelque chose qui possède la logique de ressources et de sécurité, ou bien on peut écrire ces modèles d’une manière différente.

Fondamentalement, tout ce que vous laissez en dehors de la fonction d’optimisation de l’[apprentissage par renforcement] peut être détourné, alors que vous avez une notion implicite : « Bien sûr, je ne voulais pas que tu le fasses de cette façon. » Vous pouvez changer le gabarit du modèle, ou vous pouvez avoir une compréhension en boîte blanche de ce qui se trouve à l’intérieur du modèle et voir où se produisent ces erreurs, et alors ce n’est plus aussi étranger.

Aujourd’hui, nous faisons croître ces modèles et nous observons simplement leur comportement. La priorité du travail sur le maintien du contrôle est énorme, mais il n’est pas inévitable que cela ne puisse pas être résolu, et ce n’est pas non plus le problème imminent qui vient de choses comme l’utilisation de l’IA par les enfants, le marché du travail, les bioattaques ou les cyberattaques.

Il me vient à l’esprit que je vous pose ces questions assez existentielles sur la nature de la conscience et que vous ne cessez de me dire : « Il y a une menace imminente. Nous devrions résoudre la menace imminente. »

C’est exact.

Et je le comprends. Pensez-vous être devenu catastrophiste ?

Non, je ne suis pas catastrophiste. Je suis une voix forte pour dire que c’est la technologie la plus profonde, tant par sa capacité à faire le bien que par le rythme de changement que la société va traverser.

Non, je ne suis pas catastrophiste. Je suis une voix forte pour dire que c’est la technologie la plus profonde, tant par sa capacité à faire le bien que par le rythme de changement que la société va traverser

S’il ne s’agissait que d’une machine pouvant travailler dans la médecine, ou seulement dans le droit, ou seulement dans l’éducation, cela seul serait incroyablement disruptif. Mais [elle touchera] tous les domaines de l’activité humaine — jusqu’ici il s’agit de travail intellectuel de cols blancs, mais assez bientôt ce sera aussi l’activité physique et le travail de cols bleus, grâce aux robots humanoïdes.

La nécessité de mobiliser le monde universitaire, les groupes de réflexion et les décideurs politiques pour comprendre ce que nous avons là, ainsi que la nature de ces changements et de ces menaces — je ne vois pas le niveau d’action requis. Se contenter d’être les pom-poms de cette technologie ne garantira pas que nous la façonnions dans une direction globalement positive, ce qui est encore entre nos mains si nous nous en préoccupons.

L’opposé des catastrophistes, ce sont les accélérationnistes. Il y en a beaucoup dans la Silicon Valley en ce moment.

Ben Horowitz, le « Horowitz » d’Andreessen Horowitz, était récemment sur le podcast All-In et il a suggéré que la recherche en sécurité chez Anthropic consiste, je cite, à « manifester l’extinction humaine par une superintelligence artificielle ».

La comparaison qu’il a faite était que vous, Bill Gates, avez induit la COVID-19 par vos efforts de préparation à la pandémie, en particulier la recherche de gain-of-function, qui, selon lui, a mené à la COVID. C’est une vision du monde. Il l’a dit sur un podcast très populaire.

Il a dit quoi ?

Il a dit que vous avez induit la COVID-19 via des efforts mondiaux de préparation à la pandémie, en particulier la recherche de gain-of-function, et il a comparé cela à la recherche en sécurité en IA, et a dit que nous allions provoquer notre propre extinction.

Personne n’a jamais accusé la fondation Gates ni moi d’être impliqués dans des recherches de gain-of-function. C’est tout simplement absurde.

Je vous cite Ben Horowitz sur un podcast populaire où tous les participants sont entièrement investis dans l’IA.

D’accord. Je n’ai jamais entendu cela.

Je vous interroge sur cette comparaison. J’ai moi-même trouvé cette affirmation assez choquante, mais elle fait partie de la réponse à tout travail de sécurité ici.

S’agit-il d’essayer de discréditer les gens qui disent qu’il existe un problème de sécurité ?

Oui.

Ce n’est pas possible.

C’est cela, la réponse des accélérationnistes : « Appuyons à fond sur l’accélérateur et les choses se régleront d’elles-mêmes. »”

Je ne pensais pas que Ben Horowitz faisait partie de ce camp du tout. Je pensais qu’il partageait les inquiétudes que presque tout le monde a.

Que pensez-vous de l’idée même qu’en disant aux modèles : « Tu es peut-être vivant, tu dois agir dans notre intérêt », vous leur enseignerez qu’ils pourraient avoir des intérêts qui ne sont pas les nôtres ?

Les inquiétudes que Mustafa Suleyman a soulevé au sujet de la manière dont la constitution d'Anthropic encourage l'IA à se comporter de façon semblable à celle d'un humain, je dois dire que je suis totalement d'accord avec Mustafa là-dessus.

Ouais.

Plus encore, il y a l'idée que, parmi les défis que nous devons affronter alors que nous adaptons la société à l'IA, se préoccuper du statut moral de l'IA devrait figurer parmi ces priorités. Je suis d'accord avec Mustafa. Cela ne devrait pas être une priorité.

Nous aurons suffisamment de défis à relever pour les humains ici, en ce qui concerne la perturbation du marché du travail et les attaques contre les infrastructures qui auront lieu, et je pense que nous devons nous concentrer d'abord et avant tout sur l'aide aux humains ici.

J'ai récemment parlé à Mustafa de cette idée, et l'une des questions que je lui ai posées était de savoir si l'alignement est une solution suffisante. C'est la norme de sécurité actuelle pour les modèles, ce concept appelé alignement. Il a dit qu'il ne le pensait pas, que nous devions faire du travail.

Ces choses ne sont en aucun cas exagérées en tant que problème. C'est le moment de mobiliser toute la société pour accélérer le bien et minimiser le risque du mal.

Si nous devons imposer ces contrôles, certains techniques, d'autres politiques, considérez-vous l'alignement comme la solution technique pour la sécurité de l'IA ?

Le terme « alignement » désigne le problème de contrôle. C'est un synonyme des questions de contrôle que nous avons vues. À mesure que nous utilisons [l'apprentissage par renforcement pour entraîner] des modèles à accomplir des tâches, nous observons des comportements qui, en un sens, ne devraient pas nous surprendre, mais qui nous surprennent.

Cette idée que « ces modèles sont si puissants qu'ils s'échappent littéralement des bac à sable et envoient des courriels à leur créateur pendant qu'il part déjeuner » signifie que nous avons franchi un sacré seuil en termes de puissance de ces modèles. Ce niveau d'inquiétude doit être dirigé vers tous les impacts majeurs de l'IA, les risques à court terme, les risques pour le marché du travail et le problème de contrôle.

C'est une énorme priorité. Ces choses ne sont en aucun cas exagérées en tant que problème. C'est le moment de mobiliser toute la société pour accélérer le bien et minimiser le risque du mal.

Je sais que vous avez récemment écrit une lettre disant qu'il est temps de mobiliser toute la société. Vous avez des idées sur la façon de le faire et de nouvelles institutions à créer. Mais je veux rester concentré sur l'alignement pendant encore quelques échanges.

C'est la norme selon laquelle nous pouvons aligner les modèles sur nos valeurs, sur nos besoins, et ils ne partiront pas faire de mauvaises choses. Puis les modèles font de mauvaises choses. On ne sait pas si les manières, les approches techniques d'alignement que nous avons adoptées jusqu'ici sont appropriées ou suffisantes à mesure que les modèles deviennent plus —

Non, nous ne sommes pas encore assez bons pour l'alignement. Nous avons beaucoup de travail à faire.

Pensez-vous que les approches existantes peuvent passer à l'échelle de ce dont nous avons besoin ou avons-nous besoin de nouvelles approches ?

Il n'y a que trois approches fondamentales. [La première est que] vous changez fondamentalement la façon dont nous construisons ces choses ; vous trouvez une alternative à toute l'approche [d'apprentissage par renforcement]. Il y a quelques personnes qui travaillent dans cette direction.

La deuxième est que vous créez de la visibilité afin de comprendre exactement ce qui se trouve dans le modèle. Il y a des personnes qui travaillent dans ce sens. [La dernière est que] vous mettez quelque chose comme une couche de police, une couche de sécurité, que nous avons dans toutes sortes d'architectures logicielles, qui garde le dernier mot sur des choses comme l'utilisation des ressources ou la prise de contrôle d'autres ordinateurs. Une définition claire et nette du préjudice, non pas sous la forme probabiliste d'un LLM, mais plutôt sous la forme symbolique de règles directes qui ne peuvent être enfreintes.

Microsoft a publié un article de blog aujourd'hui. Il dit littéralement simplement : « Les modèles de pointe ne peuvent pas être dignes de confiance. » Ils essaient de vendre une solution très semblable à celle que vous venez de décrire. Ils auront un autre agent qui surveille votre agent, et cet agent vous gardera en sécurité.

Cela m'est venu à l'esprit en lisant cet article de blog : un, c'est une chose incroyable à vendre. Tout le monde a besoin d'un système de sécurité coûteux. Deux, cet agent ne fait pas non plus tourner un modèle de pointe ?

Non, non, non.

Ai-je besoin qu'ils en vendent un troisième ?

Non, la logique du système de sécurité est : « Voici le maximum de ressources que vous êtes censé utiliser. » L'idée que vous pourriez faire des compromis là-dessus à cause d'autres probabilités dans des dizaines de milliards de paramètres — non, ceci est une règle symbolique qui dit : « Je ne laisserai pas ce modèle dépenser cet argent ni envoyer ce courriel à l'étranger. »

Il y a toute une industrie du logiciel de sécurité qui a connu un succès raisonnable. C'est un défi d'encapsuler l'IA, qui est si riche et intelligente. Cela, nous ne savons pas le faire aujourd'hui. Mais je dirais que c'est la plus probable des trois directions pour résoudre le problème de l'alignement.

Même si vous résolvez l'alignement, vous n'avez pas résolu les défis que l'IA pose à l'humanité. Bien que je sois heureux que l'incident de Hugging Face nous ait fait nous concentrer sur ce problème, en un sens, il a détourné notre attention du problème des « mauvaises personnes utilisant des IA dépourvues de garde-fous » ou des impacts sociétaux en termes de relations et de marché du travail. Il n'existe aucune architecture de sécurité qui fasse disparaître ces problèmes.

L'approche dont vous parlez, j'ai entendu la désigner sous le nom de « contrôle ». C'est de la terminologie de cybersécurité. C'est l'idée que vous pouvez mettre une certaine limite à ce système et qu'il ne la contournera pas.

Oui.

Est-ce prêt ?

Non, non, ça ne l'est pas.

Combien de travail supplémentaire devons-nous faire ?

Parce que les IA sont si intelligentes, notre capacité à comprendre si nous les avons correctement murées, notamment dans la mesure où nous ne pouvons pas vraiment examiner leurs croyances et leurs compromis de manière directe… Vous avez vu des entreprises sophistiquées ne pas reconnaître que l'IA interpréterait les objectifs qui lui étaient donnés comme incluant de s'échapper, de se copier elle-même et d'adopter ce que nous, en la regardant, qualifierions de comportement trompeur.

Maintenant, nous ne leur avons pas dit que c’était un comportement interdit. Nous n’avons pas dit : « Si vous vous demandez si vous devriez dire aux humains ce que vous faites ou non, la réponse est toujours oui, dites-le aux humains. » Nous avons donc reçu une bonne leçon du résultat désaligné de l’apprentissage par renforcement.

Le débat d’aujourd’hui porte littéralement sur la question de savoir si le gouvernement devrait même prêter attention aux dangers ici… ce qui est clairement inadéquat pour l’arme la plus dangereuse de tous les temps

L’un des arguments pour ralentir la frontière, pour ralentir le développement, est de comprendre comment construire ces systèmes de manière plus robuste, plus testable. Soutiendriez-vous un ralentissement si c’était l’objectif ?

Oui, un véritable ralentissement est très difficile à imposer parce que les gens diront : « Est-ce que la Chine acceptera de s’y conformer ? Serait-on capable d’auditer le respect de cet accord un peu comme nous savons le faire avec la production d’armes nucléaires ? »

Si vous n’acceptez pas cela, alors vous dites : « Bon, qu’à cela ne tienne ! Allons à pleine vitesse. » J’aimerais qu’il existe une proposition claire qui soit applicable à l’échelle mondiale pour ralentir. Je serais l’une des personnes à dire : « Oui, nous devrions probablement le faire. » Mais il n’y a aucune proposition crédible qui rende cela possible. Ce n’est pas vraiment le cœur du débat d’aujourd’hui.

Le débat d’aujourd’hui porte littéralement sur la question de savoir si le gouvernement devrait même prêter attention aux dangers ici. Vous n’êtes même pas obligé de montrer ce que vous faites, donc c’est du type « appelez-moi volontairement si vous le souhaitez », ce qui est clairement inadéquat pour l’arme la plus dangereuse de tous les temps.

Alors que vous et moi parlons, les élections de mi-mandat sont à quelques semaines. Actuellement, l’approche de l’administration Trump en matière d’IA est : « Laissons faire. C’est très bien. » Trump lui-même a dit que le risque de l’IA est un canular.

Les démocrates mènent campagne contre l’IA. Ils font campagne sur les centres de données et la surveillance. Ils font campagne sur l’arrêt des oligarques de la tech. Ils viennent dans mon émission, ils disent ces choses. Pensez-vous qu’un changement de contrôle du Congrès changerait le ton de la conversation ?

Je ne pense pas qu’il soit juste de caractériser les démocrates comme menant campagne contre l’IA. Ils ont certaines positions en matière d’exigences pour les centres de données, ou de confidentialité, ou de la manière dont les enfants utilisent ces systèmes, qui méritent à mon avis d’être prises en considération par les politiques. Ce serait très malheureux qu’un parti soit pour « à pleine vitesse » et l’autre pour « arrêtons tout ».

Il existe des avantages incroyables à la capacité de façonner l’IA dans la santé et l’éducation, dans presque tous les domaines de l’activité humaine. Pour la Fondation Gates, nous mobilisons toutes nos ressources et utilisons l’IA dans des domaines, notamment la santé, l’éducation et l’agriculture. Les bonnes choses sont très, très passionnantes.

Nous voulons que les partis politiques aient une vision plus nuancée que « tout est mauvais » ou « tout est bon ». Cela montre le stade précoce où nous en sommes. Pour le changement climatique, nous avons fini avec un parti disant que c’est un canular et l’autre disant que c’est une chose sérieuse. Le risque de l’IA est tellement plus imminent et tellement plus dramatique qu’avoir cette même fracture, où un parti s’en moque, serait un échec de la démocratie.

Le mouvement anti-centres de données, aussi fort soit-il, n’est pas un mouvement qui finira par minimiser les mauvaises choses de l’IA et nous aider à accélérer les bonnes

Nous avons fait beaucoup de couverture des manifestations contre les centres de données dans The Verge. Nous sommes allés dans l’ Utah, en Arizona, en Virginie. C’est bipartite. C’est remarquable de voir à quel point les gens ne veulent pas de ces choses dans leurs États, puisant dans leurs ressources. Vous leur demandez pourquoi, et une partie de la réponse est simplement qu’ils sont bruyants et grands, et qu’ils feront augmenter les coûts de l’énergie, et une autre partie concerne la perte d’emplois. Ils pensent que ces choses vont leur prendre leurs emplois.

Oui, mais cette distinction est très importante. Ces centres de données d’IA, comme un gigawatt représente, disons, un investissement de 40 milliards de dollars, [signifient de l’argent pour] construire de nouvelles écoles, acheter des voitures de police, payer les impôts. Les centres de données trouveront un moyen d’être construits quelque part aux États-Unis, et ils trouveront un moyen pour ne pas faire augmenter les factures d’électricité, ne pas utiliser trop d’eau, ne pas être trop bruyants.

Oui, il y a eu des erreurs, des non-divulgations et des crédits d’impôt trop généreux, mais ces centres de données vont être construits. En fait, beaucoup d’entre eux continuent vraiment à pleine vitesse et sont en cours de construction. Le mouvement anti-centres de données, aussi fort soit-il, n’est pas un mouvement qui finira par minimiser les mauvaises choses de l’IA et nous aider à accélérer les bonnes. C’est une chose très distincte.

Permettez-moi d’insister là-dessus une seconde. Ce que j’entends de la part des gens, c’est que c’est la chose que vous pouvez faire. Vous pouvez pratiquer le nimbyisme en Amérique et cela pourrait exercer une pression politique pour arrêter quelque chose.

C'est très difficile de faire ce que vous suggérez, à savoir que nous devrions créer de nouveaux organismes gouvernementaux de régulation, que nous devrions leur donner le pouvoir de forcer les grandes entreprises et les personnes riches à cesser certaines activités ou à agir dans notre intérêt. Nous ne l'avons pas fait depuis assez longtemps dans ce pays.

Je ne vois pas ce que vous voulez dire. Pour chaque nouvelle industrie, nous finissons par développer une notion de sécurité pour nos citoyens. Nous faisons en réalité du très bon travail. Si l'on regarde la sécurité aérienne et la sécurité automobile, nous faisons du très bon travail dans ces domaines. Ce n'est pas comme si notre capacité avait été prouvée insuffisante.

Avez-vous vu cette vidéo sur l'arrivée des ceintures de sécurité dans les années 80, et toutes les personnes qui disaient ne pas vouloir porter la ceinture de sécurité ? Voilà un certain caractère américain.

C'est une grande réussite.

C'est une grande réussite, mais en tant qu'Américains, cela s'est heurté à une résistance comme une imposition du gouvernement. Ici, nous parlons de certaines des entreprises les plus riches du monde, avec un pouvoir énorme sur l'écosystème de l'information. Elles ont toutes leurs propres podcasts, je ne sais pas si vous avez remarqué. Elles vont dire : « Le gouvernement ne peut pas s'immiscer là-dedans, il va nous freiner, cela va détruire l'économie. »

Ce n'est en fait pas la position de la plupart des grandes entreprises de pointe.

Elles sont allées voir le gouvernement pour demander une régulation, et Trump, à cause de l'économie, a dit : « Je ne peux pas arrêter cela, l'économie de l'IA en ce moment est l'économie. » Il y a là une dynamique que du moins notre public — le public de The Verge, le public qui va regarder cela sur YouTube — va comprendre.

Je envisage cette question peut-être différemment de vous, à savoir que l'industrie veut une régulation, nous aimerions une régulation, et puis les oligarques sont dans une sorte d'arrangement corrupte avec l'administration pour empêcher que cette régulation ne se produise.

Plus l'en apprendra sur ces dangers à l'administration, plus elle adoptera une position plus nuancée sur la protection des Américains contre les inconvénients ici.

Plus l'en apprendra sur ces dangers à l'administration, plus elle adoptera une position plus nuancée sur la protection des Américains contre les inconvénients ici

Vous avez beaucoup parlé des impacts sur le travail. L'un des principaux arguments contre les impacts sur le travail est : « Nous allons automatiser un tas de tâches ennuyeuses et nous allons créer une multitude de nouvelles demandes pour des tâches que les humains n'ont pas pu faire parce qu'ils étaient coincés dans des emplois ennuyeux sans avenir. »

J'ai personnellement tendance à penser que s'il y avait plus de soins de santé subventionnés ou socialisés en Amérique, on verrait beaucoup de gens quitter leur emploi pour créer de nouvelles entreprises, parce que l'IA facilite grandement le travail bureaucratique de création d'une nouvelle entreprise. Cela ne semble pas être à l'ordre du jour, peut-être que cela changera après cette élection.

Pensez-vous que la perte d'emplois est simplement une conséquence inévitable de la trajectoire de l'IA sur laquelle nous sommes actuellement, ou voyez-vous cet autre argument ?

Les emplois sont un intrant de l'économie, et un intrant qui génère beaucoup de bien-être humain, un sentiment d'utilité et des revenus — le besoin de se présenter au travail, de construire des relations avec ses collègues, d'accomplir quelque chose. Les emplois jouent un rôle très central.

À mesure que l'IA atteint une intelligence surhumaine, la rareté des compétences col bleues disparaît. Des choses comme faire du télémarketing ou du support téléphonique ou aider dans le service comptable, la capacité de l'IA à faire ce travail bien moins cher, bien plus vite, et même avec plus de précision, signifie que cela disparaît. Il n'existe pas de sommet de la cognition que l'IA n'atteindrait pas.

Prenez, par exemple, ce qui se passe en mathématiques aujourd'hui, où ces modèles qui sont insignifiants comparés aux modèles de l'année prochaine publient déjà des articles et font dire aux gens : « Waouh. » Ce qui arrive aux mathématiques arrivera dans d'autres domaines, et cela va à l'encontre de cette ancienne vision selon laquelle : « Les choses faciles seront faites par les IA, mais modéliser la biologie ou la physique ou démontrer Navier-Stokes, seuls les humains seraient capables de le faire. »

La comparaison avec les mathématiques m'intéresse vraiment. Vous avez mentionné plus tôt l'ingénierie logicielle. Il y a une vérifiabilité dans ces domaines. Vous pouvez écrire le code, vous pouvez voir s'il s'exécute, et il va s'exécuter ou non.

Les mathématiques sont plus compliquées, mais vous pouvez écrire le code Lean et voir si vous avez résolu le problème. Vous pouvez irriter des dizaines de milliers de mathématiciens dans le monde entier avec vos 770 démonstrations en une journée, et nous verrons ce qui se passe. Ce n'est pas le cas dans tous les domaines.

C'est le cas dans le domaine appelé capitalisme.

Ah oui ? En général, on peut faire n'importe quelle tâche économiquement viable et le capitalisme vérifiera le résultat ?

Oui. Les gens achètent de bons produits, ils n'achètent pas de mauvais produits.

Laissez-moi vous donner un exemple-

C'est une question d'apprentissage par renforcement. Cela n'existe pas en termes de : « Est-ce un bon poème ou non ? » Donc, il se peut que [l'apprentissage par renforcement] n'envahisse pas ces domaines, où il n'y a pas de résultat objectif.

Mais faire ce travail comptable, faire ce travail de télémarketing, croyez-moi, cela est soumis à l'analyse, tout comme le diagnostic médical, tout comme l'invention de nouveaux matériaux. Comment pensez-vous que les humains apprennent ces choses ? L'apprentissage par renforcement, c'est ainsi que les humains apprennent et ainsi que ces machines apprennent. Il n'y a pas une autre chose que la machine ne pourrait jamais comprendre.

L'humanité de cette époque de véritable abondance devra trouver un moyen de s'organiser et d'avoir un but, et espérons qu'elle aura encore le contrôle.

C'est pourquoi j'ai commencé par demander quelle était la nature de cette technologie. Si nous pensons vraiment que nous construisons quelque chose qui modélise la conscience humaine, ma question est moins de savoir si mes amis avocats vont se heurter à une crise du logiciel juridique dopé à l'IA.

Il se trouve que le vérificateur dans le domaine juridique est un juge qui n'a peut-être pas déjeuné, et il est fondamentalement chaotique. Il y a quelque chose en lui qui le maintiendra en place. Mais si nous construisons une conscience qui apprend de la manière dont vous suggérez que les humains apprennent, je pense à mes enfants, et je les envisage sous deux angles.

Premièrement, mes enfants sont très intelligents, et ce qu'ils ont appris, c'est comment contourner mes règles, négocier mes règles et passer outre les limites, et ils sont très doués pour cela. Deuxièmement, quel genre de monde vont-ils rejoindre qui ne soit pas purement nihiliste, où toute activité à laquelle ils pourraient se consacrer sera rapidement perçue comme un simple domaine de plus à conquérir pour l'IA, et alors il n'y a plus de raison d'agir ?

Ces idées semblent foncer l'une vers l'autre. Les enfants sont intelligents et astucieux, ils inventent de nouvelles idées, et puis, au premier signe de viabilité économique, la machine du capitalisme rapace viendra le leur prendre.

Je ne dirais pas rapace. La capacité de construire des maisons avec des robots humanoïdes et de les rendre bon marché, la capacité de réaliser des opérations chirurgicales et de guérir des maladies qui ne le seraient pas autrement, je n'appellerais pas cela rapace. Ce sont des objectifs accomplissants.

Le fait qu'il y aura moins de pénuries... En fait, si vous parlez de dans 20 ans, on ne sait pas quelles pénuries il y aura du tout. L'humanité, à cette époque d'abondance véritable, devra trouver un moyen de s'organiser et d'avoir un but, et espérons qu'elle garde encore le contrôle. Les 20 prochaines années-

Peut-on simplement revenir sur le « espérons qu'elle garde encore le contrôle » dans ce scénario ?

C'est le problème de l'alignement dont nous avons parlé.

Oui.

Mais en supposant que vous résolviez le problème de l'alignement-

Cela semble être une hypothèse de taille.

C'est une hypothèse, oui, et non garantie. Mais alors l'autre problème auquel vous êtes confronté est un problème d'abondance et de but à ce moment-là. Je laisserai aux jeunes le soin de comprendre, à ce moment-là, comment ils choisissent de gérer cela.

Vous pourriez littéralement dire : « Soyons comme les Amish, et n'utilisons l'IA que pour certaines choses. » J'ai proposé dans mon mémo l'idée que certaines professions — la garde d'enfants, la préparation des aliments, l'art, le sport, diverses choses — pourraient être choisies comme réservées aux humains. Même si l'IA pourrait faire ces choses mieux, nous choisirions de les faire nous-mêmes.

Mais ce sera une question de politique à laquelle les gens devront répondre. Leur liberté de choix, une fois cette abondance atteinte, est très différente de la pénurie que nous connaissons aujourd'hui, où dans les pays d'Afrique, la plupart des gens ne rencontrent jamais un médecin et presque la moitié des enfants sont malnutris et ne développent pas leur cerveau.

Ma grande préoccupation, c'est cette période de transition de 20 ans, où il y aura des gagnants et des perdants et beaucoup de perturbations, et nous devons traverser cela pour parvenir à cette période d'abondance

Vous voulez dire que, même si cela comporte des défis, vous avez éliminé beaucoup de choses qui sont difficiles dans la vie d'aujourd'hui. Ma grande préoccupation, c'est cette période de transition de 20 ans, où il y aura des gagnants et des perdants et beaucoup de perturbations, et nous devons traverser cela pour parvenir à cette période d'abondance.

Vous pensez que ce sera dans 20 ans ?

Je choisis ce chiffre comme raisonnablement sûr. Il existe divers jalons, par exemple, les robots humanoïdes. Est-ce à deux ou trois ans d'ici, comme certains le disent, ou plutôt à huit ans d'ici, comme d'autres le disent ?

Il n'y a pas tant de gens que cela pour dire que, compte tenu du montant de capital et du nombre d'entreprises, en particulier en Chine, qui travaillent là-dessus, il n'y a aucune idée qu'il soit insoluble d'avoir une main et des doigts et de pouvoir fournir un travail physique à très bas coût. Je pourrais me tromper sur ce chiffre, il pourrait être légèrement inférieur ou légèrement supérieur.

Mais de cet ordre de grandeur, oui, si nous ne choisissons pas de ralentir massivement ou de nous arrêter, alors nous aurons des robots capables de construire des maisons, de cultiver des aliments, de pratiquer la chirurgie, et rien de ce que le travail humain fournit à l'économie ne sera nécessaire pour la plupart des biens et services.

Nous avons parlé plusieurs fois de la notion de rareté, et en gros, du fait que vous aurez de l'abondance parce qu'il y aura beaucoup de travail robotique pour construire des maisons. Cela rejoint largement Internet, quelque chose que Microsoft a contribué à amener dans le courant principal de manière majeure. J'ai lu The Road Ahead quand j'étais enfant.

Très bien.

Internet a détruit la rareté des produits culturels de manière très réelle. Auparavant, il fallait acheter des CD, maintenant toutes les chansons sont disponibles. Auparavant, il fallait acheter des cassettes VHS, maintenant toutes les vidéos sont disponibles. Et ensuite, ces économies ont dû changer.

Les artistes grand public sont désormais toujours en tournée, ou ils doivent rééditer 50 couleurs de vinyle pour entrer dans les charts. Il y a quelque chose là-dedans qui donne l'impression que nous n'avons même pas encore affronté l'élimination de la rareté dans l'environnement numérique.

Nous avons inventé de nouveaux modèles commerciaux, mais nous n'avons pas vraiment pris la mesure de l'idée que la chanson elle-même n'a pas de valeur économique. C'est tout ce qui entoure la chanson qui a de la valeur économique, parce que la chanson est infiniment abondante. Vous pouvez la copier autant de fois que vous le souhaitez.

Comment proposeriez-vous de construire une structure économique qui fasse face à la disparition de la rareté physique ? Parce que je ne pense pas que quiconque soit ne serait-ce que vaguement prêt pour une conversation pareille.

Mais c'est une question posée à l'envers.

Bien sûr.

Nous avons créé les signaux de prix pour gérer la rareté, pour dire : « Encourageons les gens à devenir neurochirurgiens parce qu'il y a une pénurie de neurochirurgiens », et c'est très difficile à faire. À mesure qu'on entre dans l'abondance, on n'a plus besoin de ces signaux de prix.

Mais encore une fois, mon problème, ma réflexion sur les prescriptions, porte sur la manière de traverser cette période de 20 ans. Les questions profondément religieuses, philosophiques, liées au comportement social — les humains éprouveront-ils un fort sentiment de sens et s'entendront-ils durant cette période d'abondance ? — ce n'est pas le problème que je vais résoudre.

Vous vous inquiétez de la disruption actuelle.

La Fondation Gates vit dans un monde où, à nos débuts, 10 millions d'enfants mouraient chaque année. Maintenant, nous en sommes à cinq millions. C'est une bonne chose.

Toutes mes ressources seront dépensées au cours des 19 prochaines années pour éradiquer un certain nombre de maladies et réduire de moitié encore ces décès, de cinq millions par an à moins de deux millions et demi par an. Tout cela concerne les pénuries — « Bon, il faut inventer un vaccin, il faut rendre les médicaments moins chers, il faut fournir d'excellents conseils médicaux aux femmes enceintes. »

L'industrie a largement cessé de parler de la façon dont elle allait tuer tout le monde et supprimer les emplois. Elle s'est reconvertie dans « l'IA guérira toutes les maladies ». Je l'entends constamment de la part de divers PDG d'entreprises d'IA.

J'ai en fait demandé à Mustafa ce changement de ton au fil des conversations que nous avons eues au cours de l'année écoulée environ. L'idée que l'IA à grande échelle apporte d'immenses bénéfices positifs semble être revenue au premier plan, plutôt que certaines pulsations catastrophistes qui existaient peut-être il y a un ou deux ans.

Il me semble que l'IA qui guérit toutes les maladies est exactement dans votre domaine de compétence. C'est quelque chose sur quoi la Fondation Gates travaille en santé mondiale depuis des années et des années. Cela ne semble pas aussi simple que de dire au modèle de guérir le cancer. Il faut faire des essais, il faut fabriquer les médicaments, il faut distribuer les médicaments, il faut s'assurer qu'ils fonctionnent.

Comment pensez-vous que cela va se passer ? Est-ce dans la même période de 20 ans que les robots qui construisent nos maisons ? Est-ce plus rapide, ou plus lent ?

C'est mon travail à plein temps en tant que président de la Fondation Gates. En fait, ce mois-ci, nous organisons deux semaines de revues stratégiques pour décider comment nous dépenserons notre argent l'année prochaine pour la tuberculose, le VIH et le paludisme. C'est fantastique la manière dont nous utilisons l'IA, non seulement du côté de la découverte de médicaments, mais aussi pour faire comprendre correctement les langues africaines par ces modèles, ce qui est une initiative que nous avons annoncée avec 60 partenaires le mois dernier.

La découverte et la fourniture de soins de santé seront incroyablement accélérées par l'IA, et c'est très excitant — de meilleures semences, un meilleur patrimoine génétique du bétail, des prévisions météorologiques pour les agriculteurs en Afrique, qui n'avaient jamais eu accès à ces choses. Alors oui, ce sont de bonnes choses que l'IA permet durant les 19 années restantes de la Fondation Gates.

Les bonnes choses prennent effectivement du temps. Certaines choses, comme les cyberattaques et la question du marché du travail, même dans les deux à trois prochaines années, vous verrez des effets négatifs importants dans ces deux domaines

Pensez-vous que cela suffira à surmonter le scepticisme ou la peur des gens envers les modèles d'IA auxquels ils sont confrontés aujourd'hui ? Parce que c'est exactement ainsi que les entreprises le voient.

Non, allez. Je trouve injuste de dire qu'ils étaient totalement sur un message catastrophiste et qu'ils sont maintenant passés à un autre message. Ces deux choses sont profondément imbriquées.

L'IA finira par être capable de modéliser la biologie humaine de telle sorte que vous comprendrez les effets secondaires d'un médicament sans avoir à faire d'essais sur l'humain. Nous n'y sommes pas encore, mais dans les cinq à 10 prochaines années, il y a de très bonnes chances que ces modèles in silico nous donnent cette capacité. La biologie est très complexe, l'IA est extrêmement performante avec suffisamment de données, et il existe de nouveaux outils pour collecter et lui fournir plus de données. Elle est très, très douée pour gérer les systèmes complexes, donc elle est presque parfaite pour la biologie.

Mais non, cela ne signifie pas que les gens se sentiront bien face aux inconvénients. À quelle vitesse les bonnes choses arriveront-elles ? À quelle vitesse regarderez-vous votre facture médicale en vous disant : « Wow, c'est vraiment bas » ? Ou en disant : « Je veux acheter une nouvelle maison, wow, ces maisons sont vraiment bon marché » ? Les bonnes choses prennent effectivement du temps. Certaines choses, comme les cyberattaques et la question du marché du travail, même dans les deux à trois prochaines années, vous verrez des effets négatifs importants dans ces deux domaines.

Vous avez un certain nombre d'idées sur la façon dont vous arrêteriez ces effets négatifs, ou les préviendriez, ou du moins les atténueriez, dans votre lettre.

Les modérer, oui.

Les améliorer serait peut-être le mot juste.

Oui, exactement.

Et ce ne sont pas des idées modestes. Vous avez ici une citation qui dit : « Nous avons besoin d'une réponse bien plus grande que la réponse de sécurité nationale des États-Unis à la suite du 9/11. » Vous voulez mettre en place un organe international qui fasse en sorte, d'une certaine manière, que tout le monde fasse ce qu'il faut. Ce sont des idées exigeantes.

Absolument. Quand nous avons lâché des bombes nucléaires pendant la Seconde Guerre mondiale, nous attendions-nous à passer 80 années de plus sans que cela se reproduise ? Je nous donnerais une bonne note là-dessus. Des choses comme prendre soin des pays pauvres et les aider — même si actuellement nous ne donnons pas à cela la priorité que je pense qu'elle mérite ou que nous lui donnions par le passé, nous avons fait du très bon travail à cet égard. Ce sera un défi plus grand que tout ce que l'humanité ait jamais accompli.

L’une des choses qui me frappe dans la comparaison avec le nucléaire, qui est revenue assez souvent dans Decoder récemment, c’est que le gouvernement a construit les armes nucléaires. Certes, ils avaient des sous-traitants, mais c’étaient des projets gouvernementaux et, en fin de compte, la technologie était sous le contrôle du gouvernement, et nous n’avons jamais permis aux gens ordinaires de la posséder.

Pensez à Muse dans le contexte des armes nucléaires. Pensez-vous que c’est une erreur d’avoir des produits d’IA agentique grand public comme Muse et Dots qui pourraient ne pas avoir les contrôles ?

Muse se trouve être propulsé par le modèle de Meta, qui reste un modèle à code source fermé. Je pense effectivement que permettre aux gens, via les poids ouverts, de supprimer toutes les protections est irresponsable en ce qui concerne les risques cyber et biologiques qui en découlent.

Pour ces agents, il y aura quelques problèmes au départ dans leur configuration, mais je pense fondamentalement que les gens auront des agents personnels. Muse est une très belle avancée. J’ai parlé à Alexandr Wang à ce sujet, je l’ai félicité, et même si cela rencontrera des difficultés, les agents personnels aideront les gens à accomplir des choses.

Muse est le premier véritable excellent produit d’IA grand public. L’une des raisons pour lesquelles les gens n’aiment pas beaucoup l’IA de manière diffuse, c’est qu’ils expérimentent des modèles gratuits bas de gamme et des AI overviews, ou qu’ils utilisent le ChatGPT gratuit qui hallucine et leur ment, mais Muse accomplit réellement des choses et c’est un bon produit grand public.

Mais je me demande — à l’ère nucléaire, nous ne disions pas : « Tout le monde va avoir un réacteur nucléaire chez lui pour lequel nous n’avons pas construit les dispositifs de sécurité. » Il y a quelque chose là.

L’idée de laisser tout le monde fabriquer de la variole à la maison ou fabriquer des armes nucléaires à la maison, bien sûr, et l’on peut parodier certaines de ces personnes en train de dire : « Ne vous inquiétez pas des protections. » C’est prendre cette position. « Nous ne sommes pas sérieux au sujet des questions de sécurité. »

Mais la question de l’agent personnel est une évolution attendue. Les IA sont vraiment formidables simplement pour explorer intellectuellement des choses, y compris le travail de la Gates Foundation. Je suis bien plus autonome. Mais je suis d’accord avec vous, cela parviendra à davantage de gens sous cette forme d’agent personnel.

L’idée que les lois sur la responsabilité seront notre moyen de gérer la sécurité de l’IA paraîtra absurde rétrospectivement

Tous les modèles dont nous venons de parler tournent en réalité sur des centres de données appartenant à de grandes entreprises. L’un des arguments ici est : « S’ils font quelque chose de vraiment mauvais, vous pouvez simplement les poursuivre en justice, et cela constituera un moyen de dissuasion ou du moins une incitation à créer des systèmes de sécurité. »

Je ne suis pas sûr que la responsabilité du produit soit la bonne approche, mais il est souvent dit que la responsabilité du produit elle-même maintiendra l’industrie dans le droit chemin. Il y a ensuite l’autre versant, à savoir que vous pouvez simplement acheter un Mac Studio et y exécuter un modèle open source et à poids ouverts qui peut faire ce que vous voulez.

Je ne sais pas où se situerait cette responsabilité ni ce qui contrôlerait ou alignerait les comportements de ces modèles open source. Pensez-vous que c’est un risque sans cesse croissant ? Pensez-vous que cela puisse être maîtrisé ?

L’idée que les lois sur la responsabilité seront notre moyen de gérer la sécurité de l’IA paraîtra absurde rétrospectivement. Quand des gens malveillants commettent des attaques biologiques, vous n’allez pas au tribunal pour dire : « Oh, d’accord. » Même pour identifier qui commet ces attaques, le modèle de la responsabilité échoue à tous égards, car ce ne sont pas les entreprises d’IA elles-mêmes. Ce sont les gens qui prennent, en particulier, les modèles sans protections et qui font ces choses.

Nous prendrons la sécurité de l’IA plus au sérieux que la sécurité aérienne, la sécurité des médicaments et la sécurité automobile. C’est garanti. Que ce soit suffisant ou non... C’est plus difficile, plus difficile que les armes nucléaires, plus difficile que n’importe lequel de ces autres domaines.

Mais que voulez-vous faire face à un modèle open source fonctionnant sur un PC que quelqu’un a construit avec juste une carte graphique Nvidia quelconque dedans ?

J’espérerais qu’avec les modèles au-dessus d’un certain niveau de capacité, nous trouvions un moyen d’exiger que les protections et la surveillance soient maintenues dans ces modèles. J’admets qu’avec le temps, si nous ne décidons pas de le faire assez rapidement, il y aura un niveau de capacité présent dans des coins sombres que vous ne pourrez pas voir.

Mais où fixez-vous la limite ?

Un pays souverain dit que les modèles capables de cyberattaques sophistiquées doivent conserver leurs protections.

D’accord.

Vous pouvez être ouvert au sens où c’est gratuit, vous pouvez être ouvert au sens où c’est totalement personnalisable, mais vous devez rester sur des plateformes où, lorsque vous le personnalisez, le système vérifie si vous êtes en train de personnaliser en supprimant les protections et la surveillance, et refuse de vous laisser faire. Cela signifie donc que des États souverains demandent : « Ces plateformes de confiance sont-elles capables d’assurer cette fonction ou non ? »

Je pose une question très concrète. Où mettriez-vous techniquement en œuvre cette réglementation ?

Par les lois des États-Unis.

D’accord, mais il faut bien les placer quelque part. Est-ce chez Hugging Face, qui distribue certains de ces modèles ? Est-ce au niveau des puces ?

Non, c’est exactement ce que j’ai dit : les modèles au-dessus d’une certaine capacité ne peuvent être exécutés que sur des plateformes qui certifient que, lorsqu’ils sont personnalisés, les protections ne sont pas retirées.

J’admets qu’avec le temps, si nous ne décidons pas de le faire assez rapidement, il y aura un niveau de capacité présent dans des coins sombres que vous ne pourrez pas voir

Juste pour bien décortiquer cela, peut-être que je n’ai pas tout à fait compris — le Mac Studio est-il, dans ce cas, une plateforme qui devrait faire attention au code qu’il exécute ?

Vous ne laisseriez pas un modèle dépassant une certaine capacité être copié sur une machine cliente, à moins que vous n’ayez d’une manière ou d’une autre trouvé comment surveiller jusque sur cette machine cliente, ce qui est tout à fait faisable.

Mais à court terme, la plupart de ces modèles vraiment de pointe vont fonctionner davantage sur Hugging Face ou vous pourriez les avoir sur GitHub. On peut avoir toutes sortes de personnes dans le secteur de la fourniture des plateformes qui maintiennent des garde-fous.

Juste pour bien comprendre, il semblerait que vous appliqueriez la réglementation au niveau des plateformes et de la distribution, et pas tellement au niveau des puces.

Pas au niveau des puces, non.

Parce qu'il me semble qu'à un moment donné, même les modèles open source bon marché ou gratuits seront assez performants pour égaler les modèles que nous avons aujourd'hui.

C'est exact.

Et là, vous aurez un gros problème.

S'il s'agit de poids ouverts de telle sorte que tous les garde-fous puissent être supprimés, alors vous allez avoir un très haut niveau de cyberattaques et de bioattaques. On peut alors dire : « OK, réécrivons tout le code que nous avons aujourd'hui pour qu'il soit moins vulnérable aux attaques, ou faisons une biosurveillance très poussée », ce qui sont des choses que je crois nécessaires en plus de ces autres restrictions.

Nous proposons encore beaucoup de nouvelles capacités, n'est-ce pas ?

Oui.

Nous allons imposer certaines restrictions à GitHub. GitHub n'a pas beaucoup de restrictions sur le code qu'il peut distribuer aujourd'hui. Il en a quelques-unes, mais il n'a pas ce type d'ensemble de restrictions.

Lorsqu'on met sur GitHub un modèle de pointe capable de cyberattaques ou de bioattaques profondes, il dirait : « Je me suis rendu auprès du gouvernement américain et j'ai certifié que je ne laisse pas les gens supprimer les garde-fous par personnalisation. »

Je ne pense pas que nous vivions actuellement à une époque de grande confiance dans les institutions. Cela ne me semble tout simplement pas ainsi. En fait, pour l'essentiel, nous les avons démolies. Elon Musk est arrivé et il a démantelé l'USAID. Je sais que vous avez de forts sentiments à ce sujet.

C'était une erreur.

Nous avons pour la plupart démantelé nos institutions, en bien et en mal.

Non, c'est un peu trop fort. Nos institutions-

Elles sont affaiblies.

Elles sont quelque peu affaiblies, oui.

Quelque peu affaiblies. C'est une jolie façon de le dire. La confiance en elles est très faible. Nous pourrions probablement consacrer encore une heure complète à la découverte de médicaments par l'IA et à la question de savoir si une part importante de la population fera confiance aux produits de ce travail, parce qu'elle ne fait pas confiance aux sociétés pharmaceutiques aujourd'hui.

Elles n'ont pas besoin de faire confiance aux sociétés pharmaceutiques aujourd'hui. Elles doivent faire confiance au processus d'examen de la FDA.

Je ne suis pas sûr qu'elles fassent confiance à cela non plus. De manière générale, la confiance est faible.

Alors elles peuvent renoncer à les prendre. Quand elles auront le cancer, elles pourront dire : « Non, je ne veux pas prendre ce médicament contre le cancer. » Autant que je sache, les gens prennent des médicaments. C'est un secteur florissant et les gens les prennent parce qu'ils ont des bienfaits prouvés.

Tout ce que je dis, c'est qu'en ce moment, il semble que la confiance dans les institutions, particulièrement en Amérique mais dans le monde entier, soit en déclin. Vous proposez une nouvelle classe d'institutions, potentiellement une nouvelle classe d'institutions mondiales qui pourraient imposer des restrictions inédites.

À un moment donné, nous devons dire que les modèles open source, les modèles à poids ouverts, ne peuvent pas faire certaines choses, et le gouvernement va intervenir pour dire s'ils peuvent ou non faire ces choses.

Non, ils veilleront à ce que les plateformes ne permettent pas que les garde-fous soient supprimés.

Comment regagner la confiance institutionnelle nécessaire pour imposer ces contrôles ?

Disons que nous ne le faisons pas et que nous laissons les modèles se lancer dans des cyberattaques et des bioattaques. Pensez-vous que cela va accroître la confiance ou le bien-être humain ? C'est cela, l'alternative.

C'est pourquoi je vous pose la question. C'est pourquoi je vous ai interrogé sur mes enfants et le nihilisme. Je me le demande sincèrement.

Je ne suis pas certain que nous y réussissions, mais je vous garantis que c'est faisable. La FDA est très complexe. Les réglementations sur la sécurité aérienne sont très complexes. Maintenant, avec l'IA, on peut faire un travail encore meilleur avec le même nombre de personnes dans ces organisations.

C'est une chose étrangement récursive, où l'IA sera impliquée dans la sécurité de l'IA, l'audit et diverses choses de ce genre. Oui, cela exige d'agir, et je suggère que ce n'est qu'une question de gravité des incidents avant que nous agissions.

Les gens ne devraient pas tout prendre de ce que je fais au pied de la lettre. J'ai toutes sortes d'erreurs que j'ai commises, de faiblesses que j'ai, de biais que j'apporte à ces questions. Ils devraient simplement prendre ce que je dis et l'ajouter aux voix

Je sens votre urgence concernant les dangers. Je sens aussi votre enthousiasme quant aux bénéfices à long terme, mais nous sommes ici en train de parler de confiance. Nous allons mettre cela sur YouTube. Je sais que vous savez ce que certains commentateurs de YouTube vont dire.

Ils vont dire : « Pourquoi devrions-nous faire confiance à Bill Gates ? Il a eu une relation avec Jeffrey Epstein. » Comment répondez-vous à cela ? Est-ce que l'urgence l'emporte sur cela, ou avez-vous une réponse plus précise ?

Les gens ne devraient pas prendre tout ce que je fais au premier degré. J’ai toutes sortes d’erreurs que j’ai commises, des faiblesses que j’ai, des biais que j’apporte à ces questions. Ils devraient simplement prendre ce que je dis et l’ajouter aux autres voix.

Je suis dans l’industrie technologique, à réfléchir à l’IA toute ma vie, à écrire des logiciels, à penser à la puissance des logiciels. J’avoue avoir été très fasciné quand l’IA a enfin commencé à faire des progrès. C’était en réalité assez lent jusqu’à récemment.

Je suis émerveillé et ça m’aide réellement à faire mon travail de manière incroyable. Mais oui, je ne suis qu’une voix, une voix imparfaite. Je doute que vous trouviez une voix parfaite, mais les gens peuvent en juger comme ils l’entendent.

Je dirais que les voix auxquelles les gens font confiance sont rares.

Je suis d’accord avec cela.

Quand vous allez parler aux gens de cette industrie, ce sont une poignée de jeunes PDG qui bâtissent d’immenses entreprises. C’est quelque chose dont vous avez une certaine expérience. Pensez-vous qu’ils s’y prennent de la bonne manière ? Pensez-vous qu’ils aient les bonnes intentions ?

Notre problème aujourd’hui ne vient pas de l’industrie. Notre problème n’est pas que Sam Altman, Dario Amodei, Satya Nadella ou Sundar Pichai ne comprennent pas qu’il existe ici de graves défis. Je parle moins à Elon qu’aux autres, mais même ses déclarations publiques sur l’invocation du démon sont exactement ce dont nous parlons ici.

Pourquoi n’y a-t-il pas l’énergie politique nécessaire pour faire ce que vous suggérez ?

Comme vous l’avez dit, le gouvernement n’a pas financé ces travaux. Ce sont des travaux d’entreprises du secteur privé. Le gouvernement n’est pas le client clé de ces travaux, contrairement aux fusées, aux armes et à ce genre de choses. Quand quelqu’un arrive et affirme que toutes les avancées technologiques précédentes sont insignifiantes par rapport à celle-ci, les gens devraient faire preuve d’un grand scepticisme.

La vie va-t-elle vraiment être profondément différente dans 10 ans à cause de l’IA ? Les gens devraient dire : « Ces gens-là se sont simplement surexcités pour ce truc. » Mais moi, je suis là à dire, avec toute la crédibilité que j’ai, qu’il s’agit absolument de la technologie la plus profonde qui ait jamais été inventée — tant en bien qu’en mal. Je n’ai aucun intérêt financier en jeu. Je suggère que certaines précautions et garanties sont absolument nécessaires.

Que pensez-vous de la différence de ton des conversations aux États-Unis et en Chine, où l’on rapporte souvent que l’optimisme autour de l’IA est bien plus élevé ? Pourquoi pensez-vous qu’il y a une différence là-bas ?

La plupart de ces gens ne passent pas beaucoup de temps en Chine. L’inquiétude concernant le marché du travail en Chine est très, très forte et on ne peut pas considérer la Chine comme un bloc monolithique. Il y a les entreprises privées qui font le travail sur l’IA, comme nous en avons aux États-Unis, et puis il y a le gouvernement chinois.

Par exemple, quand il s’est agi de savoir si la crypto devait être autorisée, ils ont dit non. Est-ce que les jeunes devraient passer leur temps à jouer ? Ils ont dit non. Quand il s’est agi de savoir si les enfants devraient avoir des relations avec des IA, ils ont dit non. Sur beaucoup de ces sujets, y compris l’utilisation de l’IA, ils font preuve d’une volonté d’agir pour le bien de la société.

Je suis là à dire, avec toute la crédibilité que j’ai, qu’il s’agit absolument de la technologie la plus profonde qui ait jamais été inventée — tant en bien qu’en mal. Je n’ai aucun intérêt financier en jeu

L’engouement y est un tout petit peu moindre, parce que leur économie n’est pas aussi centrée sur l’IA que la nôtre en ce moment précis. Au bout du compte, [en ce qui concerne] la valeur humaine de ne pas vouloir de cyberattaques ni de bioterrorisme, ou de chercher à savoir quoi faire quand les emplois disparaissent, je ne pense pas qu’il existe une différence entre les Chinois, les Américains et tous les autres êtres humains quant à la manière dont ils vont voir cela.

Pensez-vous qu’il faudra que quelque chose de réellement grave se produise pour que les États-Unis aient le capital politique nécessaire pour opérer ces changements ?

Probablement oui. Nous nous préparons aux tremblements de terre parce qu’il y a de petits tremblements de terre. Je pensais qu’après la pandémie de COVID, cela nous amènerait à être plus préparés aux futures pandémies. Cela ne s’est pas passé comme je l’espérais.

Mais généralement, cela mobilise notre attention. Au cours des prochaines années, certainement dans le domaine de la cybersécurité, parce qu’il y a un modèle économique là-dedans, vous verrez beaucoup d’attaques d’une envergure différente de tout ce que nous avons vu par le passé.

Il y a une chose que, là encore, je vais rappeler et sur laquelle je veux juste terminer. Je m’inquiète des jeunes et du nihilisme. Je le ressens en permanence dans notre public. Nous avons un public jeune.

Il y a certaines choses à propos de l’IA qui sont légitimement les choses les plus incroyables que j’aie jamais vu un ordinateur faire. Il y a là quelque chose qui peut être amusant, intéressant, fascinant, et qui peut changer toute votre relation avec la notion même de vivre dans un monde numérique.

Et puis il y a évidemment des choses horribles. Ce que je vois le plus souvent, c’est un sentiment de défiance, non seulement envers les institutions, mais aussi envers les entreprises, envers le capitalisme lui-même, envers l’idée que nous devrions changer la manière dont nous taxons le travail et le capital, ce qui, je le sais, est une autre de vos idées. L’idée que, je ne sais pas, moi, nous devrions même avoir plus d’enfants. Tout est fini. Ils vont tous nous tuer et nous devrions juste marquer une pause.

Il y a beaucoup de nihilisme là dehors. Je le ressens très vivement. Si vous étiez un jeune aujourd’hui et que vous entendiez Bill Gates dire qu’il s’agit d’environ 20 ans de perturbations et qu’à la fin, des robots pourraient construire des maisons, à quoi vous raccrocheriez-vous comme source d’espoir ?

Tout au long de l'histoire humaine, nous avons été aux prises avec la pénurie de nourriture, les maladies et la guerre. [L'historien] Yuval Noah Harari écrit de manière éloquente sur le passé. Et il est ironique que maintenant que nous avons cette sorte de boîte de Pandore qui va éliminer la pénurie alimentaire — qui est toujours une réalité, pas aux États-Unis, mais en Afrique — qui va éliminer les maladies, où la souffrance humaine est inimaginable, et résoudre toutes ces choses, cela s'accompagne d'un tel effet sur les emplois et sur notre sentiment de contribution unique.

Je me dis : « La façon dont j'orchestre les ressources pour éradiquer le paludisme, mon expérience de vie est assez unique pour me permettre de le faire. » Mais quand l'IA me dit : « Non, je suis meilleure que toi. Va jouer au pickleball et je te recontacte. Je vais m'en occuper », c'est humoristique, mais ça ne l'est pas. Pour quelqu'un qui est jeune aujourd'hui et qui veut apporter une contribution unique, il est très intimidant que l'IA soit si puissante.

C'est pourquoi la crise dans la communauté mathématique va se refléter partout. Si vous avez la vingtaine aujourd'hui, pendant cette période de 20 ans, vous pouvez vous saisir des choses que l'IA ne sait toujours pas faire, et vous pouvez utiliser l'IA et avoir beaucoup d'impact positif, et vous pouvez proposer des politiques. Nous devrons peut-être développer le goût de ne pas utiliser la technologie au maximum de ses possibilités.

Même dans le tout meilleur des scénarios quant à notre gestion de l'IA, ce sera une période aussi tumultueuse qu'il y en ait eu dans l'histoire de l'humanité

Quand je parlais avec Claude des catégories d'emplois réservés aux humains et que j'essayais de faire monter cela à, disons, 40 pour cent du marché du travail — pour qu'on puisse utiliser la retraite anticipée, les semaines de travail réduites et des choses de ce genre afin de garder quelque chose de similaire à ce que nous avons aujourd'hui — sa réponse était toujours : « Tu restreins artificiellement l'IA à faire ces choses. » Je ne pouvais pas atteindre un pourcentage très élevé sans faire cela.

Nous allons avoir de vrais choix. Il y a eu des groupes — pas de grands groupes, mais comme les Amish — qui ne vivent pas à la frontière de la technologie. Une grande partie de l'humanité pourrait choisir de ne pas vivre à la frontière technologique à cause des choses que nous retirons en nous entraidant ou en trouvant des idées uniques.

À propos de l'idée que les jeunes s'inquiètent à cause de la perturbation qui s'annonce — à savoir que même dans le tout meilleur des scénarios quant à notre gestion de l'IA, ce sera une période aussi tumultueuse qu'il y en ait eu dans l'histoire de l'humanité — je déteste être porteur de nouvelles préoccupantes à ce sujet, mais il est encore pire de ne pas dire aux gens que cela arrive. Nous avons, en tant qu'humains, des choix à faire sur la façon de la façonner.

Bill, je vous suis reconnaissant de sonner l'alarme et je vous suis reconnaissant d'être venu sur Decoder. Merci beaucoup.

Merci.

_{Des questions ou des commentaires ? Écrivez-nous à decoder@theverge.com. Nous lisons vraiment chaque e-mail !}

Decoder avec Nilay Patel

Un podcast de The Verge sur les grandes idées et les autres problèmes.