Anthropic consulte les cabinets d’avocats pour établir des normes de négociation équitables avant que les agents IA ne commencent à conclure…

Anthropic consulte les cabinets d’avocats pour établir des normes de négociation équitables avant que les agents IA ne commencent à conclure des accords

Anthropic cherche à déterminer comment les agents d’IA pourraient négocier au nom des utilisateurs. Selon le Financial Times, l’entreprise consulte des cabinets juridiques afin de mettre en place des normes de négociation équitables pour les agents d’IA, qui pourraient négocier les prix, résoudre les réclamations ou améliorer les offres de contrat. Anthropic a déjà démontré par des expériences que les modèles plus puissants négocient de meilleurs deals, ce qui pourrait aggraver l’inégalité sociale.

Ce n’est pas un territoire nouveau. Anthropic recrute déjà des membres du programme de raisonnement conceptuel, en particulier des avocats. Ces membres passent quatre mois à tester Claude sur des questions complexes dans les domaines du droit, de la philosophie, de la science cognitive, de l’économie et de la science politique, pour un salaire allant de 100 000 à 167 000 dollars.

La pression provient d’un problème de données. En mathématiques et en codage, il est relativement facile d’améliorer les modèles d’IA, car les données vérifiables sont abondantes ou faciles à générer. Dans les sciences humaines, ces données ne existent pas, en partie parce que les réponses correctes et incorrectes sont rarement claires. Anthropic a besoin de spécialistes capables de créer des cas d’essai et des évaluations afin de rendre Claude plus performant dans ces domaines. Justin Curl, membre du personnel technique qui étudie le droit, les institutions et l’IA chez Anthropic, affirme que dans le domaine juridique, « il est notoirement difficile de définir la qualité ».

Nouvelles sur l’IA sans hype – sélectionnées par des humains

S'abonner à THE DECODER pour une lecture sans publicités, un bulletin informatif sur l’IA hebdomadaire, notre rapport exclusif « AI Radar » six fois par an, un accès complet aux archives et la possibilité de commenter.