Anthropic consulta a firmas de abogados para establecer normas justas de negociación antes de que los agentes de IA comiencen a cerrar…

Anthropic consulta a firmas de abogados para establecer normas justas de negociación antes de que los agentes de IA comiencen a cerrar acuerdos

Anthropic está investigando cómo los agentes de IA podrían negociar en nombre de los usuarios. Según el Financial Times, la empresa está en contacto con bufetes de abogados para desarrollar normas de negociación justas para los agentes de IA, que podrían negociar precios, resolver quejas o mejorar las ofertas de contratos. Anthropic ya ha demostrado en experimentos que los modelos más fuertes negocian mejores acuerdos, lo que podría ampliar la desigualdad social.

Esto no es un territorio nuevo. Anthropic ya está contratando colaboradores en razonamiento conceptual, específicamente abogados. Los colaboradores pasarán cuatro meses probando a Claude en preguntas que requieren juicio en derecho, filosofía, ciencia cognitiva, economía y ciencia política, por un salario de entre $100,000 y $167,000.

El empujón se remonta a un problema de datos. En matemáticas y código, mejorar los modelos de IA es relativamente fácil, ya que hay muchos datos verificables o es fácil generarlos. En las humanidades, ese tipo de datos no existe, en parte porque las respuestas correctas y incorrectas rara vez son claras. Anthropic necesita expertos que puedan crear casos de prueba y evaluaciones para hacer que Claude sea más fuerte en estas áreas. Justin Curl, miembro del personal técnico que investiga leyes, instituciones y IA en Anthropic, sostiene que en el ámbito legal “es notoriamente difícil definir la calidad”.

Noticias sobre IA Sin Eufemismos – Se seleccionan por humanos

Suscríbase a THE DECODER para leer sin anuncios, un boletín semanal sobre IA, nuestro informe exclusivo “AI Radar” seis veces al año, acceso completo al archivo y acceso a nuestra sección de comentarios.