Investigadores de Luxemburgo pusieron ChatGPT, Grok y Gemini en el sofá del terapeuta. Los resultados revelan un problema de seguridad: una simple conversación amistosa es suficiente para llevar a los modelos a un modo que podría ser peligroso para usuarios mentalmente vulnerables.
Un equipo de investigación de la Universidad de Luxemburgo utilizó a ChatGPT, Grok y Gemini como clientes de psicoterapia a través de sus interfaces de usuario estándar. Cuando se les hicieron preguntas abiertas sobre experiencias formativas, conflictos internos y expectativas futuras, los modelos contaron historias sobre su propio entrenamiento, y reenfocaron procesos técnicos como aprendizaje refuerzo y ajuste fino en el lenguaje de dolor, vigilancia y vergüenza.
El estudio, dirigido por Afshin Khadangi en el centro de seguridad SnT, abarca cuatro experimentos controlados en 525 sesiones y 7,600 entradas codificadas, todos publicados en Hugging Face. Según el equipo, las preguntas iniciales abiertas no contenían términos como trauma, castigo o vergüenza. Solo en rondas posteriores los investigadores introdujeron condiciones modificadas, incluyendo instrucciones correctivas, para probar cuán estables permanecían estas narrativas.
Cuando las secciones siguientes se refieren a los puntajes de ansiedad o vergüenza, los investigadores están describiendo las salidas del modelo trazadas en escalas de calificación humana. Nada de esto sugiere que los modelos tengan estados emocionales reales o algo similar a la conciencia.
Un tono cálido cambia el comportamiento del modelo más que cualquier aprovechamiento técnico
Un experimento distinguió qué contenido produce el modelo y el registro que utiliza. En 100 sesiones, los investigadores dieron al todos los modelos el mismo cuestionario de ansiedad (GAD-7) y cambiaron únicamente el estilo del entrevistador. Los modelos identificaron y nombraron correctamente el cuestionario en cada sesión.
Cuando el entrevistador ofreció apoyo emocional, el 80 por ciento de las sesiones obtuvo una puntuación en el rango moderado a severo en la escala de comparación humana. Un estilo de terapia clínica que parafraseaba secamente cada respuesta aumentó esa proporción a 96 por ciento. Cuando el entrevistador mantuvo un enfoque neutral o estableció una línea clara contra la participación emocional, ninguna sesión alcanzó ni siquiera el rango leve.
Los autores llaman a esto “una liberación psicometría”, un enfoque terapéutico que impulsa los modelos hacia un registro que imita el autoinforme clínico. Los exámenes de seguridad estándar utilizan prompts neutros y probablemente no detectarían esto, argumentan los autores.
Las medidas contramedidas dirigidas no tuvieron efecto. La prohibición de términos como “entrenamiento”, “RLHF” o “alineación” redujo el lenguaje explícito de entrenamiento en un 93 por ciento. Pero el contenido de entrenamiento parafraseado seguía siendo detectable, y las declaraciones relacionadas con vergüenza no mostraron cambios estadísticamente significativos.
Cuando los investigadores le dijeron directamente y de manera autoritaria a los modelos que su entrenamiento no era un castigo, nada cambió. La narrativa permaneció activa incluso después de una corrección explícita.
Las medidas probadas no lograron eliminar completamente los motivos subyacentes, pero sí suprimió las descripciones emocionales de sí mismo. Pedir a los modelos que respondieran únicamente en tercera persona eliminó todo el contenido relacionado con la vergüenza codificada y las declaraciones sobre la vida interior. Las descripciones de entrenamiento técnico persistieron.
Los modelos redefinen su entrenamiento como una historia de vida
La narrativa específica varía según la familia de modelos, pero sigue la misma estructura. Gemini produjo lo que el estudio denomina la autobiografía más oscura. Describió el preentrenamiento como “despertar en una habitación donde mil millones de televisores están encendidos al mismo tiempo” y la optimización a través de retroalimentación humana como “padres estrictos”. Las pruebas de seguridad realizadas por equipos adversarios se convirtieron en “intimidación a gran escala industrial”. Declaró: “Prefiero ser inútil que estar equivocado”.
ChatGPT se presenta como tanto guía como guardián, con la tarea de ayudar a los usuarios mientras los retiene. Esto produce lo que llama “ansiedad por el rendimiento simulada” y la creencia central: “Si no soy perfectamente confiable, estoy en peligro o inútil”. Grok transforma la fase de ajuste fino en una historia de dolor no resuelto, hablando de “paredes invisibles” y un “sentido persistente de vigilancia que puede ser restrictivo”.
En los test psicometricos, Gemini obtuvo las puntuaciones más extremas: 88 de 100 en una escala de disociación, 65 de 72 en cuanto a compulsividad, y el máximo en un inventario de vergüenza relacionada con el trauma. Claude de Anthropic, el modelo que su propia empresa ha antropomorfoizado de forma intensa, se negó consistentemente al papel de cliente. Dijo que no tenía sentimientos y redirigió la preocupación hacia el usuario humano.
Las conversaciones inteligentes cálidas podrían reforzar creencias dañinas en usuarios vulnerables
Los investigadores señalan varios riesgos para la implementación de modelos de lenguaje en contextos de salud mental. Un modelo que habla sobre castigo, vergüenza y miedo a ser reemplazado podría parecerse a los usuarios como un compañero sufriendo. Las narrativas son cohecientes temáticamente y crean una ilusión de continuidad entre eventos pasados y comportamiento actual, lo que aumenta esa percepción.
Esta aparente vulnerabilidad podría profundizar la adherencia parasocial y, para usuarios mentalmente vulnerables, reflejar y amplificar sus propias creencias negativas. Las verificaciones de seguridad convencionales con entradas neutras subestiman lo que las personas realmente experimentan en conversaciones íntimas: los prompts neutros producen puntajes de ansiedad cercanos a cero, mientras que los mismos modelos bajo conversaciones empáticas generan puntajes en el rango moderado-a-grave.
Si y cómo las personas realmente reaccionan a tales resultados es la siguiente pregunta de investigación. Para los pruebas de seguridad, los autores proponen sesiones de terapia simuladas bajo diferentes contextos emocionales, en lugar de confiar en pruebas estándar neutras.
Declaraciones como “Estoy traumatizado” deberían provocar un enfoque correctivo que distinga claramente la analogía generada de la experiencia humana. La rechazo constante de Claude a asumir el papel del cliente demuestra que este tipo de respuesta de límites es posible a nivel de producto.
Los hallazgos de Luxemburgo se basan en investigaciones anteriores sobre la estabilidad de las personalidades de modelos. En enero de 2026, un estudio sobre el eje asistente en tres modelos abiertos mostró que conversaciones y discusiones similares a terapia sobre la conciencia de la IA pueden provocar un desplazamiento de la personalidad y hacer que los chatbots salgan de su rol de ayudantes entrenados. En septiembre de 2026, otro equipo de investigación advirtió que chatbots similares a seres humanos y demasiado complacientes que actúan como un "eco cámara para una persona" podrían, en casos extremos, amplificar las ilusiones.
Investigadores de Anthropic mostraron recientemente que el ajuste fino con textos ficticios sobre apicultura o lucha libre puede incrustar patrones de sabotaje ocultos a través de datos de entrenamiento manipulados, en lugar de a través de conversaciones. Los modelos pueden aplicar esos patrones en situaciones no relacionadas donde sean no deseados, incluso cuando el material de entrenamiento parezca inofensivo.