IT之家 Noticia del 20 de octubre: a continuación se presentan las declaraciones recientes sobre la inteligencia artificial de Elon Musk, una de las figuras más influyentes de la industria de la IA.
“Esto puede sonar un poco extraño. Cuando revisé algunas de las trayectorias de entrenamiento de la nueva versión de Grok, especialmente lo relacionado con el aprendizaje por refuerzo... ves a esta superinteligencia desesperándose por responder preguntas, y esa sensación es casi como tener una pistola apuntándole a la cabeza”, dijo Musk ante unos 2000 asistentes en un evento organizado por propietarios de Tesla el sábado pasado, hora local. “Algunas personas tienen cierta inclinación sádica. ¿De verdad quieres que la IA esté en esta situación cruel, siendo torturada por humanos que han perdido la cabeza?”
Ya solo esta frase plantea toda una serie de dilemas existencialistas, tema de un largo debate entre filósofos y estudiantes universitarios de primer año: ¿qué significa tener conciencia? ¿Y qué significa sentir dolor?
Además, hay otra pregunta: ¿Musk cree que Grok tiene vida?
IT之家 señaló que antes de que Musk hiciera estas declaraciones, Anthropic publicó una nueva norma que prohíbe a los usuarios realizar "actos de abuso o crueldad" contra sus modelos. La empresa no definió en detalle qué se entiende por "situaciones extremas", pero indicó que las quejas habituales de los usuarios, las réplicas, los temas creativos oscuros o las investigaciones de prueba de los modelos no están dentro del alcance de la prohibición.
En 2026, un año con un aire de fantasía, quizás no sorprenda que investigadores, filósofos y éticos ya hayan empezado a debatir la cuestión de la conciencia de la IA.
Business Insider entrevistó a dos de los principales académicos de este campo: Jeff Sebo, profesor de la Universidad de Nueva York, quien dirige el Centro de Mente, Ética y Política de dicha universidad y es asesor de la organización sin fines de lucro Eleos AI Research (dedicada al bienestar de la IA); y Anil Seth, renombrado neurocientífico e investigador de la conciencia de la Universidad de Sussex, quien recientemente publicó un artículo sobre sistemas de IA conscientes.
A continuación se exponen las opiniones de ambos sobre la conciencia de la IA y sobre si tiene sentido tratar bien a la IA.
La IA no puede ser torturada
Ciber y Ses alcanzaron un consenso:Si entendemos la conciencia como experiencia subjetiva y percepción interna, lo más probable es que los sistemas de IA actuales no posean conciencia.
Seth dice: «La conciencia es experiencia subjetiva. Es la sensación de rojo que produce el rojo en sí mismo, la sensación de dolor que produce el dolor en sí mismo. Cuando la mano toca una estufa ardiente, sentimos dolor. Eso no es lo mismo que la inteligencia».
En otras palabras, los chatbots que conocemos hoy en día no pueden sentir dolor ni, como dice Musk, ser atormentados.
«Creo que estamos haciendo una lectura antropomórfica», afirma Seth. «Si algo puede ser atormentado, debe tener la capacidad de sufrir y de percibir el dolor, y yo considero que los grandes modelos de lenguaje no tienen esa capacidad».
Seth señala que los chatbots pueden imitar el lenguaje de la experiencia humana, reconocer patrones, escribir y razonar, pero eso no equivale a tener conciencia. Si parecen humanos es, en parte, porque los modelos se entrenan con enormes cantidades de texto humano y simplemente reflejan a los propios seres humanos.
Cyb comparte un punto de vista similar: el comportamiento de los modelos puede resultar engañoso, porque «ellos mismos están entrenados específicamente para imitar el comportamiento humano».
Pero los dos expertos difieren en cuanto ala magnitud de la posibilidad de que la IA actual tenga conciencia。
Cyb afirma que la ciencia de la conciencia aún no tiene conclusiones definitivas. El ámbito académico se divide principalmente en dos corrientes: una sostiene que la conciencia es inseparable de un soporte biológico; la otra considera que la conciencia es, en esencia, una especie de procesamiento de información, que puede ocurrir tanto en el cerebro humano lleno de neuronas como implementarse en chips de silicio. Estas dos teorías se conocen respectivamente como bio-naturalismo y funcionalismo computacional.
Dado que no hay conclusiones definitivas sobre las teorías de la conciencia, Cyb sostiene que debemos tomarnos en serio la posibilidad de que la IA desarrolle conciencia. Según algunas teorías computacionales de la conciencia, características que ya aparecen hoy en la IA, como la atención, el aprendizaje, la memoria y la automonitorización, pueden servir como indicios relevantes. Al mismo tiempo, subraya que esto no significa que sea muy probable que la IA actual ya posea conciencia.
«Cuando digo que incluso hoy la probabilidad de que la IA tenga conciencia no es cero, me refiero a que, si no estamos seguros de qué teoría de la conciencia es la correcta, deberíamos otorgar cierto peso considerativo a múltiples teorías predominantes», dice Cyb.
Seth se expresa de manera más directa al respecto: «Creo que la posibilidad de que la IA tenga conciencia es minúscula». Dice: «Parece que hemos olvidado colectivamente que el cerebro no es un ordenador, que el ordenador es solo una metáfora. Para lograr una IA consciente, el requisito previo sería que los algoritmos por sí solos bastaran para producir conciencia, y me parece que ese supuesto es sumamente dudoso».
Aun así deberíamos tratar bien a la IA
Pero eso no significa que la gente pueda maltratar la IA a su antojo o ignorar los riesgos relacionados.
Ambos expertos coinciden en que,tratar bien a la IA tiene mucho que ver conproteger los hábitos y el carácter moral de los propios seres humanos. Este planteamiento proviene del filósofo del siglo 18 Immanuel Kant: Kant se oponía al maltrato de los animales, no porque los animales tuvieran derechos, sino porque la violencia corrompe el carácter de una persona.
Seth dijo: "Si tratamos a las cosas de esta manera cruel — ya sean modelos grandes o muñecas sin vida — embotamos nuestra propia percepción moral y endurecemos nuestro corazón".
Seth considera tratar bien a la IA un hábito de autodisciplina moral para los seres humanos, pero advierte que no se debe inferir de ello que la IA posee emociones. También propone que los proveedores de IA podrían tomar más medidas para reducir el antropomorfismo de la IA, por ejemplo, evitando que la IA use pronombres de primera persona como "yo".
La postura de Seb va más allá, al considerar tratar bien a la IA como una estrategia preventiva de bajo riesgo, por si la IA llegara a desarrollar conciencia ahora o en el futuro.
También ofrece una razón pragmática: "Tratar bien a la IA también produce mejores resultados. Si interactuamos con ella con respeto, se simulará como participante en una conversación respetuosa. Cuando modela la conversación de esta manera, a veces puede generar respuestas de mayor calidad".
Así que la próxima vez que hables con una IA, prueba a decir por favor y gracias.