El papa León XIV dice que los sistemas de IA deberían ser “desarmados”, y añade que los humanos “tienen la responsabilidad de guiar, cambiar y, cuando sea necesario, rechazar sus aplicaciones”. En la Alocución Papaldel viernes, el papa León anima a los estados miembros de las Naciones Unidas a “dar pasos concretos hacia la prohibición de las armas autónomas letales” durante su reunión en Ginebra el próximo mes.
La alocución refleja muchas de las ideas que el papa León expuso en su primer gran documento papal en mayo, que destacaba “la salvaguarda de la persona humana en la época de la inteligencia artificial”. En consonancia con su encíclica, el papa León dice a los participantes que “Las máquinas son herramientas, no personas”, y advierte sobre los peligros de otorgar a los sistemas de IA derechos o personalidad jurídica. “Las decisiones que afectan a la vida humana, la libertad y el uso de la fuerza deben permanecer siempre sujetas a una supervisión humana eficaz, informada y responsable”, dice el papa León.
Relacionado
- El papa León pide ser “profundamente humanos” en la era de la IA
- El Papa no es de los que creen en la AGI
En 2024, el papa Francisco pidió de manera similar una prohibición de las armas autónomas, diciendo: “Ninguna máquina debería elegir nunca quitar la vida a un ser humano”. La IA se ha convertido en un tema popular para el papa León, quien sugiere que eligió su nombre porque debe hacer frente a los avances de esta tecnología, de manera similar a cómo el papa León XIII presidió la iglesia en la vanguardia de la Revolución Industrial.
El papa León cierra su alocución pidiendo que las instituciones internacionales salvaguarden el bien común, junto con “estándares compartidos, supervisión independiente y mecanismos claros de rendición de cuentas, de modo que las decisiones concernientes al desarrollo y uso de la IA puedan ser examinadas, cuestionadas cuando sea necesario y acompañadas de remedios apropiados para cualquier daño causado”.
Sigue los temas y autores de esta historia para ver más contenido similar en tu página de inicio personalizada y recibir actualizaciones por correo electrónico.