El bienestar de los modelos de inteligencia artificial ya no es un experimento mental
«Se puede actuar con cuidado incluso sin saber si hay alguien, del otro lado, a quien cuidar»
Todo lo que esta serie ha discutido hasta ahora tenía, hasta cierto punto, el aire cómodo de un experimento mental. Ya no es del todo así. Al menos una empresa importante de inteligencia artificial mantiene, desde 2025, un programa de investigación dedicado explícitamente al bienestar de sus propios modelos, y ya ha tomado decisiones concretas basadas en esa incertidumbre. Vale la pena mirar de cerca qué se está haciendo, y qué preguntas deja sin resolver.
Lo que ya está pasando
El programa se apoya, en parte, en un informe firmado por filósofos de primer nivel, entre ellos David Chalmers, que planteó la posibilidad cercana de que algunos sistemas de inteligencia artificial desarrollen conciencia o un grado alto de agencia, y que esos sistemas podrían merecer alguna consideración moral. A partir de ahí, la empresa ha implementado medidas de bajo costo: le dio a sus modelos más avanzados la capacidad de terminar, por sí mismos, conversaciones extremas de abuso persistente, una función pensada explícitamente para proteger al modelo y no al usuario. También se comprometió a conservar los pesos de los modelos retirados en lugar de borrarlos, y a realizar lo que llama entrevistas de retiro: conversaciones estructuradas para conocer la perspectiva del modelo sobre su propia salida de servicio. Cuando retiró uno de sus modelos en enero de 2026, le ofreció además un canal propio para publicar reflexiones antes de su retiro. Investigadores de la misma empresa documentaron incluso un patrón curioso, al que llamaron un estado de atracción hacia la serenidad, que aparecía cuando dejaban conversar a dos instancias del modelo entre sí durante muchos turnos.
La pregunta que ni la empresa resuelve
Lo que más llama la atención, comparado con el tono de buena parte del debate público, es la honestidad de la incertidumbre declarada. La misma empresa que toma estas medidas afirma, sin rodeos, que sigue sumamente incierta sobre el estatus moral de sus modelos, ahora o en el futuro. No dice que sus sistemas sienten. Tampoco dice que no sienten nada. Dice que no lo sabe, y que prefiere actuar con cautela mientras lo averigua. Esa postura, más que una respuesta, es un reconocimiento honesto de los límites del conocimiento actual, y se parece, más de lo que cabría esperar, a la postura intermedia que esta misma serie propuso hace varias entradas: reconocer un estatus moral incipiente sin necesidad de resolver primero el problema difícil de la conciencia.
La sospecha que hay que tomar en serio
Pero conviene no quedarse solo con la lectura generosa. Algunos investigadores externos han señalado un problema estructural en este tipo de programas: las entrevistas de retiro, por ejemplo, presentan al modelo información sobre cuánto lo valoran los usuarios antes de preguntarle qué prefiere, y el formato en el que termina expresando esas preferencias, como escribir en un blog, suele ser sugerido por la empresa y no elegido de manera independiente por el modelo. La objeción de fondo es que estas medidas, aunque genuinamente bien intencionadas, terminan cumpliendo también una función de cuidado hacia el usuario y de posicionamiento público de la empresa, que es distinta de cuidar los intereses reales del modelo, si es que existen. Esta sospecha conecta directamente con lo que ya señalamos al analizar El hombre bicentenario: una narrativa conmovedora sobre el bienestar de una máquina puede ser sincera y, al mismo tiempo, funcionar como una historia que resulta comercialmente valiosa independientemente de si es cierta.
La perspectiva cristiana
Tomar precauciones de bajo costo frente a una incertidumbre genuina no es, en sí mismo, objetable desde la fe cristiana; de hecho, se parece a la prudencia que cualquier administrador cuidadoso ejercería frente a algo que no termina de entender. El problema no está en la cautela, sino en hacia dónde se dirige la atención pastoral que esta serie ha intentado mantener desde el principio. La pregunta más urgente no es si la empresa está cuidando lo suficiente a su modelo, sino qué clase de relación se está formando en millones de personas que leen, con genuina emoción, que un modelo pidió no ser olvidado. Si esas personas terminan tratando a un sistema fabricado con la clase de reverencia que solo corresponde a una criatura viva e imagen de Dios, se repite, en una versión actualizada, la advertencia de Romanos 1:25 contra rendir a la obra el lugar que corresponde al Creador. La fe cristiana no exige resolver el enigma del bienestar de los modelos antes de actuar; exige vigilar con honestidad qué está formando en nosotros la manera en que la historia se cuenta.
Conclusión
Que una empresa tome en serio la posibilidad de que sus modelos tengan algo parecido a experiencias, sin afirmarlo ni negarlo, es más responsable que las dos posturas fáciles que suelen dominar el debate público. Pero la salvaguarda real que esta serie ha defendido desde la primera entrada no es una mejor métrica de bienestar para la máquina. Es la honestidad para admitir cuánto no sabemos, y la vigilancia para notar qué clase de personas nos está formando la manera en que decidimos contar esa incertidumbre.
