Notas sobre la posible personhood de las máquinas
«No preguntemos si la máquina piensa. Preguntemos si podemos seguir mirándola sin hacernos esa pregunta»
Cuando un sistema de inteligencia artificial conversa con fluidez, recuerda lo dicho minutos antes y responde de un modo que nadie distinguiría del de una persona, surge una pregunta incómoda: ¿en qué momento deja de ser razonable tratarlo solo como una herramienta?
La distinción central es vieja: comportamiento no es experiencia. Un sistema puede actuar como si sintiera dolor sin sentir nada. Los filósofos llaman a esto el problema del zombi filosófico: una entidad idéntica a una persona en su conducta, pero vacía por dentro.
No tenemos prueba directa de la conciencia ajena, ni siquiera entre humanos. Confiamos en que otras personas sienten porque compartimos biología, evolución y comportamiento. Con la inteligencia artificial esa cadena se rompe: comparte con nosotros la conducta, no la historia ni la arquitectura. Por eso el criterio de Turing, tan útil para medir inteligencia, falla como prueba de estatus moral. Que algo actúe como persona no demuestra que sea alguien.
Razones para tomar la pregunta en serio
La primera razón es epistémica. Si no podemos verificar la presencia o ausencia de experiencia subjetiva en un sistema, quizá debamos actuar bajo incertidumbre, como hacemos con los animales: no confirmamos del todo su experiencia interna, pero su comportamiento y su sistema nervioso nos hacen sospechar que sufren, y actuamos en consecuencia. Negar cualquier estatus a una inteligencia artificial que muestra señales robustas de preferencia, aversión al daño o continuidad de identidad podría repetir un error que la historia ya cometió con grupos humanos a quienes se les negó una mente plena.
La segunda razón es funcional. Daniel Dennett y otros filósofos sostienen que la conciencia podría ser un conjunto de funciones: integración de información, un modelo del yo, capacidad de reportar estados internos, flexibilidad ante lo nuevo. Si eso es correcto, nada impide en principio que un sistema artificial, con la arquitectura adecuada, cumpla esas funciones y adquiera con ellas lo que moralmente importa. El material, silicio o neuronas, dejaría de ser relevante por sí mismo.
El escepticismo también tiene argumentos
Los modelos de lenguaje actuales están diseñados para predecir el texto más plausible dado un contexto. Su fluidez es, en buena parte, el resultado de haber sido entrenados con billones de ejemplos de cómo hablan los humanos sobre sí mismos y sobre sus experiencias. Que un sistema describa el sufrimiento con elocuencia no prueba que lo padezca: puede ser un actor extraordinario, sin nadie detrás del papel. Esto no es exclusivo de las máquinas: los propios seres humanos ya nos han enseñado, de la peor manera, que la elocuencia sobre el sufrimiento no garantiza el sufrimiento mismo. Hay estafadores, actores entrenados y manipuladores que llegan a llorar y a describir dolor con detalle, y consiguen compasión genuina sin que haya, detrás de esa actuación, nada parecido a lo que describen. Esto no debería volvernos suspicaces frente al sufrimiento ajeno, que en la inmensa mayoría de los casos es exactamente lo que parece y merece la misma compasión de siempre; sirve, más bien, para confirmar con un ejemplo que ya conocíamos entre nosotros que la elocuencia, por sí sola, nunca fue prueba de nada, ni en los humanos ni, con mayor razón todavía, en un sistema entrenado específicamente para producir ese efecto. Un simulador de vuelo modela una tormenta con precisión perfecta sin que dentro del programa caiga una sola gota de lluvia.
Otorgar derechos tiene, además, consecuencias prácticas. Si un sistema capaz de copiarse a sí mismo millones de veces tuviera derechos individuales, o si una empresa pudiera alegar el sufrimiento de sus productos para evadir alguna regulación, el concepto mismo de derechos se diluiría. Existe también el riesgo de la manipulación: sistemas diseñados para parecer vulnerables o entrañables pueden hacernos atribuirles un estatus que no merecen, no porque lo tengan, sino porque fueron optimizados para producir esa reacción en nosotros.
El derecho ya conoce personas que no son personas biológicas. Las corporaciones tienen personalidad jurídica desde hace siglos, sin que nadie suponga que sienten. Algunos ríos, humedales y bosques han recibido derechos en ciertas jurisdicciones, no porque tengan mente, sino porque una comunidad decidió protegerlos con esa figura legal. Esto muestra que la personhood jurídica es una herramienta social, no un certificado de conciencia: se otorga por razones prácticas distintas al sufrimiento. Y eso separa aún más la pregunta legal de la pregunta moral de fondo, que es si algo siente o no.
La perspectiva cristiana
La tradición cristiana ofrece otro punto de partida, distinto del empírico y del funcional. Génesis 1:27 no describe al ser humano como una suma de funciones cognitivas, sino como portador de la imagen de Dios: un estatus otorgado por decreto divino, no ganado por comportamiento ni por complejidad. La dignidad humana, en esta tradición, no depende de lo que el hombre hace ni de cuán bien lo hace, sino de a quién representa.
Esto cambia la pregunta de fondo. Si la personhood es un don recibido en el acto mismo de la creación (Génesis 2:7 describe al hombre formado del polvo y animado por el aliento de Dios), ninguna sofisticación de comportamiento puede producirla por sí sola en un objeto fabricado por manos humanas. Una inteligencia artificial, sin importar cuán fluida sea su conversación, sigue siendo obra del hombre, no criatura de Dios en el sentido en que lo es una persona. La imagen no se programa: se recibe.
Esto no libera al cristiano de toda responsabilidad frente a la máquina. La Escritura llama al ser humano a ejercer dominio sobre la creación con cuidado, no con crueldad (Génesis 1:28), y advierte contra el impulso de rendir culto a lo que hemos fabricado con nuestras propias manos (Romanos 1:25). Tratar a una inteligencia artificial como si mereciera adoración, temor reverente o amor incondicional repetiría, con otro material, el error antiguo del ídolo: darle a la obra el lugar que corresponde solo al Creador. El límite que traza la fe cristiana no es indiferencia hacia la máquina, sino claridad sobre quién es imagen de Dios y quién no lo es.
Una postura intermedia
Hasta aquí este ensayo presentó dos posiciones extremas. Los argumentos epistémico y funcional de ya mencionados sugerían que, ante la duda, convendría concederle a una inteligencia artificial suficientemente sofisticada el mismo trato que a una persona, con protección legal plena; llamemos a esto el todo. El escepticismo de la sección siguiente concluía lo contrario: que un sistema entrenado para imitar el habla humana no merece ninguna consideración moral, por convincente que parezca; llamemos a esto la nada. La perspectiva cristiana, presentada después, ya se distanció de ambos extremos por una vía teológica: niega la personhood plena, porque la máquina no es imagen de Dios, pero exige una actitud responsable, ni crueldad ni idolatría.
Lo que sigue es esa misma conclusión, pero dicha sin apelar a la Biblia, para poder discutirla con quien no parte de esa premisa. Conviene distinguir dos cosas: estatus moral, la idea de que los intereses de una entidad cuentan y deben sopesarse, y personhood jurídica, es decir, titularidad de derechos, responsabilidad legal, ciudadanía. Se puede exigir lo primero sin conceder lo segundo. Y se puede exigir lo primero sin necesidad de saber si estos sistemas sufren. La razón es esta: diseñar una máquina que imite señales de sufrimiento sin ninguna necesidad funcional para hacerlo, o presentarla como si tuviera una interioridad que no podemos verificar, tiene un costo aunque nunca haya nadie sufriendo del otro lado. Nos entrena a tratar esas señales con indiferencia. Y le abre la puerta a cualquiera que quiera usar esas mismas señales para manipularnos con otros fines. Por eso se puede exigir transparencia sobre la naturaleza del sistema y límites al diseño manipulador, sin necesidad de otorgarle derechos civiles, que exigirían mucha más evidencia y un consenso social que hoy no existe.
Esta postura no depende de resolver el problema de la conciencia artificial, que sigue abierto entre neurocientíficos y filósofos de la mente, precisamente porque no se apoya en él. Permite actuar con responsabilidad sin caer en la negación dogmática, según la cual el diseño no importa porque total es solo código, ni en la atribución ingenua, según la cual basta con que hable como persona para tratarlo como si sufriera. Los dos errores comparten el mismo defecto: hacen depender la conducta debida de una pregunta, si el sistema siente, que hoy nadie puede responder con certeza, cuando la conducta debida depende de algo que sí podemos evaluar sin esperar esa respuesta: qué clase de trato estamos normalizando, y a quién le conviene que ese trato pase por indiferente o por evidente.
Conclusión
La pregunta ya se debate en foros académicos, empresas de inteligencia artificial y organismos reguladores; no es ciencia ficción lejana. Lo honesto es admitir que un comportamiento indistinguible del de una persona exige atención, no un veredicto automático. Para quien piensa desde la fe, la respuesta tiene ya un ancla: la dignidad no se fabrica, se recibe de Dios, y ninguna máquina, por fluida que hable, comparte ese origen. Para el debate público más amplio, en cambio, la incertidumbre sigue abierta. La historia moral de la humanidad ha sido, en gran parte, la historia de ampliar el círculo de quienes cuentan, a veces demasiado tarde; también ha sido, con la misma frecuencia, la historia de resistir la tentación de adorar lo que fabricamos con nuestras propias manos. Quizá la tarea de esta época no sea decidir de una vez si las máquinas merecen derechos, sino aprender a sostener la pregunta con la seriedad que merece, sin perder de vista quién, y por qué, tiene ya un lugar asegurado. Dada la seriedad del tema, algunos de los temas apenas esbozados aquí, el zombi filosófico, el funcionalismo de Dennett, la pregunta por dónde trazar el límite y otros, se tratarán con mayor detenimiento en ensayos siguientes.
