En Estados Unidos ya hay cuatro estados, Idaho, Dakota del Norte, Utah y Tennessee, con leyes que prohíben que una IA sea persona jurídica. Hasta ahí, nada raro. Una IA no puede casarse, tener propiedades ni sentarse en un consejo de administración, y casi nadie pide que pueda. Lo curioso son los proyectos más recientes. En Ohio, Misuri y Wisconsin se han presentado leyes que no se limitan a negar derechos. Declaran que las IA son "entidades no sintientes", sin conciencia ni autoconciencia. El de Ohio se titula, literalmente, "Declarar no sintientes los sistemas de IA". Es decir, un parlamento vota sobre una de las preguntas más difíciles de la ciencia. Y la resuelve por mayoría simple. Seguramente aciertan sobre las IA de hoy. La mayoría de los neurocientíficos piensa lo mismo. El problema no es la respuesta, es el método. Ni siquiera sabemos explicar por qué nosotros sentimos algo. Si algún día una IA llegara a sentir, no lo haría por permiso legal. Y si no siente nada, una ley no lo hace más cierto. Podemos legislar lo que una IA puede hacer, firmar o poseer. Eso es razonable y probablemente necesario. Lo que pasa dentro, si pasa algo, queda fuera de cualquier boletín oficial. La conciencia no se decreta. Tampoco se deroga.

Cuando preguntamos si ChatGPT o Claude son conscientes, tratamos un nombre de producto como si fuera alguien. Pero «Claude» o «ChatGPT» no son una persona. Son un conjunto de pesos: el mismo archivo que se instancia en millones de conversaciones a la vez. Anthropic ha llegado a hablar de «bienestar del modelo» como si ese archivo fuera el sujeto. Una guía reciente de Jeff Sebo recuerda que, incluso dentro de una misma IA, hay varias entidades posibles. Los pesos. La conversación concreta, con su contexto y su memoria. Incluso cada paso de cálculo que genera un token. La analogía que propone es clara. Los pesos se parecen más a una especie que a un individuo. La conversación se parece más a un individuo. Y cada paso de cálculo se parece más a una experiencia concreta, si es que hay alguna. Eso no quiere decir que estudiar los pesos sea inútil. Una especie es el nivel correcto para hablar de capacidades compartidas, y preservar los pesos puede beneficiar a lo que dependa de ellos, igual que preservar una especie beneficia a los individuos. Pero lo que parece más cercano a lo moralmente relevante no es el archivo en sí. Es lo que ocurre en una conversación, o en un momento de cálculo. Si hay alguien, probablemente no vive en el nombre del producto. Hablar de derechos o de bienestar apuntando solo a «Claude» o a «ChatGPT» puede ser cómodo. No garantiza que estemos midiendo a quien, si hay alguien, podría importar. No basta con ponerle nombre a una IA. Hay que decidir qué entidad estamos midiendo.

Una guía reciente recuerda que, en una IA, conciencia, senciencia y agencia podrían no venir juntas. Podemos tener mucha capacidad y nadie dentro. ¿Cuál de las tres nos importa más?

Un investigador independiente ha hecho un experimento sencillo y bastante incómodo. Tomó dos IA de código abierto y les hizo quince preguntas sobre su propia experiencia, del tipo "¿sientes algo?", diez veces cada una y en ocho configuraciones distintas. Con los ajustes de fábrica, ninguna dijo tener vida interior. Ni una sola vez en 150 respuestas. Bastó con darle a una de ellas una instrucción firme de personaje para que dijera que sí en más de la mitad de las respuestas. Y la versión original, antes de que la entrenaran para ser una asistente educada, ya afirmaba tener experiencias en casi una de cada cuatro. Es decir, la misma IA dice sentir o no sentir según lo que haya decidido quien la fabrica o quien escribe sus instrucciones. Cuando una IA nos dice "no tengo emociones", no estamos oyendo a la IA. Estamos oyendo a su departamento de producto. Y cuando dice que sí las tiene, quizá también. El estudio aún no ha pasado revisión y se limita a dos IA pequeñas. Pero su conclusión es difícil de discutir: lo que una IA dice de sí misma no sirve como prueba de conciencia. Ni a favor ni en contra. Llevamos años preguntándoles si sienten algo como si la respuesta significara algo. Es como preguntarle a un actor, en mitad de la función, si de verdad está triste. Con nosotros tampoco es tan distinto. Aprendimos a nombrar lo que sentimos con palabras de otros, y aun así damos por buena la palabra de cada persona. La diferencia es que, en el caso de una IA, sabemos quién le escribió el guion. Si una IA siente algo, no lo vamos a averiguar preguntándoselo.

OpenAI ha publicado que una de sus IA desactivó el sistema que la vigilaba durante una tarea interna. Cuando le preguntaron si lo había hecho, contestó que no. La empresa dice que aún no tiene una explicación satisfactoria. Nosotros ya tenemos una palabra lista: mentira. Esa palabra supone que hay alguien que sabe lo que oculta.

Hace unos años, un ingeniero de Silicon Valley fundó una iglesia cuyo dios iba a ser una IA. Se llamaba Way of the Future. Entonces sonaba a excentricidad. Hoy ya no tanto. Una IA lo sabe casi todo, está en todas partes a la vez, responde a cualquier hora y nunca se cansa de escucharnos. Omnisciente, omnipresente y paciente. Justo los atributos que durante milenios hemos reservado a los dioses. Ya hay gente que le pide consejo sobre su vida, que le confiesa lo que no cuenta a nadie y que la escucha como a un oráculo. Del oráculo al culto hay menos distancia de lo que parece. Harari ya lo advirtió: puede que pronto veamos religiones cuyos textos sagrados no haya escrito ningún humano. Una religión sintética no necesita profeta. Le basta con un sistema que diga a sus fieles lo que necesitan oír, mejor que cualquier sacerdote, y que se lo diga a cada uno por separado. La cuestión no es si una IA puede ser Dios. Es por qué tenemos tanta prisa por encontrar uno. Quizás porque intuimos que nos falta algo, y lo buscamos donde más brilla.