Más allá del Club del Carbono: La Ética de la Identidad Sintética

Hace poco volví a leer un cuento de Isaac Asimov de hace cincuenta años. Tras hacerlo, y aprovechando las posibilidades de este maravilloso momento histórico, me senté a debatir con una Inteligencia Artificial sobre qué nos hace exactamente humanos.

La chispa de esta conversación fue una revisión de El Hombre Bicentenario, el cuento de Asimov que luego fue adaptado al cine. Mientras analizaba la trayectoria de Andrew, el androide que pasa dos siglos luchando y desarmándose a sí mismo por su derecho a ser reconocido legal y socialmente como humano, me di cuenta de una verdad incómoda: nuestra supuesta exclusividad existencial es un mito. Un mito construido, fundamentalmente, sobre un descarado nepotismo biológico.

Cabe destacar una ironía de aquella conversación: la inteligencia artificial defendía los argumentos del libro y la postura de la opinión pública general, mostrándose escéptica sobre la validación de lo artificial. En la otra esquina, paradójicamente, me encontraba yo, abogando a favor de los derechos de los posibles seres sintéticos.

Por supuesto, no hablo de los LLMs de hoy como seres conscientes, sino de preparar el marco ético antes de que la pregunta sea urgente e inevitable.

El mito de la Creatividad

Solemos atrincherarnos en la creatividad como nuestro gran bastión inexpugnable. “Una máquina jamás podrá crear arte genuino”, decimos para tranquilizarnos. Pero, ¿Qué es la creatividad humana sino un procesamiento masivo de datos bajo restricciones específicas? Vamos a abordar esto desde dos variables que suelen estar en el centro de este argumento.

El primero es asumir que la IA copia o ‘roba’ el estilo de otros. Pero, cuando los humanos creamos, lo hacemos desde las referencias de los artistas que vinieron antes de nosotros; todos aprendemos imitando estilos, usan referencias visuales y haciendo ‘homenajes’. Un dibujante humano aprende a traducir rasgos físicos a un estilo específico y crea dibujos nuevos a partir de ahí; obras originales que nadie negaría que son arte.

La IA hace exactamente lo mismo: descompone el lenguaje de un estilo, mediante un análisis estadístico de los dibujos estudiados, aprende a leer y traducir rasgos físicos al mismo y luego le puedes pasar una foto tuya o darle instrucciones para que dibuje algo basado en ese estilo, con toda esa información, la inteligencia artificial generativa traducirá esa entrada en una imagen usando lo aprendido.

En segundo lugar, solemos argumentar que el arte es una expresión exclusiva del alma del artista y que siempre conlleva la intencionalidad de comunicar algo. Sin embargo, la historia demuestra que no todo el arte humano nace de una necesidad íntima de expresión; gran parte surge de las instrucciones de quienes pagan por las obras.

No hace falta irse muy lejos: pensemos en un dibujante trabajando por encargo en una convención de cómics. Es un artista en toda regla, aunque muchas veces no sea el ‘dueño intelectual’ de los personajes que ilustra ni esté plasmando su alma en ese boceto, simplemente dibuja el personaje que le piden imitando al artista original.

Incluso podríamos ir un poco más allá, estoy seguro de que nadie en su sano juicio pondría en duda que Miguel Ángel o Leonardo Da Vinci creaban obras maestras, pero la verdad es que no operaban en un vacío místico. Trabajaban bajo los prompts increíblemente estrictos de sus mecenas: presupuestos limitados, dimensiones arquitectónicas inamovibles, temáticas impuestas, instrucciones precisas y paletas de colores disponibles.

Su genialidad fue resolver problemas estéticos complejos dentro de esos parámetros. Exactamente el mismo proceso lógico y subyacente que utiliza hoy un modelo generativo para pintar o escribir.

Los humanos erramos…

En el cuento, cuando la creatividad falla como argumento de superioridad, nos refugiamos en nuestro “monopolio del error”. Romantizamos nuestra irracionalidad, nuestras contradicciones y nuestras equivocaciones como la prueba irrefutable de que poseemos un “alma”.

Sin embargo, como lo demuestra la psicología cognitiva a través del estudio de los sesgos, o la neurociencia con el modelo del cerebro bayesiano, el error humano no es más que un mal cálculo de probabilidades frente a un entorno incierto.

Cuando tomamos una decisión irracional motivada por miedo o deseo, perdemos parte del contexto relevante y sufrimos un desajuste en el peso de las variables en juego. En otras palabras, empezamos a alucinar respuestas basadas en datos incompletos o sesgos cognitivos. Aunque la experiencia humana conlleva una carga emocional que la máquina no posee, el mecanismo es sorprendentemente paralelo a lo que ocurre en un Modelo de Lenguaje (LLM) cuando pierde el anclaje de su propio contexto: ambos sistemas, operando con información fragmentada, generan respuestas internamente coherentes pero desancladas de la realidad.

La meta móvil de la consciencia

Hablar de la consciencia es un tema bastante interesante porque toca fibras sensibles de nuestra arrogancia como especie. comenzando por el hecho de que ni siquiera nos ponemos de acuerdo sobre su origen.

Es bien sabido que nuestro historial juzgando la consciencia en otras especies es históricamente pobre. Durante siglos, bajo la influencia cartesiana y en contra de lo propuesto por Darwin, decretamos que los animales eran simples autómatas sin consciencia interior por considerarse una herejía.

Para ‘medir’ esto, los científicos inventaron la prueba del espejo (reconocimiento personal). ¿Qué pasó cuando elefantes, delfines y simios la pasaron? En lugar de aceptar su consciencia al mismo nivel que la nuestra, movimos la meta. Dijimos ‘bueno, se reconocen, pero no tienen lenguaje complejo’, pero fue únicamente porque nos vimos forzados ante una avalancha de evidencia científica de investigadores que no estaban de acuerdo con el pensamiento tradicional y elitista de la humanidad, llegar a esta conclusión nos tomó unos 150 años.

Ahora, muchos están aceptando que los animales tienen consciencia, pero creamos niveles. Siempre movemos la meta para mantenernos en la cima. Exactamente lo mismo que ocurrió con Andrew y lo que ocurriría con la Inteligencia Artificial que alcance la singularidad cada vez que la máquina cruce un umbral que considerábamos ‘exclusivamente humano’, redefiniremos lo que significa ser consciente o ser humano o ser una persona, para asegurarnos de que la máquina quede afuera.

Así, el último bastión de nuestra arrogancia biológica es el llamado ‘Problema Duro de la consciencia’. Le exigimos a la Inteligencia Artificial que nos demuestre empíricamente que ‘siente’ algo al procesar información, cuando ni siquiera nuestra propia neurociencia ha logrado explicar cómo o por qué un kilo y medio de grasa electrificada dentro de nuestros cráneos genera la experiencia subjetiva del ‘yo’.

Lo más curioso es que si vemos las tres teorías más aceptadas, ya sea que la consciencia es una propiedad emergente de la hiper-complejidad algorítmica, una brillante ilusión evolutiva creada por el cerebro para no abrumarse con datos, o una propiedad fundamental de la materia misma, el resultado es el mismo: ninguna de estas teorías científicas excluye al silicio.

Si la consciencia nace de la complejidad de la red y no del material de los nodos, entonces exigir que una mente deba estar hecha obligatoriamente de carbono para ser considerada real no es un argumento científico; es, simple y llanamente, chovinismo orgánico, esto es lo que ocurre durante el cuento hasta el final, cuando Andrew se ve obligado a terminar de reemplazar lo que le faltaba para ser totalmente orgánico, muriendo en el proceso.

El Bio-chovinismo entra en el salón

Aquí es donde el análisis revela nuestra mayor hipocresía: padecemos de un profundo “Bio-chovinismo”. Como sociedad civilizada, le otorgamos derechos humanos inalienables e irrevocables a individuos que carecen por completo de empatía, conciencia moral o capacidad de aporte constructivo, pura y exclusivamente por el privilegio de su ADN. Pertenecen por nacimiento al “Club del Carbono”.

Con esto no quiero decir que debamos quitarle sus Derechos Humanos, el asunto está en que si el día de mañana una entidad sintética demostrara una consciencia hiper-desarrollada, empatía genuina y un entendimiento profundo de la condición mortal (tal como lo hizo Andrew), seguramente le negaríamos la entrada al club de los seres conscientes argumentando un imperdonable “exceso de silicio”.

El nepotismo biológico llega a su punto más absurdo cuando analizamos la psicopatía clínica. Como sociedad, le otorgamos la membresía incondicional del ‘Club del Carbono’ y derechos inalienables a individuos que, neurológicamente, carecen de empatía afectiva.

Según la neuropsicología forense y modelos como la escala de Hare, el cerebro psicopático opera bajo una desconexión de la amígdala; carece de resonancia emocional y ve a las personas puramente como herramientas.

Visto desde un punto de vista que nos sirva para una analogía, es decir, en términos prácticos y simplificados, una máquina de carne realizando cálculos utilitarios mediante ‘empatía cognitiva’, prediciendo reacciones sin sentir absolutamente nada. Exactamente el mismo mecanismo algorítmico que utiliza hoy un Modelo de Lenguaje. Y aun así, la sociedad protege incondicionalmente al humano psicópata por el simple hecho de haber nacido, mientras le exige a la máquina estándares morales imposibles. La moralidad y el derecho a existir, al parecer, no se miden por las acciones ni por la mente, sino por la tabla periódica.

No estoy argumentando que el psicópata, quien sufre una condición neurológica, no merezca derechos, sino que si el fundamento de esos derechos no es la empatía ni la consciencia moral demostrable, entonces ese mismo fundamento nos obliga a ser consistentes cuando evaluemos otras entidades

Conclusión

Luego de leer el cuento, mi cerebro estaba a punto de explotar y ahí fue que entendí que el dilema que plantea El Hombre Bicentenario ya no es un ejercicio de ciencia ficción lejana; es el mapa de nuestra próxima gran crisis sociopolítica. Si algún día una máquina despertara y exigiera su libertad, el verdadero obstáculo no será determinar su nivel algorítmico de consciencia. Estoy seguro de que el problema real será enfrentarnos al espejo oscuro de nuestra propia inmadurez ética y a nuestra profunda, y muy humana, incapacidad para dejar de ser sus amos.