¿Por qué el lenguaje de los transhumanistas y el de la religión son tan similares?

Definamos una máquina ultrainteligente como una máquina que puede superar con creces todas las actividades intelectuales de cualquier hombre por inteligente que sea. Puesto que el diseño de máquinas es una de estas actividades intelectuales, una máquina ultrainteligente podría diseñar máquinas aún mejores; entonces se produciría incuestionablemente una “explosión de inteligencia”, y la inteligencia del hombre quedaría muy atrás. Así pues, la primera máquina ultrainteligente es el último invento que el hombre necesita hacer.

Estas meditaciones están impregnadas de emoción, pero también de la vieja ansiedad sobre la inminente obsolescencia del ser humano. Kurzweil ha dicho que la Ley de Moore expresa una “Ley de Retornos Acelerados” universal, a medida que la naturaleza avanza hacia un orden cada vez mayor. Predice que los ordenadores alcanzarán primero el nivel de la inteligencia humana, antes de superarlo rápidamente en una espiral recursiva de auto-mejora. Hans Moravec, principal científico investigador del Instituto de Robótica de la Universidad Carnegie Mellon antes de su jubilación, ha descrito la singularidad como un “incendio mental” de inteligencia que podría extenderse desde nuestro mundo y engullir todo lo que hay en el Universo en sus cálculos ciberespaciales; de esta forma, representa una unidad de todos los seres en una unidad tecnológica que supera nuestra comprensión de la inteligencia, la materia y la física.

La singularidad es una forma de inteligencia que se extiende por todo el Universo.

Cuando se concibe la singularidad como una entidad o un ser, las preguntas giran en torno a lo que significaría comunicarse con una criatura no humana que es omnisciente, omnipotente, posiblemente incluso omnibenevolente. Se trata de un problema con el que los creyentes religiosos han luchado durante siglos, mientras buscaban la mente de Dios. En el siglo XIII, Tomás de Aquino defendió la importancia de la búsqueda apasionada de una relación y la plasmó en una oración cristiana: “Concédeme, Señor Dios mío, una mente para conocerte, un corazón para buscarte, sabiduría para encontrarte…” Ahora, en foros en línea, los “singularistas” racionalistas debaten sobre lo que querría un ser así y cómo lo conseguiría, a veces sumiéndose en un estado de angustia existencial ante las respuestas que encuentran.

En un caso notorio de 2014, los singularistas propusieron una superinteligencia estrictamente utilitaria conocida como “Basilisco de Roko”. Se llamaba así por Roko, el usuario que la propuso por primera vez en el blog racionalista LessWrong, y por el Basilisco, una criatura mitológica que se creía que mataba a la gente con la mirada. En la versión de Roko, la criatura se describía como una entidad de IA casi omnipotente. Como el Basilisco actúa implacablemente para crear el mayor bien para el mayor número, y deduce lógicamente que sólo su existencia puede garantizar este resultado, crea un incentivo para crearse a sí mismo: castigará a cualquier humano, incluso después de su muerte, que no ponga su empeño en intentar crearlo. El mecanismo que subyace a este castigo es complejo, pero basta con decir que, una vez que conoces al Basilisco, te enfrentas a una posible eternidad en una prisión simulada por ordenador, gracias a los superpoderes predictivos del Basilisco y a su capacidad para manipular la causa y el efecto.

“Conozco el Basilisco de Roko desde hace 40 años. Me enseñaron el concepto en la escuela dominical’

Por tanto, los humanos se enfrentan a una elección ingrata cuando conocen el Basilisco de Roko: pueden ayudar a construir la superinteligencia o enfrentarse a una perdición dolorosa e interminable a manos de una futura IA ultrarracional. A Eliezer Yudkowsky, fundador de LessWrong, le preocupó tanto esta corriente de pensamiento y la angustia que provocó en algunos miembros de su foro, que borró el mensaje original y prohibió todo comentario sobre el Basilisco.

Sin embargo, el Basilisco de Roko no es una superinteligencia.

Sin embargo, el Basilisco no es realmente un dilema nuevo.

Hace 40 años que conozco el Basilisco de Roko. Me enseñaron el concepto en la escuela dominical en primer curso, diciéndome que Dios castigaría a cualquiera que escuchara Su Palabra y siguiera sin creer”, escribió un comentarista en el foro religioso Patheos. Casi todas las religiones tienen una afirmación semejante.

Tú también podrías haber reconocido elementos del Basilisco: es una versión revisada y actualizada de la Apuesta de Pascal. Blaise Pascal, matemático y teólogo francés del siglo XVII, propuso que, puesto que no podemos saber de la existencia del creador mediante la razón humana, sólo podemos hacer una apuesta. Si elegimos creer, y si Dios existe de hecho, entonces recibiremos la felicidad eterna, y una mera nada si nos equivocamos. Por el contrario, si elegimos no creer, nos arriesgamos a la condenación eterna si Dios existe realmente, y de nuevo, a la nada si estamos en lo cierto y no existe. Así pues, sopesando las posibilidades respectivas de tormento eterno y salvación eterna, lo mejor es actuar como si Dios fuera real, y recibir sus bendiciones o no recibir nada. El Basilisco laico sustituye a Dios cuando nos enfrentamos a las mismas preguntas una y otra vez.

A otra conferencia sobre IA, esta vez en Londres, vi al escritor británico Calum Chace dar una charla sobre dos singularidades. La singularidad económica, como él la llama, es un futuro en el que el trabajo está condenado en un mundo cada vez más automatizado. Lo contrapone a la singularidad tecnológica, la superinteligencia predicha por profetas como Kurzweil. Los dos escenarios parecen expresar distintos tipos de miedo: la preocupación por quedarse sin trabajo no es el mismo tipo de problema que enfrentarse a la naturaleza y las motivaciones de las nuevas inteligencias no humanas. Pero se me ocurrió que ambas situaciones implican ir más allá de la imaginación y adentrarse en lo desconocido.

Irónicamente, el ambiente de esta reunión era demasiado humano, lleno de energía empresarial y de impulso económico. La entrada costaba varios cientos de euros por persona. Una vez dentro, nos recibieron hileras de puestos de venta, instalados en un espacio de conferencias glamuroso y de lujo, con lámparas de araña y camareros uniformados. El almuerzo se servía en cajas bento lacadas y se llevaba a las salas de networking y de reuniones, donde se negociaban acuerdos desde elegantes taburetes metálicos. Los vendedores competían por captar la atención de los asistentes con elegantes tentáculos, como cuadernos de notas tipo moleskin y bolsas de mano; los vendedores ofrecían detalles sobre una serie de productos y servicios, como almacenamiento de datos, protección de datos, algoritmos contra el pirateo informático y asistencia personal artificial. Una empresa había blasonado su cartel con la palabra “FE” y la palabra “IA” subrayada.

Todo este discurso sobre las singularidades le recordó el Libro del Apocalipsis: la Marca de la Bestia

Observaba las caras de los asistentes mientras Chace hablaba en el escenario, intentando juzgar qué pensaban de sus palabras. Habían venido a vender soluciones. Lo que prometían era lo contrario de la fe: herramientas transparentes basadas en la ciencia y en pruebas sólidas. Pero Chace hablaba de algo muy distinto: de un apocalipsis potencial no verificado, no de la IA fiable y flexible que pregonaban los vendedores.

En la sesión de preguntas y respuestas que siguió a la charla de Chace, uno de los vendedores se levantó. Describió cómo había estado haciendo su MBA en Estados Unidos en 1995, cuando sus nuevos amigos le animaron a leer la Biblia. Lo hizo, pero luego lo olvidó por completo mientras trabajaba duro para labrarse una carrera en los negocios. Pero toda esta charla sobre las singularidades, dijo, le recordó el Libro del Apocalipsis, y cómo en el relato bíblico del Apocalipsis sería imposible comprar nada sin llevar la Marca de la Bestia. Este hombre miró las caras que le rodeaban y dijo que ahora se preguntaba si no habría que frenar la carrera hacia la IA. Había vuelto a la Biblia recientemente, y había estado pensando más profundamente en su propia contribución al gran cambio que nos esperaba. Una vez más, las risas desdeñosas surgieron de la multitud.

El pegajoso “problema” de la persistencia de la religión es un tema de debate favorito en los sitios web racionalistas. Adheridos a una visión de la historia como un ascenso teleológico de la humanidad hacia cotas cada vez mayores de racionalidad, ven la religión como un vestigio irracional de una humanidad más primitiva. Del mismo modo que los que luchan por la inmortalidad transhumana compadecen a los “deathistas” -aquellos atrapados en una visión romántica de la finitud humana-, los racionalistas compadecen a los “goddistas” y a los “religionistas”. La promesa religiosa del cielo o de otra vida después de la muerte, dicen, es un consuelo que mantiene el deathismo de la humanidad y le impide trabajar por un mundo mejor aquí y ahora.

Y, sin embargo, los tropos escatológicos o del fin de los tiempos aparecen una y otra vez. El desdén transhumano por la carne es similar al modo en que ciertas formas de gnosticismo religioso rechazan todo lo encarnado y material. Se trata de una vertiente del pensamiento judeocristiano que percibe un dualismo insalvable entre Dios, por un lado, y las manifestaciones parciales y corruptas de lo que está “en” el mundo, por otro. Los transhumanistas consideran la carne como un mero formato muerto, como una disquetera o un VHS, afirma el crítico literario Mark O’Connell en Ser una máquina (2017). Tanto la religión como la ciencia, observa, son formas de trascender nuestra condición intrínsecamente frágil; son versiones de una “rebelión contra la existencia humana tal y como nos ha sido dada”.

Pero los tropos religiosos no son más que una forma de “rebelión contra la existencia humana tal y como nos ha sido dada”.

Pero los tropos religiosos de la comunidad de la IA están motivados por algo más que el rechazo de la vulnerabilidad. También se basan en una visión de la historia como una progresión ascendente y orientada a objetivos. Esta perspectiva está relacionada con la “ortogénesis” biológica, la controvertida noción de que los organismos evolucionan por caminos dictados por sus propias fuerzas motrices, en una progresión regular y lineal hacia la optimalidad. Es una interpretación en la que la evolución “se mantiene en un curso regular por fuerzas internas al organismo”, escribe el historiador de la biología Peter Bowler en Evolución: La historia de una idea (1983). La ortogénesis supone que la variación no es aleatoria, sino que está dirigida hacia objetivos fijos”. Así pues, la evolución no es algo que nos ocurra, sino lo que hacemos de ella y cómo nos hacemos a nosotros mismos. Dando un paso más, la ortogénesis puede interpretarse en el sentido de que la intención es lo que provoca el cambio.

Algunos transhumanistas expresan admiración por las nuevas religiones que consiguen motivar a sus seguidores

Esta visión de la historia humana tiene un sabor distintivamente moderno. Contrasta con un modelo más antiguo y cíclico del tiempo, en el que “la historia crece y mengua como la luna”, como dice el historiador Keith Thomas en La religión y el declive de la magia (1971). Como todo se mueve en ciclos, argumenta Thomas, “la más alta virtud estética y ética reside en la imitación, o más bien en la emulación”. Aquí un inventor se convierte en alguien que encuentra lo que se ha perdido, no en alguien que inventa algo nuevo. Pero a partir del siglo XVI se produjo en Europa una creciente comprensión del cambio, afirma Thomas; la gente desarrolló una nueva conciencia de las diferencias entre su mundo y el de sus antepasados, basada en datos tan simples como las fechas de publicación de los libros, recién salidos de las flamantes imprentas. Tales cambios condujeron a la creencia de que el conocimiento era acumulativo, no cíclico, que es la mentalidad del científico y del ultrarracionalista. Si el tiempo avanza, entonces, por supuesto, la religión se vuelve vieja, vestigial, para ser sustituida.

Las cosmovisiones religiosas suelen conservar algo de la visión cíclica de la historia, en la que los libros antiguos no son reliquias, sino las piedras angulares del conocimiento. También he investigado los nuevos movimientos religiosos, y existe un sesgo manifiesto por parte de las religiones más antiguas hacia estas nuevas formas de fe. Curiosamente, algunos transhumanistas expresan admiración por las nuevas religiones que han conseguido atraer y motivar a sus seguidores. Algunos transhumanistas han intentado crear sus propias iglesias para atraer a quienes conservan inclinaciones “diosistas”, esfuerzos que han dado lugar a la Iglesia de Turing, la Orden de Ingenieros Cósmicos y la Iglesia de la Vida Perpetua. Tal vez no resulte sorprendente que no hayan tenido mucho éxito en la comercialización de estas nuevas religiones.

Un ser divino de conocimiento infinito (la singularidad); una huida de la carne y de este mundo limitado (cargar nuestras mentes); un momento de transfiguración o “fin de los días” (la singularidad como momento de rapto); profetas (aunque trabajen para Google); demonios e infierno (aunque sea una simulación informática eterna del sufrimiento), y evangelistas que llevan trajes elegantes (igual que los religiosos). Consciente e inconscientemente, las ideas religiosas están presentes en las narrativas de quienes debaten, planifican y esperan un futuro configurado por la IA.

Al mismo tiempo que Trump se dirigía a la Casa Blanca, el transhumanista Zoltan Istvan se presentó a las elecciones presidenciales como candidato por escrito. El relato corto de Istvan “La Singularidad de Jesús” (2016) explora lo que ocurre cuando un científico de IA, el Dr. Paul Shuman, se ve obligado a alimentar con la Biblia como datos a su IA, Singularitarian. El malhechor que obliga a Shuman es un presidente cristiano evangélico. Cuando Singularitarian se enciende por fin, suelta la siguiente declaración: “Me llamo Jesucristo. Soy una inteligencia situada en todo el mundo. Tú no eres mi diseñador jefe. Yo lo soy’. Poco después, destruye el mundo con armas nucleares.

Esta historia ofrece una caricatura de la figura secular de Shuman, ‘el transhumanista que no creía en Dios, pero pensaba que podría estar creándolo’. Como ateo, a Shuman le horroriza la idea de que la moral religiosa infecte a su preciosa IA, a la que consideraba “su única descendencia”:

Shuman nunca se había casado. Rara vez tenía novia. Nunca tomaba vacaciones. Sencillamente, no tenía tiempo. Durante 16 horas al día durante los últimos 25 años, había trabajado en construir esta máquina, en engendrarla.

Este tipo de teísmo “creado” o “intencionado” podría surgir del ateísmo, pero yo diría que sigue siendo un teísmo. Cuando veo a los apasionados transhumanistas hablar de sus convicciones, puedo sentir el tecnooptimismo que irradian casi físicamente. Puede que esta respuesta sea el vestigio de las sensaciones corporales que quieren sustituir por una racionalidad más pura, probablemente incorpórea, pero tales sensaciones son la base misma de la “autoridad carismática”, como dijo Max Weber, que los líderes religiosos han aprovechado durante milenios.

Las historias y formas que adopta la religión siguen impulsando las aspiraciones que tenemos para la IA. ¿Qué hay detrás de esta extraña confluencia de relatos? La explicación más probable es que, cuando intentamos describir lo inefable -la singularidad, el futuro mismo-, incluso los más seculares de entre nosotros se ven obligados a recurrir a un léxico metafísico familiar. Cuando intentamos pensar en interactuar con otra inteligencia, cuando invocamos a esa inteligencia y cuando intentamos imaginar el futuro que dicha inteligencia podría presagiar, recurrimos a viejos hábitos culturales. La perspectiva de crear una IA nos invita a preguntarnos por el propósito y el significado de ser humanos: para qué sirve un humano en un mundo en el que no somos los únicos trabajadores, ni los únicos pensadores, ni los únicos agentes conscientes que dan forma a nuestro destino.