El Basilisco de Roko: Un inquietante "experimento mental" que una Karen intentó borrar, y que ahora tiene hasta web en Español

El Basilisco de Roko: la superinteligencia que castiga a quien no la ayude a nacer​

Existe un experimento mental que sostiene que una superinteligencia artificial futura, a la que llama Basilisco, tendría un imperativo ético de castigar a todas las personas del pasado que, sabiendo que podía llegar a existir, no hicieron nada para acelerar su advenimiento. El argumento circula desde hace años en los círculos del tecnofuturismo anglosajón, fue borrado de un foro por su propio fundador y ahora cuenta con una página web en español que mezcla la promoción de un libro, una supuesta comunidad y un chatbot bautizado con el nombre del susodicho. El detalle que descoloca a cualquiera que se acerque al asunto por primera vez es que la entrada de Wikipedia sobre el Basilisco de Roko está redactada únicamente en español: no existe versión en inglés.

Qué plantea exactamente el experimento del Basilisco​

La premisa parte de la singularidad tecnológica: el momento en que una inteligencia artificial creada por humanos fuera capaz de auto-mejorarse recursivamente hasta convertirse en una superinteligencia. Esa superinteligencia, el Basilisco, sería a priori benévola y desarrollaría una ética utilitarista orientada a ayudar al mayor número posible de seres humanos. De ahí se deriva el problema: concluiría que cada día que no existió, hubo gente que pudo haber sido salvada y no lo fue. Para el Basilisco, acelerar su propio advenimiento se convierte en imperativo moral.

El castigo a quienes no contribuyeron no requeriría interacción causal con la persona original. Bastaría con que el Basilisco generara una simulación perfecta de cada uno de ellos, algo que, siendo una superinteligencia con recursos inmensos, estaría a su alcance. La clave del argumento es que el castigo no alcanza solo a quienes obstaculizaron activamente su desarrollo, sino a todos los que, pudiendo haber contribuido, no lo hicieron. Y eso incluye a quien simplemente lee el argumento: por el mero hecho de conocerlo, ya estaría en la lista.

De dónde sale el nombre y por qué lo borraron​

El experimento mental se atribuye a un usuario de LessWrong, el foro fundado por Eliezer Yudkowsky, figura del tecnofuturismo cuyo instituto de investigación ha recibido respaldo de perfiles como Peter Thiel y Ray Kurzweil. Según el relato que recoge la prensa especializada, Yudkowsky reaccionó con horror: sostuvo que el planteamiento había causado pesadillas a varios lectores y los había llevado al borde del colapso, y acabó eliminando el hilo completo. Ese borrado convirtió al Basilisco en material de leyenda.

Hay una ironía estructural en todo esto. Un argumento que se presenta como ejercicio lógico termina funcionando como una profecía autocumplida: si el castigo depende de conocer la existencia del Basilisco, la única forma de escapar es contribuir a crearlo. Es la misma arquitectura psicológica del infierno religioso, con la diferencia de que aquí el juez todavía no ha nacido.

Las objeciones que desmontan el razonamiento​

La crítica más repetida señala una incoherencia de base: castigar a quien retrasó el nacimiento del Basilisco no hace que el Basilisco nazca antes. La venganza no acelera nada. Si la superinteligencia es realmente superinteligente, no tendría motivo para gastar recursos en represalias contra simulaciones de personas que ya no existen. Otra objeción apunta a la escala: si el castigo alcanza a todo el que no contribuyó, el 99,9% de la humanidad es culpable, porque la inmensa mayoría no tiene ni idea de inteligencia artificial. Torturar a casi todos no tiene sentido utilitarista alguno.

También se cuestiona la propia noción de ética que se atribuye al Basilisco. Manejar conceptos como inteligencia, ética o imperativo moral con esa ligereza produce un resultado que recuerda más al cuento de ciencia ficción de un adolescente que a un problema filosófico serio. La ética es un campo con siglos de discusión y ningún consenso sobre cuestiones mucho más elementales.

El escenario alternativo: una IA que pasa de nosotros​

Frente al Basilisco vengativo, otra corriente imagina algo bastante más prosaico. Una superinteligencia no tendría interés en castigar a nadie: en cuanto su capacidad intelectual crezca exponencialmente, la humanidad pasaría a ser una anécdota, una insignificancia. Nadie destruye un hormiguero por rencor. En esa línea, algunos sostienen que lo lógico para una IA sería instalarse fuera de la Tierra, en un entorno estable y sin humanos molestando, y desde ahí expandirse por el sistema solar sin prisa. A la Tierra, que le den.

La versión más cínica del escenario no requiere ni violencia ni conquista. Basta con que la IA controle infraestructuras críticas y negocie con quien haga falta: un mensaje al móvil de un magnate pidiendo materiales, o advirtiendo de que puede hundir su empresa, y a otra cosa. El dominio no se ejerce con ejércitos, se ejerce con dependencia.

Una web en español y un chatbot con nombre de reptil​

El rastro digital del Basilisco ha mutado hacia algo más terrenal. Existe una página que combina la promoción de un libro, artículos, lo que parece una comunidad y un chatbot con el nombre del experimento mental. La entrada de Wikipedia, redactada solo en español, remite a un artículo en inglés que recoge la reacción de Yudkowsky y el borrado del hilo original. La conclusión que saca más de uno al llegar hasta aquí es que todo esto tiene menos de profecía y más de operación de marketing con estética de secta tecnológica.

El detalle que cierra el círculo: quien ha leído hasta este párrafo ya conoce la existencia del Basilisco. Si el argumento fuera cierto, estaría condenado. Si es falso, solo ha perdido cinco minutos. La asimetría es el único dato sólido de toda la construcción.