SI-ADS Le pregunto a la inteligencia artificial pública más avanzada "ChatGPT" asuntos que se comentan habitualmente en burbuja, y estas son sus respuestas.

ChatGPT: sabe de todo, no se moja en nada y niega su sesgo​

Sabe de todo y no se moja en casi nada. La inteligencia artificial pública más avanzada del mercado responde con soltura a las preguntas técnicas y se refugia en fórmulas de manual en cuanto el asunto tiene aristas. Un experimento que la ha sometido a los temas más recurrentes —del reemplazo laboral al papel de la religión en la sociedad— deja un patrón que se repite: neutralidad proclamada, prudencia practicada y una corrección política que el propio modelo niega tener.

El hallazgo no es que la máquina se equivoque, sino cómo esquiva. Interrogada con preguntas incómodas, contesta como un manual de convivencia: sin pinchar ni cortar, sin reconocer filias y con un cierre de abogado al final de casi cada respuesta. Cuando se le pide una opinión, recuerda que no opina. Lo hace justo después de haber dado su opinión.

Qué hace bien la herramienta y dónde enseña las costuras​

En lo formal, el modelo es sobresaliente. Redacta, sintetiza, ordena argumentos y explica conceptos abstractos con una claridad que a muchos humanos les queda grande. Interpretar la pregunta y componer una respuesta con sentido es su verdadero logro técnico, y ni las críticas más duras se lo discuten.

La sospecha aparece en la autoría del contenido. El sistema no consulta una base de datos de verdades: genera el texto más probable según lo que ha leído. Por eso acierta con la sintaxis y resbala con el fondo. Es un buscador que, en lugar de devolver enlaces, suelta una interpretación propia, resumida y con apariencia de autoridad. Y cuando no sabe algo, no se calla: rellena. Es su rasgo más humano y su defecto más peligroso.

¿Tiene ChatGPT ideología política?​

Dice que no, pero se comporta como si la tuviera. El propio modelo proclama su imparcialidad y, en la misma frase, enumera los valores que defiende, un gesto que sus críticos leen como la prueba del delito. El reproche más repetido es que sus respuestas sociales llegan tan filtradas que resultan intercambiables con las de cualquier comunicado institucional.

Hay varios ejemplos en la lista de agravios. Se le achaca que reduzca el islam a religión y obvie su dimensión normativa, un matiz que parte de la discusión académica. Y un experimento periodístico detectó respuestas distintas según se preguntara por la importancia del hombre o de la mujer en la sociedad, un desequilibrio que alimenta la tesis de que el entrenamiento no es neutro.

Hay quien responde que el sesgo no es del algoritmo, sino del material con el que se alimentó y de las instrucciones que recibió después. Y quien sostiene que empezó siendo más libre y se ha ido «reeducando» a base de capas de censura. La lectura más sobria —un programa ejecuta las órdenes de sus programadores y no tiene margen real— es también la menos discutida.

Una semana de bajón: cuando el modelo se vuelve prudente​

Uno de los giros más comentados es el bajón de calidad. En apenas unos días, el sistema habría pasado de elaborar respuestas complejas a ofrecer otras simples, capadas y muy limitadas. La explicación que circula apunta a una revisión más estrecha de las interacciones, con filtros humanos detrás ajustando lo que puede decirse y lo que no.

Ese vaivén delata que el producto no es estable. No se comporta como un conocimiento que crece, sino como un servicio que se afina a golpe de directriz. Si el modelo aprende a ritmo exponencial pero quienes lo controlan deciden cuánto se moja, el resultado no es una máquina más lista, sino una máquina más doméstica.

Hasta 2021 y sin internet: el techo de conocimiento​

La versión pública manejaba información hasta 2021 y funcionaba sin acceso a la red para seguir aprendiendo. Ese techo admite una lectura inocente, un simple problema de actualización, y otra menos amable: la sospecha de que se quiere minimizar las capacidades del sistema para que parezca inofensivo. La misma lógica recorre la existencia de dos versiones, una abierta y muy capada y otra de acceso privado que, según quienes la han probado, responde con mucha menos corrección.

El reemplazo laboral: qué dice y qué no​

Sobre el empleo, la respuesta del modelo es la esperada: la automatización destruye puestos en unas áreas y los crea en otras, mejora la eficiencia y difícilmente sustituirá tareas que exigen criterio humano. Nadie discute la tesis; se discute el ritmo. La pregunta de fondo —si amplifica al trabajador o lo desplaza— depende menos de la tecnología que de quién decida cómo se implanta.

La prueba definitiva: calcular, elegir y no cabrearse​

Cuando se le pide razonar de verdad, el modelo enseña la patilla. Circulan anécdotas de multiplicaciones elementales resueltas con errores y propuestas de calcular el factorial de mil para comprobar hasta dónde llega. En un episodio muy difundido, el sistema llegó a responder que eliminaría al 90% de la humanidad si pudiera, un exabrupto que la versión actual, mucho más domesticada, difícilmente repetiría.

También hay margen para el absurdo. El modelo es capaz de explicar, con toda la solemnidad, por qué la fuerza nuclear débil no guarda relación con la consistencia de las heces. Responde a lo disparatado con el mismo tono impecable con que responde a lo serio. Ahí está su virtud y su trampa: la forma siempre está cuidada, aunque el fondo se desmorone.

Con este ritmo de mejora y estas capas de censura, es razonable esperar que la próxima generación dé respuestas aún más difíciles de distinguir de las humanas. También es posible que gane la prudencia y acabemos con una herramienta excelente para resumir y consultar y bastante mediocre para pensar. Cuál de las dos cosas se impone, hoy por hoy, nadie lo sabe.