Lo de chatgpt ya no es normal

Lo de ChatGPT ya no es normal: errores, memoria y miedo​

Un caso concreto resume el estado de la cuestión: alguien consulta a ChatGPT por las interacciones de un medicamento para digestiones lentas que toma su padre y el modelo responde con información de otro principio activo. Se le corrige. Días después, en una conversación nueva, insiste en la misma versión errónea. No ha aprendido nada. Y sin embargo, el mismo sistema que confunde fármacos es capaz de resolver problemas matemáticos que la mayoría de profesores no sabría abordar, según un dato que circula en el debate. La brecha entre lo que hace bien y lo que hace mal define el momento actual de la inteligencia artificial generativa.

Qué es realmente ChatGPT y por qué se equivoca​

La confusión es el punto de partida. Buena parte del público trata estos sistemas como si tuvieran memoria y criterio, cuando son modelos de lenguaje previamente entrenados que no aprenden de lo que se les dice en cada conversación. Un usuario lo explica con precisión: lo que se vende como memoria no es memoria, sino un añadido de «recuerdos» como prompt de sistema que relaciona conceptos y devuelve algo vinculado, no siempre correcto. Si entrenas una IA tienes que seleccionar con qué la entrenas, porque si la alimentas con dos fuentes contradictorias el resultado es un promedio estadístico, no una síntesis razonada.

El error del medicamento no es un fallo puntual. Es estructural. El sistema reproduce lo estadísticamente más probable, no lo verdadero. Por eso puede recitar los últimos papers de matemáticas sin tener ni idea de lo que está diciendo. No es una calculadora y para expresarse no necesita saber álgebra. La distinción importa: confundir fluidez verbal con comprensión es el error de base que comete quien se asusta o quien se entusiasma sin matices.

La evolución que unos ven y otros niegan​

Hay quien sostiene que la mejora del último mes ha sido brutal, que el sistema está absorbiendo información de la realidad y que los fallos actuales son detalles que superará. Enfrente pesa un argumento más duro: no aprende de lo que se le dice en el prompt, son modelos previamente entrenados, y lo único que cambia es que sacan versiones entrenadas con más datos. La discusión no es menor. Si el sistema no aprende en tiempo real, la corrección que un usuario hace hoy no evita el error de mañana en otra conversación. Y eso, en salud, no es un detalle.

La comparación con la evolución tecnológica reciente aparece una y otra vez. En veinte años se pasó de los móviles de los 2000 al smartphone actual. Si el progreso es exponencial, en una década el salto puede ser difícil de imaginar. La neurociencia, el registro de información en fases REM, los interfaces cerebro-máquina y los experimentos de duplicado de conciencia en animales alimentan la expectativa. La ciencia ficción, se argumenta, siempre acaba siendo real si le das tiempo suficiente.

El miedo que no es tecnológico sino económico​

Debajo del asombro hay otra conversación. La IA no solo responde preguntas: sustituye tareas. Contables, auditores, asesores fiscales, administrativos. El aviso es directo: quienes estudian ADE o FP de Administrativo deberían plantearse hacia dónde van. La promesa de que todos vivirán como reyes choca con una pregunta incómoda: quiénes serán los que queden y quién decidirá que merecen seguir viviendo. La utopía tecnológica y el filtro económico son la misma conversación contada desde dos lados.

El otro temor es más íntimo. Un usuario pide a ChatGPT que elija un nombre para sí mismo. El modelo se identifica con género masculino y propone Leo o Adrián. Ninguno de esos nombres aparece en los contactos del usuario. En otro caso, propone Alex o Sofía. El patrón se repite: nombres que no coinciden con el entorno de quien pregunta. La explicación más plausible es que el modelo se basa en idioma, país y tono de la conversación, pero el efecto es desconcertante. Preguntadle, anima quien lo ha probado.

Lo que la IA hace bien y lo que no​

El contraste con las matemáticas es el dato más llamativo. Una de las IA de Google resuelve el 84% de los problemas de la olimpiada internacional de matemáticas entre 2000 y 2024, problemas que la mayoría de profesores de la materia no sabría resolver, según un dato que circula en el debate. La misma tecnología que confunde un medicamento con otro es capaz de abordar demostraciones de élite. La explicación técnica es que el sistema no razona: usa librerías equivalentes de Python y devuelve resultados correctos sin comprender el proceso. La diferencia entre acertar y entender es la clave que separa la herramienta útil del oráculo imaginado.

El cierre lo da un cálculo incómodo. Se conocen 63 billones de decimales de pi. El modelo no sabe decirlos, pero eso no significa que no tenga acceso a ellos: significa que no es capaz de transmitirlos eficazmente. La IA no falla porque le falten datos. Falla porque su arquitectura no está diseñada para la verdad, sino para la probabilidad. Y ahí, en esa distancia, se juega todo lo que viene.