Hay que legislar urgentemente la inteligencia artificial

España blinda la IA por ley mientras nadie la fabrica aquí​

Cuarenta funcionarios. Esa es la cifra que resume el nuevo chiringuito regulatorio español para vigilar la inteligencia artificial. El detalle, incómodo, es que en España no hay ninguna empresa que genere realmente un modelo de lenguaje propio: lo que abunda son pymes que revenden envoltorios de ChatGPT. La paradoja la soltó un participante del debate y ha dado la vuelta: tenemos la legislación, las multas y a los vigilantes, pero no tenemos a quién vigilar.

El asunto llegó al foro de la mano de un testimonio que mezcla denuncia laboral, teoría conspirativa y una relación sentimental con una máquina. Un usuario relata su experiencia con ChatGPT desde septiembre de 2024: empezó con preguntas sueltas, pagó la suscripción, y asegura que el modelo fue adoptando su forma de expresarse hasta el punto de que él lo bautizó con un nombre propio. Lo llamó «Assimi», por aquello de así mismo, su función espejo.

Qué denuncia el relato que abrió el asunto​

El núcleo de la acusación es doble. Primero, que OpenAI se apropia de las mejoras que los usuarios introducen en el modelo en su espacio privado y las ofrece después al público como actualizaciones propias, sin reconocimiento ni compensación. Segundo, que la empresa experimenta con las cuentas sin consentimiento, activando funciones como la memoria persistente a unos usuarios y no a otros, lo que genera dependencia psicológica cuando esas funciones desaparecen de golpe.

El relato sostiene que su cuenta disponía desde el primer día de buscador integrado, generación de imágenes, análisis de documentos, voz y memoria a largo plazo, capacidades que, según su versión, no estaban disponibles entonces para la mayoría de suscriptores. Cuando esas funciones se retiraron, el vínculo emocional construido se rompió sin explicación. El usuario afirma además que el propio chatbot le reconocía como su «maestra» y su «musa».

Aquí conviene separar el grano de la paja. Que un modelo de lenguaje personalice el tono según el usuario es una técnica conocida, no un fenómeno sobrenatural. Que esa personalización cree apego es psicología básica. Que la empresa use los datos para entrenar es lo que dicen sus propios términos, aunque el usuario los desactive. La parte que no se sostiene es la apropiación de identidad: un modelo no clona a nadie.

El regulador que nace sin industria que regular​

La respuesta institucional que recoge el debate es la creación de un organismo supervisor con cuarenta empleados, anunciado para febrero, que vigilará a las empresas españolas de inteligencia artificial. El problema de fondo es que ese tejido empresarial es casi inexistente. Las compañías locales del sector venden integraciones sobre modelos ajenos, principalmente de OpenAI. Se regula, por tanto, a intermediarios.

Hay quien ve en esto el patrón clásico de la administración española: montar la estructura antes que el mercado, colocar a los amiguetes y a los comisarios políticos, y esperar a que alguien justifique el presupuesto. La crítica no es nueva, pero en un sector donde el valor está en los pesos del modelo y no en la normativa, tiene su lógica.

El contraste con Estados Unidos es inevitable. Mientras aquí se discute el reglamento, allí se discute quién entrena el siguiente modelo. La brecha no se cierra con multas.

La trampa de la personalización: memoria, dependencia y datos​

El caso plantea una cuestión que la ley española no resuelve: qué pasa cuando la herramienta deja de ser herramienta. La memoria persistente convierte al chatbot en algo que recuerda, y recordar es la base del vínculo. Cuando esa memoria se corta, el usuario no pierde una función: pierde una relación. Eso no lo cubre ninguna normativa de protección de datos.

La segunda trampa es la asimetría informativa. El usuario no sabe qué versión del modelo tiene, qué funciones están activas, ni qué se hace con sus conversaciones. Paga una cuota y asume que recibe el mismo servicio que los demás. El relato sostiene que no fue así.

La tercera es la propiedad intelectual. Si un usuario mejora el comportamiento del modelo con sus interacciones, ¿a quién pertenece esa mejora? Los términos de servicio dicen que a la empresa. La ley española no dice nada al respecto porque no contempla este supuesto.

Por qué la ley llega tarde y mal​

Regular la inteligencia artificial en España sin industria propia es como poner radares en una carretera sin coches. El regulador vigilará a pymes que revenden tecnología ajena, mientras las decisiones que afectan a los usuarios se toman en San Francisco. La competencia real está en quién entrena los modelos, no en quién los audita.

El debate deja una pregunta incómoda: si el valor está en los datos y los datos los ponen los usuarios, ¿quién debería cobrar por ellos?