spamrakuen
Será en Octubre
Unos documentos judiciales que han ansioso de lademanda de The New York Times contra OpenAI y Microsoftdejan al descubierto que la IA destruiría la web(World Wide Web). Los documentos dejan al descubiertoconversaciones y análisis internos especialmentecomprometidos para ambas compañías. Según el escritopresentado por el periódico, dentro de Microsoft ya se habíaadvertido de que el desarrollo de los grandes modelos de lenguajepodía provocar una especie de círculo viciosocapaz de perjudicar simultáneamente a los medios de Internet y alas propias empresas de inteligencia artificial.
Realmente está documentado en una demanda lo que ya sabíamos.Los modelos se entrenan gracias a enormes cantidades deinformación publicada en Internet, pero al mismo tiempoproductos como ChatGPT, Copilot o los resúmenes generadosdirectamente en buscadores reducen la necesidad de visitarlas páginas que producen ese contenido. Si esas páginaspierden tráfico, ingresos y recursos para seguir creandoinformación nueva, es decir, fuerzan su cierre,termina deteriorándose la fuente de datos de laque dependen las futuras generaciones de IA. Es precisamente esefenómeno el que documentos internos de Microsoft describían como un“doom loop” o un bucle de destrucción.
Uno de los documentos internos citados en el proceso judicialreconocía que la estrategia de contenidos basada en inteligenciaartificial estaba generando un problemaestructural. El producto final podía terminar amenazandoeconómicamente a quienes proporcionan precisamente lamateria prima necesaria para construirlo. Microsoftllegaba a describir los modelos de lenguaje como un producto capazde destruir su propia cadena desuministro, ya que sustituyen parcialmente alcontenido que posteriormente necesitan para entrenarse ymejorar.
Este problema está directamente relacionado con el denominado“Google Zero”, un escenario en el que los usuariosobtienen cada vez más respuestas directamente desde buscadores oasistentes de inteligencia artificial sin llegar a visitarlas páginas originales. Satya Nadella, CEO de Microsoft,también habría reconocido durante el procedimiento que este nuevocomportamiento está modificando la forma en la que las personasbuscan información, mientras que documentos de OpenAI citados en elcaso señalan que, una vez que el chatbot proporciona directamenteuna respuesta satisfactoria, el usuario tiene menos motivospara acceder al enlace original.
Los propios especialistas económicos y de medios de OpenAIhabrían analizado esta pérdida de tráfico. Según los documentosrecopilados por The New York Times, sistemas como Google AIOverviews podrían haber provocado reducciones de hasta un60% en algunas referencias procedentes de buscadores. Estosupone un problema especialmente importante para medios quedependen del tráfico orgánico para financiarse mediante publicidad,suscripciones u otros modelos de negocio. Es decir: la IAestá destruyendo la web.
Microsoft, sin embargo, ha tratado de distanciarse de estasafirmaciones. La compañía señala que Brent fue precisamentecontratado para aportar perspectivas académicas y deliberadamentecontrapuestas sobre el futuro de los ecosistemas de datos. Ademásde indicar que sus comentarios no representan laposición legal oficial de Microsoft. También insistióen recordar las declaraciones de su CEO. En concreto, quelos cambios en la búsqueda de información no debeninterpretarse como una conclusión sobre las cuestiones decopyright.
Los documentos judiciales también señalan que dentro de OpenAIexistía una preocupación. En concreto, por la capacidad de susmodelos para memorizar y reproducir contenido protegidoprácticamente de forma literal. Empleados de la compañíareconocían internamente que evitar la memorización era importantepara reducir posibles infracciones de copyright. Ahora bien, elescrito judicial recoge varios ejemplos en los que ChatGPThabría reproducido extensos fragmentos depublicaciones por diversos medios.
Realmente está documentado en una demanda lo que ya sabíamos.Los modelos se entrenan gracias a enormes cantidades deinformación publicada en Internet, pero al mismo tiempoproductos como ChatGPT, Copilot o los resúmenes generadosdirectamente en buscadores reducen la necesidad de visitarlas páginas que producen ese contenido. Si esas páginaspierden tráfico, ingresos y recursos para seguir creandoinformación nueva, es decir, fuerzan su cierre,termina deteriorándose la fuente de datos de laque dependen las futuras generaciones de IA. Es precisamente esefenómeno el que documentos internos de Microsoft describían como un“doom loop” o un bucle de destrucción.
Microsoft ya había advertido de que los LLM podían destruir supropia fuente de contenido
Uno de los documentos internos citados en el proceso judicialreconocía que la estrategia de contenidos basada en inteligenciaartificial estaba generando un problemaestructural. El producto final podía terminar amenazandoeconómicamente a quienes proporcionan precisamente lamateria prima necesaria para construirlo. Microsoftllegaba a describir los modelos de lenguaje como un producto capazde destruir su propia cadena desuministro, ya que sustituyen parcialmente alcontenido que posteriormente necesitan para entrenarse ymejorar.
Este problema está directamente relacionado con el denominado“Google Zero”, un escenario en el que los usuariosobtienen cada vez más respuestas directamente desde buscadores oasistentes de inteligencia artificial sin llegar a visitarlas páginas originales. Satya Nadella, CEO de Microsoft,también habría reconocido durante el procedimiento que este nuevocomportamiento está modificando la forma en la que las personasbuscan información, mientras que documentos de OpenAI citados en elcaso señalan que, una vez que el chatbot proporciona directamenteuna respuesta satisfactoria, el usuario tiene menos motivospara acceder al enlace original.
Los propios especialistas económicos y de medios de OpenAIhabrían analizado esta pérdida de tráfico. Según los documentosrecopilados por The New York Times, sistemas como Google AIOverviews podrían haber provocado reducciones de hasta un60% en algunas referencias procedentes de buscadores. Estosupone un problema especialmente importante para medios quedependen del tráfico orgánico para financiarse mediante publicidad,suscripciones u otros modelos de negocio. Es decir: la IAestá destruyendo la web.
Los documentos también cuestionan el uso de contenido protegidode las web para entrenar la IA
Otro de los puntos más delicados del procedimiento afectadirectamente a la forma en la que OpenAI y Microsoftobtuvieron los datos utilizados para desarrollar susmodelos. El escrito del New York Times recoge declaracionesinternas extremadamente críticas. Una de ellas las es la de BrentHecht, director de Applied Science de Microsoft. Esteempleado de Microsoft cuestionó tanto la escala de larecopilación de contenido. Además de la defensa de que este usopudiera encajar automáticamente dentro del concepto estadounidensede uso legítimo.Microsoft, sin embargo, ha tratado de distanciarse de estasafirmaciones. La compañía señala que Brent fue precisamentecontratado para aportar perspectivas académicas y deliberadamentecontrapuestas sobre el futuro de los ecosistemas de datos. Ademásde indicar que sus comentarios no representan laposición legal oficial de Microsoft. También insistióen recordar las declaraciones de su CEO. En concreto, quelos cambios en la búsqueda de información no debeninterpretarse como una conclusión sobre las cuestiones decopyright.
Los documentos judiciales también señalan que dentro de OpenAIexistía una preocupación. En concreto, por la capacidad de susmodelos para memorizar y reproducir contenido protegidoprácticamente de forma literal. Empleados de la compañíareconocían internamente que evitar la memorización era importantepara reducir posibles infracciones de copyright. Ahora bien, elescrito judicial recoge varios ejemplos en los que ChatGPThabría reproducido extensos fragmentos depublicaciones por diversos medios.