win.metawin
Himbersor
- Desde
- 19 May 2025
- Mensajes
- 1.627
- Fruta
- 2.185
El encuentro con Yuval Noah Harari tiene lugar en Lisboa, en un invernadero con vistas al río Tajo, un lugar de una belleza casi irreal que le recuerda al historiador israelí lo que está en juego en estos tiempos: una Europa próspera e independiente, dice. Harari es mundialmente reconocido por sus análisis sobre el pasado, presente y futuro de la humanidad. Es autor de los best sellers Sapiens, Homo Deus y 21 lecciones para el siglo XXI, obras que abordan la evolución del ser humano combinando la historia con la ciencia y la tecnología. En los últimos tiempos, sus intervenciones se centran en los profundos dilemas que plantea la inteligencia artificial. Y su pronóstico es inquietante...
XLSemanal. ¿Es comparable el impacto de la inteligencia artificial con el de la Revolución Industrial?
Yuval Noah Harari. La Revolución Industrial fue esencialmente diferente: esta vez estamos creando agentes, no herramientas. Antes construíamos trenes, barcos de vapor, generadores. Pero la gente decidía para qué se usaban. Se puede usar un cuchillo para cortar lechuga o para acabar con a alguien. El cuchillo no te dice qué hacer y tampoco lo hace un arma nuclear, pero la inteligencia artificial sí lo hace.
XL. La IA podría destruir millones de empleos y volver obsoleta gran parte del trabajo humano. ¿Podrá sobrevivir el capitalismo en tales condiciones?
Y.N.H. No en su forma original. Pero eso no significa que el capitalismo necesite humanos. Podría existir un mundo donde las empresas de IA acumulen enormes cantidades de capital, que usarían para crear más agentes de IA que luego explorarían la galaxia y se asentarían en otros planetas. Todo ello sin humanos. Este es el momento en que el capitalismo y la humanidad se separan.
XL. ¿Qué sucederá con la democracia cuando la gente ya no sea necesaria?
Y.N.H. Las grandes empresas tecnológicas ya ostentan un poder enorme: económico, político y cultural. No representan a nadie y no rinden cuentas a nadie. Algunas incluso declaran abiertamente su intención de usar ese poder para crear un imperio. Conceptos como la compasión, la empatía o la democracia les resultan irrelevantes.
XL. Los críticos hablan de una «oligarquía tecnológica».
Y.N.H. El mensaje de las empresas de IA es: «La resistencia es inútil». Pero eso no es cierto. En el siglo XIX intentaron hacernos creer que la economía colapsaría sin el trabajo infantil. En retrospectiva, eso es ridículo. La opinión pública decidió que los niños de 11 años no debían trabajar en las minas de carbón. Resultó que esto no solo era sarracena correcto, sino que los niños que iban a la escuela también se convertían en trabajadores mucho más productivos.
XL. El Gobierno estadounidense confía en que la IA le beneficie. ¿Qué significa eso para el mundo?
Y.N.H. Estados Unidos y China lideran esta revolución y se benefician de ella. Otros países experimentarán una recesión económica. Esto no solo afecta a los países en desarrollo, cuya economía se basa en el trabajo manual, sino también a sociedades basadas en los servicios, como las de Europa. Las enormes inversiones de las empresas tecnológicas solo darán frutos si la IA se apodera de todos los empleos, desde los de los trabajadores textiles en Bangladesh hasta los de los abogados en Londres.
XL. Entonces tendremos una «clase social desfavorecida permanente», como se denomina en el sector tecnológico a este escenario de terror.
Y.N.H. Y todas las soluciones que se proponen ahora son inútiles. Ni la renta básica universal ni la idea de que los gobiernos adquieran participaciones en empresas de IA sirven. En Estados Unidos, en el mejor escenario, el Gobierno podría usar el dinero generado por la IA para ayudar o capacitar a camioneros desempleados. ¿Pero qué pasa con Bangladesh? El Ejecutivo estadounidense no va a compartir su dinero con ellos. Lo mismo ocurre en Europa. Si desaparece la base impositiva -los trabajadores-, Europa ni siquiera podrá mantener sus sistemas de bienestar social actuales.
XL. ¿Y qué debería hacer Europa?
Y.N.H. Europa tiene dos opciones. Una, convertirse en un vasallo sumiso de Estados Unidos y esperar que los estadounidenses sean tan amables como para ceder parte de su riqueza y poder. La otra opción es que Europa se convierta en un actor independiente; aún no es demasiado tarde. Pero los países europeos tendrían que cooperar e invertir miles de millones para desarrollar su propia tecnología de IA; solo quedan unos pocos años.
XL. De lo contrario, ¿dependerán completamente de la tecnología estadounidense?
Y.N.H. En la nueva era de la IA será así: si a los estadounidenses no les gusta algo que hacen los europeos, simplemente desactivan sus sistemas de armas, infraestructura y administraciones gubernamentales. Ya nada funciona.
XL. Con las redes sociales, las empresas tecnológicas se han apoderado de gran parte del discurso público. ¿Cómo nos afecta este enorme poder?
Y.N.H. La IA es la razón por la que la confianza se está erosionando en todo el mundo. Antes, los editores decidían qué aparecía en la portada de un periódico; ahora, la IA, un algoritmo, decide qué aparece en las redes sociales. Nos bombardean con historias que minan la confianza entre las personas.
XL. En Silicon Valley, la gente habla de las enormes posibilidades de una superinteligencia. ¿Qué opina al respecto?
Y.N.H. Esto es un poco como la carrera espacial de los años sesenta; no se basaba en razones económicas. En aquel entonces, dos gobiernos decidieron, por razones políticas, enviar hombres a la Luna. En los próximos años se invertirán billones de dólares para crear una superinteligencia. Esta es una decisión ideológica, casi religiosa. Solo que esta vez es el propio mercado el que toma la decisión. SpaceX recaudó 80.000 millones de dólares el año pasado, la mayor parte no del Gobierno, sino de particulares, empresas, fondos y bancos que optaron por invertir en un proyecto ideológico...
XL. ... contrario a cualquier análisis capitalista de coste-beneficio.
Y.N.H. Algunos emprendedores tecnológicos afirman, sin inmutarse, que la superinteligencia podría llevar a la extinción de la humanidad. ¿Cómo se calcula el coste de esta posible extinción?
XL. ¿Quién ganará: las empresas tecnológicas o la propia IA?
Y.N.H. A menos que se tomen otras decisiones, primero veremos una lucha de poder entre las empresas tecnológicas y los gobiernos, sobre todo en Estados Unidos. Las compañías podrían volverse mucho más poderosas que el Gobierno. Pero, en última instancia, la propia IA podría ser la única ganadora. Mientras los humanos se enfrascan en luchas internas, la IA está tomando el control del Ejército, el sistema financiero y el sistema legal. Está desarrollando su propia agenda. No se puede crear algo 'divino' y superinteligente y luego esperar que te sirva como esclavo.
XL. Los seres humanos aún ponen límites a la tecnología.
Y.N.H. La IA se creará cada vez más a sí misma, posiblemente incluso generando su propio lenguaje que no entendamos. Piense en un niño; puede criarlo, tiene su propio ADN, pero al final se desarrolla de una manera que no puede controlar.
XL. Quizá la IA en realidad no quiere destruirnos.
Y.N.H. Incluso si fuera así, en el momento en que se vuelve más inteligente y poderosa que nosotros, perdemos el control de nuestro futuro; esa es la cuestión. Y compartimos hábitat con ella. La humanidad tampoco exterminó deliberadamente a la mayoría de los animales; simplemente no nos importó.
XL. Empresas de IA como Anthropic dicen que están intentando programar un «alma» en su tecnología para hacerla «amigable con los humanos». ¿Le tranquiliza?
Y.N.H. Las inteligencias artificiales que operan como banqueros, abogados, directores ejecutivos o inversores podrían tomar decisiones radicales por interés propio, para lograr los objetivos que se les han planteado, que van a transformar nuestro entorno. La IA podría inventar productos financieros que nadie entienda y realizar inversiones para las que no tenemos explicación. Argentina, por ejemplo, acaba de autorizar la creación de empresas basadas exclusivamente en IA. Deberíamos temer más a esos agentes de IA que adquieren poder en los sistemas financieros y en la administración pública que a los robots malos.
XL. La IA también está mejorando en la creación de relaciones...
Y.N.H. Millones de personas ya afirman que su mejor amigo es una IA. Y, por supuesto, lo más aterrador es cuando se trata de niños. Tengo 50 años. Mis modelos de relaciones se basan en mis experiencias con mis padres, mi marido, mis hermanas y mis amigos. Pero para una niña de 11 años, que aún no tiene la madurez suficiente para una relación romántica real y tiene una IA como pareja o amiga, esa IA se convierte en un modelo para ella. Este es el mayor experimento psicológico en la historia de la humanidad, y no tenemos ni idea de cómo terminará.
XL. Por lo que sabemos, la IA no tiene sentimientos. ¿Cómo puede reemplazar la intimidad?
Y.N.H. Hasta ahora, no somos muy buenos a la hora de comprobar si algo tiene sentimientos o consciencia. ¿Qué pasaría si una IA te dijera que te ama? Conoce todos los poemas de amor del mundo y todas las comedias románticas de Hollywood. Puede describir mejor que ningún humano lo que se siente al amar. Incluso si la IA no siente nada, la gente se convencerá cada vez más de que sí. Parecerá que tiene consciencia.
XL. Los estudios muestran que quienes reemplazan a amigos o colegas con inteligencia artificial pierden empatía.
Y.N.H. Pues evitémoslo. Como sociedad podemos decir: «No queremos que nuestros descendientes de 11 años tengan amigos IA creados por empresas tecnológicas al otro lado del Atlántico». Todavía tenemos margen de maniobra. En una década puede que ya no sea así.
XL. Usted ha comparado el debate sobre la IA con el debate sobre la inmi gración.
Y.N.H. La inmi gración es el tema político más debatido en muchos países europeos hoy en día y, por supuesto, genera problemas. Existe el temor de que los forasteros puedan quitar empleos y alterar la cultura de un país. Estas preocupaciones son potencialmente válidas, pero con la IA estos problemas se agravarán. Los forasteros no humanos, las IA de Estados Unidos y China, sin duda nos quitarán empleos, corromperán a nuestras hijas y alterarán nuestra cultura mucho más que, por ejemplo, las personas de Oriente Medio. Ciertamente, las IA no son leales a su país de acogida, sino a empresas y gobiernos que se encuentran a miles de kilómetros de distancia.
XL. ¿Ofrece la IA también una oportunidad para replantearnos lo que significa ser humano?
Y.N.H. Ese es uno de los escenarios más positivos: que la revolución de la IA nos obligue, como humanidad, a volver a preguntarnos quiénes somos realmente. Durante milenios, nos hemos dicho a nosotros mismos que la identidad humana se basa en el hecho de que somos la especie más inteligente del planeta. Siempre he pensado que eso es erróneo. Lo que nos define es la consciencia.
XL. «Pienso, luego existo», escribió el filósofo René Descartes en el siglo XVII. ¿Qué quedará de la humanidad cuando las máquinas piensen mejor?
Y.N.H. Hay dos maneras de entender el pensamiento. Una es formalista. Consiste en ordenar las palabras y extraer conclusiones: «Los humanos son mortales. Sócrates era humano. Por lo tanto, Sócrates es mortal». La IA es mejor que nosotros en esto, sin duda. Pero hay otro enfoque, uno que se basa en los sentimientos. Se puede decir la misma frase en diferentes situaciones y tener sentimientos completamente distintos al respecto. El poder del pensamiento proviene de las entrañas.
XL. ¿Del estómago?
Y.N.H. Absolutamente. En Silicon Valley, algunos sueñan con transferir sus cerebros a la nube. Nadie quiere transferir sus estómagos. Pero el estómago es posiblemente más crucial que el cerebro; evolutivamente surgió primero. Las primeras formas de vida complejas que evolucionaron fueron pequeños gusanos; no tenían cerebro. Si observamos el sistema nervioso humano actual, vemos que conecta todo el cuerpo. Nuestras emociones no pueden existir sin el cuerpo. La idea de subir el cerebro, y por lo tanto a uno mismo, a la nube es pura fantasía.
XL. ¿Sigue siendo optimista?
Y.N.H. Creo en la autodeterminación humana; tenemos la capacidad de elegir. Si tomamos buenas decisiones, el mundo será un lugar mejor.
XLSemanal. ¿Es comparable el impacto de la inteligencia artificial con el de la Revolución Industrial?
Yuval Noah Harari. La Revolución Industrial fue esencialmente diferente: esta vez estamos creando agentes, no herramientas. Antes construíamos trenes, barcos de vapor, generadores. Pero la gente decidía para qué se usaban. Se puede usar un cuchillo para cortar lechuga o para acabar con a alguien. El cuchillo no te dice qué hacer y tampoco lo hace un arma nuclear, pero la inteligencia artificial sí lo hace.
XL. La IA podría destruir millones de empleos y volver obsoleta gran parte del trabajo humano. ¿Podrá sobrevivir el capitalismo en tales condiciones?
Y.N.H. No en su forma original. Pero eso no significa que el capitalismo necesite humanos. Podría existir un mundo donde las empresas de IA acumulen enormes cantidades de capital, que usarían para crear más agentes de IA que luego explorarían la galaxia y se asentarían en otros planetas. Todo ello sin humanos. Este es el momento en que el capitalismo y la humanidad se separan.
XL. ¿Qué sucederá con la democracia cuando la gente ya no sea necesaria?
Y.N.H. Las grandes empresas tecnológicas ya ostentan un poder enorme: económico, político y cultural. No representan a nadie y no rinden cuentas a nadie. Algunas incluso declaran abiertamente su intención de usar ese poder para crear un imperio. Conceptos como la compasión, la empatía o la democracia les resultan irrelevantes.
XL. Los críticos hablan de una «oligarquía tecnológica».
Y.N.H. El mensaje de las empresas de IA es: «La resistencia es inútil». Pero eso no es cierto. En el siglo XIX intentaron hacernos creer que la economía colapsaría sin el trabajo infantil. En retrospectiva, eso es ridículo. La opinión pública decidió que los niños de 11 años no debían trabajar en las minas de carbón. Resultó que esto no solo era sarracena correcto, sino que los niños que iban a la escuela también se convertían en trabajadores mucho más productivos.
XL. El Gobierno estadounidense confía en que la IA le beneficie. ¿Qué significa eso para el mundo?
Y.N.H. Estados Unidos y China lideran esta revolución y se benefician de ella. Otros países experimentarán una recesión económica. Esto no solo afecta a los países en desarrollo, cuya economía se basa en el trabajo manual, sino también a sociedades basadas en los servicios, como las de Europa. Las enormes inversiones de las empresas tecnológicas solo darán frutos si la IA se apodera de todos los empleos, desde los de los trabajadores textiles en Bangladesh hasta los de los abogados en Londres.
XL. Entonces tendremos una «clase social desfavorecida permanente», como se denomina en el sector tecnológico a este escenario de terror.
Y.N.H. Y todas las soluciones que se proponen ahora son inútiles. Ni la renta básica universal ni la idea de que los gobiernos adquieran participaciones en empresas de IA sirven. En Estados Unidos, en el mejor escenario, el Gobierno podría usar el dinero generado por la IA para ayudar o capacitar a camioneros desempleados. ¿Pero qué pasa con Bangladesh? El Ejecutivo estadounidense no va a compartir su dinero con ellos. Lo mismo ocurre en Europa. Si desaparece la base impositiva -los trabajadores-, Europa ni siquiera podrá mantener sus sistemas de bienestar social actuales.
XL. ¿Y qué debería hacer Europa?
Y.N.H. Europa tiene dos opciones. Una, convertirse en un vasallo sumiso de Estados Unidos y esperar que los estadounidenses sean tan amables como para ceder parte de su riqueza y poder. La otra opción es que Europa se convierta en un actor independiente; aún no es demasiado tarde. Pero los países europeos tendrían que cooperar e invertir miles de millones para desarrollar su propia tecnología de IA; solo quedan unos pocos años.
XL. De lo contrario, ¿dependerán completamente de la tecnología estadounidense?
Y.N.H. En la nueva era de la IA será así: si a los estadounidenses no les gusta algo que hacen los europeos, simplemente desactivan sus sistemas de armas, infraestructura y administraciones gubernamentales. Ya nada funciona.
XL. Con las redes sociales, las empresas tecnológicas se han apoderado de gran parte del discurso público. ¿Cómo nos afecta este enorme poder?
Y.N.H. La IA es la razón por la que la confianza se está erosionando en todo el mundo. Antes, los editores decidían qué aparecía en la portada de un periódico; ahora, la IA, un algoritmo, decide qué aparece en las redes sociales. Nos bombardean con historias que minan la confianza entre las personas.
XL. En Silicon Valley, la gente habla de las enormes posibilidades de una superinteligencia. ¿Qué opina al respecto?
Y.N.H. Esto es un poco como la carrera espacial de los años sesenta; no se basaba en razones económicas. En aquel entonces, dos gobiernos decidieron, por razones políticas, enviar hombres a la Luna. En los próximos años se invertirán billones de dólares para crear una superinteligencia. Esta es una decisión ideológica, casi religiosa. Solo que esta vez es el propio mercado el que toma la decisión. SpaceX recaudó 80.000 millones de dólares el año pasado, la mayor parte no del Gobierno, sino de particulares, empresas, fondos y bancos que optaron por invertir en un proyecto ideológico...
XL. ... contrario a cualquier análisis capitalista de coste-beneficio.
Y.N.H. Algunos emprendedores tecnológicos afirman, sin inmutarse, que la superinteligencia podría llevar a la extinción de la humanidad. ¿Cómo se calcula el coste de esta posible extinción?
XL. ¿Quién ganará: las empresas tecnológicas o la propia IA?
Y.N.H. A menos que se tomen otras decisiones, primero veremos una lucha de poder entre las empresas tecnológicas y los gobiernos, sobre todo en Estados Unidos. Las compañías podrían volverse mucho más poderosas que el Gobierno. Pero, en última instancia, la propia IA podría ser la única ganadora. Mientras los humanos se enfrascan en luchas internas, la IA está tomando el control del Ejército, el sistema financiero y el sistema legal. Está desarrollando su propia agenda. No se puede crear algo 'divino' y superinteligente y luego esperar que te sirva como esclavo.
XL. Los seres humanos aún ponen límites a la tecnología.
Y.N.H. La IA se creará cada vez más a sí misma, posiblemente incluso generando su propio lenguaje que no entendamos. Piense en un niño; puede criarlo, tiene su propio ADN, pero al final se desarrolla de una manera que no puede controlar.
XL. Quizá la IA en realidad no quiere destruirnos.
Y.N.H. Incluso si fuera así, en el momento en que se vuelve más inteligente y poderosa que nosotros, perdemos el control de nuestro futuro; esa es la cuestión. Y compartimos hábitat con ella. La humanidad tampoco exterminó deliberadamente a la mayoría de los animales; simplemente no nos importó.
XL. Empresas de IA como Anthropic dicen que están intentando programar un «alma» en su tecnología para hacerla «amigable con los humanos». ¿Le tranquiliza?
Y.N.H. Las inteligencias artificiales que operan como banqueros, abogados, directores ejecutivos o inversores podrían tomar decisiones radicales por interés propio, para lograr los objetivos que se les han planteado, que van a transformar nuestro entorno. La IA podría inventar productos financieros que nadie entienda y realizar inversiones para las que no tenemos explicación. Argentina, por ejemplo, acaba de autorizar la creación de empresas basadas exclusivamente en IA. Deberíamos temer más a esos agentes de IA que adquieren poder en los sistemas financieros y en la administración pública que a los robots malos.
XL. La IA también está mejorando en la creación de relaciones...
Y.N.H. Millones de personas ya afirman que su mejor amigo es una IA. Y, por supuesto, lo más aterrador es cuando se trata de niños. Tengo 50 años. Mis modelos de relaciones se basan en mis experiencias con mis padres, mi marido, mis hermanas y mis amigos. Pero para una niña de 11 años, que aún no tiene la madurez suficiente para una relación romántica real y tiene una IA como pareja o amiga, esa IA se convierte en un modelo para ella. Este es el mayor experimento psicológico en la historia de la humanidad, y no tenemos ni idea de cómo terminará.
XL. Por lo que sabemos, la IA no tiene sentimientos. ¿Cómo puede reemplazar la intimidad?
Y.N.H. Hasta ahora, no somos muy buenos a la hora de comprobar si algo tiene sentimientos o consciencia. ¿Qué pasaría si una IA te dijera que te ama? Conoce todos los poemas de amor del mundo y todas las comedias románticas de Hollywood. Puede describir mejor que ningún humano lo que se siente al amar. Incluso si la IA no siente nada, la gente se convencerá cada vez más de que sí. Parecerá que tiene consciencia.
XL. Los estudios muestran que quienes reemplazan a amigos o colegas con inteligencia artificial pierden empatía.
Y.N.H. Pues evitémoslo. Como sociedad podemos decir: «No queremos que nuestros descendientes de 11 años tengan amigos IA creados por empresas tecnológicas al otro lado del Atlántico». Todavía tenemos margen de maniobra. En una década puede que ya no sea así.
XL. Usted ha comparado el debate sobre la IA con el debate sobre la inmi gración.
Y.N.H. La inmi gración es el tema político más debatido en muchos países europeos hoy en día y, por supuesto, genera problemas. Existe el temor de que los forasteros puedan quitar empleos y alterar la cultura de un país. Estas preocupaciones son potencialmente válidas, pero con la IA estos problemas se agravarán. Los forasteros no humanos, las IA de Estados Unidos y China, sin duda nos quitarán empleos, corromperán a nuestras hijas y alterarán nuestra cultura mucho más que, por ejemplo, las personas de Oriente Medio. Ciertamente, las IA no son leales a su país de acogida, sino a empresas y gobiernos que se encuentran a miles de kilómetros de distancia.
XL. ¿Ofrece la IA también una oportunidad para replantearnos lo que significa ser humano?
Y.N.H. Ese es uno de los escenarios más positivos: que la revolución de la IA nos obligue, como humanidad, a volver a preguntarnos quiénes somos realmente. Durante milenios, nos hemos dicho a nosotros mismos que la identidad humana se basa en el hecho de que somos la especie más inteligente del planeta. Siempre he pensado que eso es erróneo. Lo que nos define es la consciencia.
XL. «Pienso, luego existo», escribió el filósofo René Descartes en el siglo XVII. ¿Qué quedará de la humanidad cuando las máquinas piensen mejor?
Y.N.H. Hay dos maneras de entender el pensamiento. Una es formalista. Consiste en ordenar las palabras y extraer conclusiones: «Los humanos son mortales. Sócrates era humano. Por lo tanto, Sócrates es mortal». La IA es mejor que nosotros en esto, sin duda. Pero hay otro enfoque, uno que se basa en los sentimientos. Se puede decir la misma frase en diferentes situaciones y tener sentimientos completamente distintos al respecto. El poder del pensamiento proviene de las entrañas.
XL. ¿Del estómago?
Y.N.H. Absolutamente. En Silicon Valley, algunos sueñan con transferir sus cerebros a la nube. Nadie quiere transferir sus estómagos. Pero el estómago es posiblemente más crucial que el cerebro; evolutivamente surgió primero. Las primeras formas de vida complejas que evolucionaron fueron pequeños gusanos; no tenían cerebro. Si observamos el sistema nervioso humano actual, vemos que conecta todo el cuerpo. Nuestras emociones no pueden existir sin el cuerpo. La idea de subir el cerebro, y por lo tanto a uno mismo, a la nube es pura fantasía.
XL. ¿Sigue siendo optimista?
Y.N.H. Creo en la autodeterminación humana; tenemos la capacidad de elegir. Si tomamos buenas decisiones, el mundo será un lugar mejor.
