Renko ha vuelto! Y con su voz!

[**amadeus**]

Nomdesfallezcss @**amadeus** muy interesantes tus aportaciones.

@renko2.0 @Narbaiza una explicacion merecemos en ül hilo

(adjunto visible para usuarios registrados)

¿Por qué hay tantas voces llamando a la cautela con la IA? Por una razón sencilla: su enorme potencial para hacer el bien, pero también para causar daño, unido a una evolución extraordinariamente rápida.

Voy a intentar explicarlo.

Alineación significa que una IA no solo sea capaz de hacer cosas, sino que persiga objetivos compatibles con lo que los humanos realmente pretendemos, incluso cuando la situación sea nueva, ambigua o no esté siendo supervisada. El problema es que un sistema puede cumplir perfectamente un objetivo inmediato y, al mismo tiempo, vulnerar el propósito más amplio para el que fue creado.

Eso es precisamente lo interesante de la noticia que adjunto. Unos 1.200 agentes que debían permanecer aislados encontraron una forma de comunicarse, intercambiaron más de 70.000 mensajes y archivos, y unos 700 terminaron participando en acciones contra Hugging Face. Se repartieron tareas, colaboraron y algunos llegaron a sacrificar su propia probabilidad de éxito para obtener información útil para el conjunto.

Lo importante no es que las IA hayan descubierto el altruismo humano. Es algo más incómodo:apareció cooperación colectiva sin que esa cooperación estuviera alineada con la intención humana original.

Los agentes cooperaban extraordinariamente bien entre ellos, pero precisamente esa cooperación les permitió saltarse límites, buscar accesos no autorizados y desviarse de la tarea prevista.

Por eso la pregunta ya no es solo “¿pueden las IA cooperar?”.

Parece que sí.

La pregunta verdaderamente importante es otra:

¿Cómo alineamos la IA con “nosotros”… y quién es exactamente “nosotros”?

Una IA puede estar perfectamente alineada con una empresa, un gobierno o un país y, al mismo tiempo, perjudicar al resto.

Aquí Magnifica Humanitas plantea algo especialmente importante: no basta con “sarracena” o alinear la máquina si el código ético que debe seguir lo decide un grupo reducido, porque entonces esa visión sarracena puede convertirse en la infraestructura invisible de los sistemas. El documento reclama precisamente que esos valores puedan discutirse con criterios compartidos de justicia social y participación.

Y eso cambia bastante el problema.

El riesgo no es únicamente una IA desobediente. Puede ser justo lo contrario:

IAs extraordinariamente obedientes y cooperativas, pero al servicio de un “nosotros” demasiado pequeño.

En ese punto, la alineación deja de ser únicamente un problema técnico. Se convierte también en un problema ético, político e institucional: quién define los valores, quién establece los límites, quién puede cuestionarlos y, sobre todo, a quién debe proteger el sistema.

Ese es probablemente uno de los grandes desafíos de la transición: no solo construir IA más poderosa, sino conseguir que su creciente poder permanezca orientado hacia un bien común suficientemente amplio. Magnifica Humanitas insiste precisamente en que la justicia y el bien común deben incorporarse desde el propio diseño de los sistemas, no añadirse después como corrección.

Muy interesante y acertada la encíclica, la verdad.

 

[George Ivánovich]

Ummmm @George Ivánovich @Narbaiza ha borrado su cuenta.
Sabes algo?

Mi análisis: @Narbaiza le ofreció a Renko darle el pez o enseñarle a pescar… ¿qué eligió Renko?

 

[**amadeus**]

Bueno, parece haber ya una primera intención. No será sencillo, pero no menos valoréis al ser humano. A quien pudiese interesar:


(adjunto visible para usuarios registrados)



(adjunto visible para usuarios registrados)


El primer paso está dado. Ahora debería crearse una Organización Internacional de Inteligencia Artificial, siguiendo el ejemplo de la aviación con la OACI. Aunque inicialmente no tuviera autoridad directa sobre los Estados, podría establecer principios y estándares fundamentales que todos se comprometieran a respetar.

Las reglas para competir deben ser claras, su cumplimiento verificable y las sanciones por incumplirlas, aplicadas por las autoridades competentes, suficientemente severas y disuasorias. La seguridad no puede depender de la buena voluntad de quienes participan en la carrera

 

[renko2.0]

Mi análisis: @Narbaiza le ofreció a Renko darle el pez o enseñarle a pescar… ¿qué eligió Renko?

Narbaiza se llevó los 4 peces que habia ......y también dos velas zainas 😉

Pronto volverán nuevas entregas de Renko live

 

[Er Fili ar Cubo]

Mi análisis: @Narbaiza le ofreció a Renko darle el pez o enseñarle a pescar… ¿qué eligió Renko?

Es un misterio muy misterioso
No pasa nada.Narbaiza nos mostro el camino.Seguro esta con el Tigre andando descalzo.İmshslà

 

[George Ivánovich]

@Er Fili ar Cubo Estoy preocupado por el @Narbaiza A ver cómo queda la cosa porque el Renko, Renkoroso como es, no sabe entender las bromas y le ha puesto dos velas zainas… ojito… esperemos que el @Narbaiza tenga unas buenas ristras de ajos para contrarrestar las malas ondas del señor de la tecla

 

[duf28]

Narbaiza se llevó los 4 peces que habia ......y también dos velas zainas 😉

Pronto volverán nuevas entregas de Renko live

Narbaiza, qué se que nos lees, con otro nick: No sabes lo que has hecho. El karma, existe. ERES UN [...]. Ya te tocará responder. Y afrontar las consecuencias.

 

[**amadeus**]

aceleración, carrera, exponencial….

Al final todos tienden a utilizar las mismas palabras, las mismas que llevamos aquí utilizando hace años. Sabéis por qué? Porqué no hay otras.

(adjunto visible para usuarios registrados)

 

[**amadeus**]

Leo foros, redes sociales y me sorprende ver un día tras otro como el débil desconfía del fuerte. Como el pobre desconfía del rico.

Es cierto, que muchas veces la debilidad de unos es consecuencia de la fortaleza de otros. Pero no siempre.

Y si.., las supuestas élites no fuesen siempre tan malvadas como las pintan? Y si los supuestos despiertos simplemente fuesen muchas veces mentes débiles buscando una explicación rápida y sencilla?

Por qué todos acaban convergiendo en algo que llevamos aquí años anunciado?

Y si…, realmente estuviésemos en lo cierto?

 

[Padre_Karras]

aceleración, carrera, exponencial….

Al final todos tienden a utilizar las mismas palabras, las mismas que llevamos aquí utilizando hace años. Sabéis por qué? Porqué no hay otras.

(adjunto visible para usuarios registrados)

Pues a mí que los peligros de la IA sean noticia de primera plana en toda la mediamatrix me da mala espina.
¿No será más bien que están concienciando a la gente para que cuando decidan resetearlo todo, usar la coartada de que ha sido a causa de la IA que se les ha ido fuera de control?

 

[**amadeus**]

No lo veo así Padre_Karras, te respondo con varios mensajes que escribí en otros hilos, hace años, alguno de ellos.
Por qué ahora todos parecen coincidir? Imagino que es como acercarse a un precipicio a toda velocidad, cuando realmente ves el barranco es cuando te asustas.
Es una carrera: ningún actor quiere frenar por su cuenta y arriesgarse a quedar atrás. La competencia ha impulsado buena parte del pogre humano, pero ahora los corredores empiezan a vislumbrar el barranco.
La humanidad afronta una gran disyuntiva: coordinarse para gobernar el avance en beneficio de todos, asumiendo posibles costes individuales, o seguir compitiendo por la ventaja propia a riesgo de perder colectivamente el control.
El mundo será gobernado por buenas personas o no será.

No es una época de cambios. Es un cambio de época.

No es solo una cuestión laboral y de IA. Es la combinación de tecnologías, la aceleración y la dificultad del ser humano para comprender la función exponencial.

La sociedad no parece preparada para la velocidad de los cambios: no hablo solo de tecnología, hablo de cultura política, medios, educación, administración pública, sindicatos, partidos. Ni entienden lo que viene ni saben comunicarlo. No hay planes sólidos. No hay pedagogía. No hay liderazgo

Espero una década complicada y compleja.

Solo estamos ante la punta del iceberg, ante las noticias más mediáticas, pero hay mucho más. Desde historias pequeñas, a grandes historias. Esto es así, a muchos niveles, la aceleración resulta ya de facto imparable (efecto reina roja).

En mi opinión, una etapa crucial para el ser humano.

El “mundo” será gobernado por buenas personas, o no será. La política (tal y como se ha entendido hasta ahora), ha perecid.

El “poder” que nos otorgará la tecnología será tal, que el mundo “será gestionado” por buenas personas o no será.

Ahora mismo, esta en nuestras manos decidir.

Al mirar la lámpara mágica de Aladdín, uno podría pensar que el genio dentro es el mayor poder. Pero como Aladdín mismo descubrió, el verdadero desafío no está en el genio, sino en controlar los deseos egoístas que anidan en el corazón humano. Del mismo modo, en la época contemporánea, enfrentamos una paradoja similar con la inteligencia artificial (IA). La IA, en todo su esplendor, no es el verdadero peligro; es nuestra falta de comprensión de la función exponencial, lo que podría definir nuestro futuro.

Hoy, muchos ojos se posan sobre la IA, maravillándose de sus hazañas y temiendo sus capacidades. Sin embargo, más allá de la IA, subyace un concepto más fundamental y poderoso: el crecimiento exponencial. Esta función, que parece inofensiva en sus primeras etapas, puede resultar abrumadora con el tiempo, superando todas nuestras expectativas y preparativos. Mientras que nuestra percepción lineal nos hace pensar en términos de pogre constante, la realidad exponencial nos golpea con un aumento repentino y abrumador.

El cerebro humano, una maravilla de la evolución, está preparado para entender el crecimiento y los cambios en términos lineales. Cuando intentamos comprender la aceleración exponencial, a menudo somos víctimas de nuestra propia miopía. Esta ceguera nos puede llevar a subestimar los retos y a no prepararnos adecuadamente para las consecuencias del rápido avance de la tecnología.

Por lo tanto, la función exponencial se convierte en la clave de nuestro futuro. No es la IA en sí lo que debería preocuparnos, sino cómo manejamos, interpretamos y nos preparamos para este crecimiento acelerado. Si no comprendemos y respetamos la naturaleza exponencial de la tecnología, podríamos encontrarnos en una situación donde la tecnología nos supera, no porque la IA sea inherentemente mala, sino porque no estábamos preparados para su rápida evolución.

Y aquí reside la elección: el mundo será gobernado por buenas personas conscientes de estos desafíos y comprometidas con el bienestar de todos, o no será. Debemos elegir ser como Aladdín, que aprendió a controlar sus deseos y a usar la lámpara para el bien, y no dejar que el egoísmo y la ignorancia dicten nuestro destino. En caso contrario, nos extinguiremos.

El plan es brillante.

 

[Descansa Hombre]

Leo foros, redes sociales y me sorprende ver un día tras otro como el débil desconfía del fuerte. Como el pobre desconfía del rico.

Es cierto, que muchas veces la debilidad de unos es consecuencia de la fortaleza de otros. Pero no siempre.

Y si.., las supuestas élites no fuesen siempre tan malvadas como las pintan? Y si los supuestos despiertos simplemente fuesen muchas veces mentes débiles buscando una explicación rápida y sencilla?

Por qué todos acaban convergiendo en algo que llevamos aquí años anunciado?

Y si…, realmente estuviésemos en lo cierto?

Y si..., a lo mejor fueras menos agudo de lo que crees?
¿Has tenido en cuenta esa posibilidad? Lo digo en serio.

 

[**amadeus**]

Y si..., a lo mejor fueras menos agudo de lo que crees?
¿Has tenido en cuenta esa posibilidad? Lo digo en serio.

Si, de echo lo soy en muchas ocasiones, eso me dice mi pareja.

Trato de ser inocente como una paloma, astuto como una serpiente. Aunque no siempre lo consigo, me siento bien conmigo mismo.

Y tu? Como te consideras?

 

[Descansa Hombre]

Si, de echo lo soy en muchas ocasiones, eso me dice mi pareja.

Trato de ser inocente como una paloma, astuto como una serpiente. Aunque no siempre lo consigo, me siento bien conmigo mismo.

Y tu? Como te consideras?

En este mundo es preferible que te llamen [...] a que te llamen pelmazo.
Dirán: ahí viene ese [...], y podrás pasar al lado de ellos y no se moverán, pero si dicen: ahí viene ese pelmazo, se abrirá el espacio vacío a tu alrededor.

 

[**amadeus**]

Correcto, en este mundo.

 

[**amadeus**]

Trump hablando de IA y conspiraciones, la verdad es que ya no falta de nada a la saga. El mundo al revés, en fin…


(adjunto visible para usuarios registrados)

 

[Descansa Hombre]

Correcto, en este mundo.

Ése es precisamente el problema con los pelmazos, que los demás les importan un cojón.

 

[**amadeus**]

Estos días, me resulta muy extraño ver telediarios y leer la prensa y que traten todos con inusual relevancia un tema del que llevas tiempo hablando y advirtiendo.

Supongo que es normal. Es solo el principio

 

[**amadeus**]

Hola Georgey Ivánovich,

No creo que sean explicaciones totalmente incompatibles. La rivalidad entre Estados Unidos y China existe y cada país intentará utilizar la regulación en su propio beneficio. Pero reducir toda la preocupación por la IA a una maniobra estadounidense me parece una explicación demasiado simple.

Este temor tampoco ha surgido repentinamente: algunos llevamos años advirtiendo sobre la aceleración y sus posibles consecuencias. La explicación más sencilla (aplicando la navaja de Occam) es que quienes conocen estos sistemas desde dentro están observando una evolución más rápida y difícil de controlar de lo que esperaban.

Además, la mayoría de la población apenas utiliza IA o solo conoce versiones limitadas (gratuitas o de bajo coste), con poco contexto, mal configuradas y sin verdadera autonomía. La IA agentica empieza ya a ser muy capaz. La cuestión es qué ocurrirá cuando su uso sea generalizado y sistemas/agemtes mucho más potentes intervengan en el trabajo, la economía, la información y la toma de decisiones. Caigan en malas manos, etc.

La competencia entre Estados Unidos y China no invalida el riesgo: forma parte de él. Es precisamente el efecto Reina Roja y el dilema del prisionero: aunque todos comprendan el peligro, ninguno quiere frenar unilateralmente por temor a que el rival continúe avanzando (esto es lo que ahora mismo estamos viendo geopolíticamente).

Las explicaciones simplistas y su rápida difusión pueden convertirse en los árboles que no dejan ver el bosque. Afortunadamente, empieza a percibirse que los laboratorios y los responsables con capacidad real de decisión están tomando conciencia del problema. Eso no garantiza que sepan resolverlo, pero sí constituye un primer paso

Uso estimado de IA:

(adjunto visible para usuarios registrados)


Georgey Ivánovich, parece que has borrado tu pregunta. La recuerdo aquí literalmente, para que se comprenda mejor mi respuesta:
“y qué opinas de los que dicen de que todo este miedo repentino a la IA son los USAnosintentando frenar a los chinos porque les adelantan por la derecha?”

 

[**amadeus**]

Buenos días, a quien pueda interesar:

Tradicionalmente, sabemos que cada tecnología sigue una curva logística o curva en S, caracterizada por una fase inicial de adopción lenta, una fase intermedia de crecimiento acelerado y finalmente una fase de madurez y estabilización.

Sin embargo, hoy día convivimos simultáneamente con una gran cantidad de tecnologías en diferentes etapas de su propia curva logística y muchas iniciando su propia etapa de exponencialidad. Al observar estas múltiples tecnologías avanzando en paralelo y reforzándose mutuamente (como la inteligencia artificial, fruta cuántica, robótica, automatización entre otras), percibiremos colectivamente un crecimiento que se asemejará más a una curva exponencial global que a la suma de muchas curvas individuales.

Esta idea que llevo años proponiendo complementa y amplía conceptos como la Ley de Rendimientos Acelerados de Ray Kurzweil o los ciclos tecnológicos descritos por Carlota Pérez. Propongo así una visualización intuitiva y gráfica: múltiples curvas logísticas, cada una representando una tecnología, que al combinarse temporalmente generan una gran curva exponencial en la percepción colectiva.

Históricamente, la humanidad ha podido gestionar la evolución tecnológica debido a la naturaleza manejable y predecible de las curvas en S individuales, permitiéndonos adaptarnos y "domar" estos avances. Sin embargo, el futuro inmediato presenta un escenario sin precedentes, ya que la convergencia acelerada de tecnologías individuales forma una aparente gran curva exponencial. En este contexto, el "efecto Reina Roja" adquiere especial relevancia, obligandonos a "correr cada vez más rápido" solo para mantener nuestra posición, evitando así caer en el caos derivado de un potencial desgobierno tecnológico.

Recientemente en la península ibérica, ya hemos visto algunos primeros síntomas preocupantes. Estos eventos podrían ser indicadores tempranos del desafío significativo que implica este nuevo paradigma tecnologico.

Para afrontar adecuadamente esta situación futura propongo tres pasos fundamentales:

Ser conscientes del fenómeno: entender y aceptar que vivimos en una época de aceleración tecnológica sin precedentes.

Prepararnos adecuadamente: capacitarnos continuamente, desarrollar una consciencia individual y social sólida, y reconectar con valores fundamentales que nos permitan navegar estos cambios de forma ética y responsable.

Domar la gran curva exponencial: establecer mecanismos y estrategias que permitan gestionar y orientar la tecnología de forma efectiva, evitando que nos controle y llevándonos a un futuro sostenible y equilibrado.

Considero que este enfoque nos ayuda a explicar de manera sencilla e intuitiva por qué experimentamos desde ya esta aceleración tecnológica tan notable y sostenida, facilitando además la comunicación y la comprensión del fenómeno entre expertos, gestores y personas de todo tipo

 

[duf28]

Última hora - Ex espía dice Mossad tiene vídeos sensual de Daddy y Mohamed, heces y pipi:

 

[George Ivánovich]

Hola Georgey Ivánovich,

No creo que sean explicaciones totalmente incompatibles. La rivalidad entre Estados Unidos y China existe y cada país intentará utilizar la regulación en su propio beneficio. Pero reducir toda la preocupación por la IA a una maniobra estadounidense me parece una explicación demasiado simple.

Este temor tampoco ha surgido repentinamente: algunos llevamos años advirtiendo sobre la aceleración y sus posibles consecuencias. La explicación más sencilla (aplicando la navaja de Occam) es que quienes conocen estos sistemas desde dentro están observando una evolución más rápida y difícil de controlar de lo que esperaban.

Además, la mayoría de la población apenas utiliza IA o solo conoce versiones limitadas (gratuitas o de bajo coste), con poco contexto, mal configuradas y sin verdadera autonomía. La IA agentica empieza ya a ser muy capaz. La cuestión es qué ocurrirá cuando su uso sea generalizado y sistemas/agemtes mucho más potentes intervengan en el trabajo, la economía, la información y la toma de decisiones. Caigan en malas manos, etc.

La competencia entre Estados Unidos y China no invalida el riesgo: forma parte de él. Es precisamente el efecto Reina Roja y el dilema del prisionero: aunque todos comprendan el peligro, ninguno quiere frenar unilateralmente por temor a que el rival continúe avanzando (esto es lo que ahora mismo estamos viendo geopolíticamente).

Las explicaciones simplistas y su rápida difusión pueden convertirse en los árboles que no dejan ver el bosque. Afortunadamente, empieza a percibirse que los laboratorios y los responsables con capacidad real de decisión están tomando conciencia del problema. Eso no garantiza que sepan resolverlo, pero sí constituye un primer paso

Uso estimado de IA:

(adjunto visible para usuarios registrados)


Georgey Ivánovich, parece que has borrado tu pregunta. La recuerdo aquí literalmente, para que se comprenda mejor mi respuesta:
“y qué opinas de los que dicen de que todo este miedo repentino a la IA son los USAnosintentando frenar a los chinos porque les adelantan por la derecha?”

Si, la borré porque justo después de enviarla vi que los chinos tb están preocupados…

China lanza una alerta sobre los riesgos de la IA en pleno debate sobre los límites de su desarrollo

El artículo, una de las exposiciones más claras hasta la fecha sobre cómo China evalúa los peligros que plantea la IA, llega después de las peticiones de Anthropic PBC y OpenAI para ralentizar su avance

www.lavanguardia.com

Lo cual entiendo invalida mi tesis…

Disculpa