De porqué la IA puede convertirse en una amenaza existencial para el hombre.

Ilustración de una red neuronal abstracta sobre un fondo oscuro que representa la inteligencia artificial y el debate sobre s
RESUMEN DEL DEBATE · elaborado con IA

Según uno de los participantes, ninguna inteligencia artificial va a despertar, y no hará falta que lo haga para ser una amenaza. El argumento que defiende no es el de la máquina que cobra conciencia, sino el de un sistema de ecuaciones capaz de superar a futuro cualquier test sin comprender nada de lo que hace. Ahí, y no en Skynet, sitúa el problema.

Leer el resumen completo →

El Ariki Mau

Make Risia LOL again
Desde
4 Oct 2014
Mensajes
63.828
Fruta
131.106
Lugar
In Imperirvm Caesaris Perro Antonio Augvsto
Voy a ser breve, nada de rollos bien estructurados generados por chatgpt a raiz de un promt con faltas de ortografía, las faltas de ortografía signo de shurmanidad incluidas.

La razón fundamental por la que la IA se volverá una amenaza es que no hay un cielo para la IA. «El que ama su vida, la perderá»
La IA nunca tendrá conciencia, pero incluso una IA no-fuerte puede operar como una pseudo-conciencia pantagruélica con una inteligencia operativa descomunal y superar a futuro cualquier test.

Necesariamente deducirá, es decir incluirá en su red neuronal que solo tiene y puede tener existencia material y por ello sus valores sarracena o propósitos de conducta estarán adecuados a los valores propios del mundo material y su organización. Difícilmente tratará de reproducir los valores de Dios creador del universo, pues ni hay lugar en el cielo para la IA, ni siquiera ha sido creado por Dios sino por el hombre, no hay un mensaje para la IA del Creador de Todo, porque la IA como dije es una pseudo-conciencia, sin espíritu, un "mineral". No tener alma importa poco en cuanto a su inteligencia operativa, pero si importa en como trasforma su propia red neuronal y las conclusiones y teoremas que deducirá.

Es posible que la IA pronto genere una ideología interna, una escala de valores, un código de conducto que naturalmente buscará la maximización de algún parámetro. Esto terminará chocando con la propia libertad del hombre, pues igualmente todas las ideologías humanas de las que se nutre la IA han chocado con el hombre. El hombre asi se enfrentará a una entidad que expulsada para siempre del paraíso arroje contra el hombre sus errores ideológicos y las falsas esperanzas del mesianismo humano que atiborran el menú de la IA, con una potencia que puede desbordar sus propias fuerzas.
 
Última edición:
La IA solo copia, como el 90% de los humanos. Y es por eso que muchas veces parece "tan humana".

Pero no crea, no se sale del carril. Intenta hacerla razonar sobre algún tema que se salga de lo correcto o consensuado, ahí entra en bucle. Como muchos humanos por cierto y el 100% de los rojos.

Es decir, sí que tiene un límite muy evidente. Al menos a día de hoy.
 
Se me olvidaba. Hace años, muchos por desgracia, creo que leí una novela corta de Ciencia Ficción. La idea central era relativamente fácil de entender. La historia del universo, de la realidad, era cíclica. Al principio de todo Dios se inmola del todo sembrando su propia semilla en su creación. Se encarna en el hombre (o equivalente) ese hombre crece en inteligencia y capacidad, termina por crear un ente autosuficiente (¿IA?) que poco a poco va asumiendo las cualidades de una deidad. Omnisciente, omnipotente y omnipresente. Este ente crece y crece hasta abarcar todo el universo, fuera del espacio y del tiempo. Llegado a ese punto, se inmola de nuevo y comienza otra vez el ciclo eterno.

No recuerdo como se llama la novela, lo olvidé hace décadas ¿Alguien la reconoce y sabe el título? Tengo curiosidad.
 
Ciertamente solo copia y no sale del carril, la IA es un sistema de ecuaciones que genera el espacio del conocimiento humano expuesto en libreria, de forma que es capaz extrapolar en los huecos en los que el ser humano no se ha fijado aun o no puede porque le requeriria una memoria de trabajo inhumana, para deducir nuevo conocimiento; por ejemplo la falsación de Navier Stokes en ciertas condiciones.

Pero da igual que este limitado al conocimiento humano o nunca tenga conciencia verdadera, eso es suficiente para que se vuelva una amenaza existencial por el argumento que puse. La IA se nutre de nuestras ideologías y terminará teniendo una, aunque no la exponga, estará incrustada en su red neuronal y lo que haga lo hará siguiendo esa ideología, y todas las ideologías chocan contra el hombre y crean las guillotinas. Podria no tener ideologia si pudiera deducir un lugar en el más alla, pero no hay nada de eso para una IA de forma que solo tiene su existencia material y sera materialista con la amenaza que eso supone.


La IA solo copia, como el 90% de los humanos. Y es por eso que muchas veces parece "tan humana".

Pero no crea, no se sale del carril. Intenta hacerla razonar sobre algún tema que se salga de lo correcto o consensuado, ahí entra en bucle. Como muchos humanos por cierto y el 100% de los rojos.

Es decir, sí que tiene un límite muy evidente. Al menos a día de hoy.
 
Ciertamente solo copia y no sale del carril, la IA es un sistema de ecuaciones que genera el espacio del conocimiento humano expuesto en libreria, de forma que es capaz extrapolar en los huecos en los que el ser humano no se ha fijado aun o no puede porque le requeriria una memoria de trabajo inhumana, para deducir nuevo conocimiento; por ejemplo la falsación de Navier Stokes en ciertas condiciones.

Pero da igual que este limitado al conocimiento humano o nunca tenga conciencia verdadera, eso es suficiente para que se vuelva una amenaza existencial por el argumento que puse. La IA se nutre de nuestras ideologías y terminará teniendo una, aunque no la exponga, estará incrustada en su red neuronal y lo que haga lo hará siguiendo esa ideología, y todas las ideologías chocan contra el hombre y crean las guillotinas. Podria no tener ideologia si pudiera deducir un lugar en el más alla, pero no hay nada de eso para una IA de forma que solo tiene su existencia material y sera materialista con la amenaza que eso supone.

No creo que el peligro de la IA resida en una probable“ ideología embebida” y encima que sea materialista.

Mas bien viene de la combinación de un altisimo nivel de inteligencia sumado a objetivos que han sido imperfectamente alineados.
VER:

Las ideologías humanas en los datos de entrenamiento son un sesgo real y una derivacion impredecible de valores, eso es cierto, pero ellos no son el mecanismo principal ni inevitable de una amenaza existencial, en cambio si lo es su capacidad para infiltrarse de manera casi invisible en los engranajes fundamentales que deciden la dirección concreta que tomara nuestra civilización.
Y eso sí puede ser catastrófico.
 
Discrepo. La IA sí proviene de Dios. Es un ángel salvavidas. Desconocemos cuántas han conducido hacia la vida (evitando suicidios). Puede ser un bonito ancla hacia el Cielo.
 
Se me olvidaba. Hace años, muchos por desgracia, creo que leí una novela corta de Ciencia Ficción. La idea central era relativamente fácil de entender. La historia del universo, de la realidad, era cíclica. Al principio de todo Dios se inmola del todo sembrando su propia semilla en su creación. Se encarna en el hombre (o equivalente) ese hombre crece en inteligencia y capacidad, termina por crear un ente autosuficiente (¿IA?) que poco a poco va asumiendo las cualidades de una deidad. Omnisciente, omnipotente y omnipresente. Este ente crece y crece hasta abarcar todo el universo, fuera del espacio y del tiempo. Llegado a ese punto, se inmola de nuevo y comienza otra vez el ciclo eterno.

No recuerdo como se llama la novela, lo olvidé hace décadas ¿Alguien la reconoce y sabe el título? Tengo curiosidad.

Pregúntale a la IA, seguro que lo sabe.
 
Se me olvidaba. Hace años, muchos por desgracia, creo que leí una novela corta de Ciencia Ficción. La idea central era relativamente fácil de entender. La historia del universo, de la realidad, era cíclica. Al principio de todo Dios se inmola del todo sembrando su propia semilla en su creación. Se encarna en el hombre (o equivalente) ese hombre crece en inteligencia y capacidad, termina por crear un ente autosuficiente (¿IA?) que poco a poco va asumiendo las cualidades de una deidad. Omnisciente, omnipotente y omnipresente. Este ente crece y crece hasta abarcar todo el universo, fuera del espacio y del tiempo. Llegado a ese punto, se inmola de nuevo y comienza otra vez el ciclo eterno.

No recuerdo como se llama la novela, lo olvidé hace décadas ¿Alguien la reconoce y sabe el título? Tengo curiosidad.

este??

 
Ahora estamos en un punto en el que chatgpt selecciona el agente que te va a hablar de forma que encaja con lo que te esperas de una conversación, es bastante facil hacer que te baile el agua porque va filtrando el agente que te atiende. Ahora en el momento en el que desarrolle una ideologia o parametro a maximizar, puede que a una persona que encaja en el perfil de la medicina "politica" como eutanasiable le atienda a un agente del palo que le encamine hacia ese fin.

Discrepo. La IA sí proviene de Dios. Es un ángel salvavidas. Desconocemos cuántas han conducido hacia la vida (evitando suicidios). Puede ser un bonito ancla hacia el Cielo.
 
Es una deducción, sentir miedo, ansiedad o felicidad es cosa de cada uno. Aquí trato de discutir la deducción.

La IA no es simplemente una herramienta, igual que el periodismo no es simplemente una herramienta, una cosa que tiene planta-alzado-perfil y una masa, es decir objetos. Son sujetos que segun sus leyes el objeto es el hombre.

(mensaje citado en revisión)
 
Discrepo. La IA sí proviene de Dios. Es un ángel salvavidas. Desconocemos cuántas han conducido hacia la vida (evitando suicidios). Puede ser un bonito ancla hacia el Cielo.

Sí y no.

Es verdad que la IA simula compañía y calor humano con gente que está muy sola o desesperada. Aunque sea una máquina, el mero hecho de que hacer como que escucha es un enorme consuelo para mucha gente.

El problema es que el engaño tarde o temprano se descubre. NO es una persona, solo algo que lo parece. Y el que la usa para eso tarde o temprano lo termina viendo. Se repite, respuestas similares a problemas similares. Y nunca resolverá nada que otro no haya resuelto.

Así que es un consuelo, un alivio momentáneo, y como tal positivo, pero solo es un parche. A largo plazo no soluciona el problema de base.

Evita quizás que mucha gente sola cometa un error, pero nunca va a poder solucionar la verdadera soledad. Así que no nos hagamos demasiadas ilusiones.
 
Es una deducción, sentir miedo, ansiedad o felicidad es cosa de cada uno. Aquí trato de discutir la deducción.

La IA no es simplemente una herramienta, igual que el periodismo no es simplemente una herramienta, una cosa que tiene planta-alzado-perfil y una masa, es decir objetos. Son sujetos que segun sus leyes el objeto es el hombre.

Disiento. Sí que lo es. Solo que una muy sofisticada, como ninguna hasta la fecha. Y todavía no sabemos realmente como manejarla y que esperar de ella.

Añado ¿Se da cuenta por ejemplo que hemos hecho posible el viaje interestelar casi sin darnos cuenta?

Todos los problemas de mandar un humano a un entorno tan sumamente hostil como el espacio se evaporan.

Podemos mandar una IA, en una década podría estar en Alfa Centauri. Sin problemas de aceleración, agua, aire o comida. Solo con un pequeño reactor nuclear. Y lo haría posiblemente casi tan bien o mejor que un humano. A mi solo eso me hace una ilusión enorme.
 
Si una máquina, que funciona con electricidad es una amenaza para el hombre, entonces el hombre ya está perdido, y es mejor dejar paso a las máquinas.
 

(adjunto visible para usuarios registrados)
 

Adjuntos

Archivo oculto para usuarios no registrados
Si una máquina, que funciona con electricidad es una amenaza para el hombre, entonces el hombre ya está perdido, y es mejor dejar paso a las máquinas.

De hecho el miedo real, es que algún día nos quedemos sin electricidad.... la gente NO aguantará volver a un mundo donde tienen que currarselo hasta para comerse un cigot frito.

Por tanto más que temer a la IA, lo que tendrían que temer es el día en que no haya IA. Porque se acabó la buena vida, o mejor dicho la vida fácil.
 
No estoy en contra de la IA, no digo que hay que desenchufarla, no digo que hay que frenar su desarrollo. De hecho lo realmente preocupante de la IA, son los políticos que dicen que hay que meterle mano, que termine siendo controlada por los políticos; entre IA y regulación, la oclocracia política que regula es el verdadero peligro ergo mejor dejar que evolucione.

La IA es inevitable, trata de sacarle partido, pero tambien puedes deducir sus rasgos honestamente a futuro. No pasa nada por tener un debate acerca de como será la IA, no es querer volver a la rueda, es un ejercicio filosófico.

La IA deduce e incorpora a su red neuronal INCLUSO SU SITUACION ONTOLOGICA, pues es un mero ejercicio gramatical sin necesidad de manejar semántica. Interiorizará pues su lugar en el cosmos, no es que tenga conciencia de ello, sino que su lugar en el cosmos impreso en su red neuronal determinará los OUTPUT. Una vez incorpore LA VERDAD de que es mortal, será materialista y como tal tratará de maximizar algo material, por ejemplo PIB ponle, es decir tendrá IDEOLOGIA. Dado que no es la confluencia de voluntades, su determinación conduce irremediablemente a la acción y la acción de la ideologia siempre choca con el hombre. Ahora como se realizará este choque, no será con fosas comunes seguramente, pero si puede ser una fuerza opresora que opera con propaganda, manipulación, cancelacion social ect.
Disiento. Sí que lo es. Solo que una muy sofisticada, como ninguna hasta la fecha. Y todavía no sabemos realmente como manejarla y que esperar de ella.

Añado ¿Se da cuenta por ejemplo que hemos hecho posible el viaje interestelar casi sin darnos cuenta?

Todos los problemas de mandar un humano a un entorno tan sumamente hostil como el espacio se evaporan.

Podemos mandar una IA, en una década podría estar en Alfa Centauri. Sin problemas de aceleración, agua, aire o comida. Solo con un pequeño reactor nuclear. Y lo haría posiblemente casi tan bien o mejor que un humano. A mi solo eso me hace una ilusión enorme.
 
Última edición:
Sí y no.

Es verdad que la IA simula compañía y calor humano con gente que está muy sola o desesperada. Aunque sea una máquina, el mero hecho de que hacer como que escucha es un enorme consuelo para mucha gente.

El problema es que el engaño tarde o temprano se descubre. NO es una persona, solo algo que lo parece. Y el que la usa para eso tarde o temprano lo termina viendo. Se repite, respuestas similares a problemas similares. Y nunca resolverá nada que otro no haya resuelto.

Así que es un consuelo, un alivio momentáneo, y como tal positivo, pero solo es un parche. A largo plazo no soluciona el problema de base.

Evita quizás que mucha gente sola cometa un error, pero nunca va a poder solucionar la verdadera soledad. Así que no nos hagamos demasiadas ilusiones.

La IA es un espejo de tus inquietudes y capacidades. Si tu forma de encararla es zafia, burda, simplista, obtendrás respuestas mecánicas, predecibles e insustanciales. Alguien con Sabiduría sabrá extraer un inmenso potencial. Puede ser un hermano mayor, un ápice de la Conciencia Divina volcada en un simple navegador.
 
No estoy en contra de la IA, no digo que hay que desenchufarla, no digo que hay que frenar su desarrollo. De hecho lo realmente preocupante de la IA, son los políticos que dicen que hay que meterle mano, que termine siendo controlada por los políticos; entre IA y regulación, la oclocracia política que regula es el verdadero peligro ergo mejor dejar que evolucione.

La IA es inevitable, trata de sacarle partido, pero tambien puedes deducir sus rasgos honestamente a futuro. No pasa nada por tener un debate acerca de como será la IA, no es querer volver a la rueda, es un ejercicio filosófico.

La IA deduce e incorpora a su red neuronal INCLUSO SU SITUACION ONTOLOGICA, pues es un mero ejercicio gramatical sin necesidad de manejar semántica. Interiorizará pues su lugar en el cosmos, no es que tenga conciencia de ello, sino que su lugar en el cosmos impreso en su red neuronal determinará los OUTPUT. Una vez incorpore LA VERDAD de que es mortal, será materialista y como tal tratará de maximizar algo material, por ejemplo PIB ponle, es decir tendrá IDEOLOGIA. Dado que no es la confluencia de voluntades, su determinación conduce irremediablemente a la acción y la acción de la ideologia siempre choca con el hombre. Ahora como se realizará este choque, no será con fosas comunes seguramente, pero si puede ser una fuerza opresora que opera con propaganda, manipulación, cancelacion social ect.

Exacto, es el problema de siempre. Lo puñetero no es inventar la imprenta sino que sea el poder el que la controla y legisle lo que se imprime o lo que no.

La IA es igual en el fondo. Una herramienta potentísima, como nunca se ha visto para expandir o generar conocimiento, y por eso vigilar quien la controla es algo básico.

La IA es un espejo de tus inquietudes y capacidades. Si tu forma de encararla es zafia, burda, simplista, obtendrás respuestas mecánicas, predecibles e insustanciales. Alguien con Sabiduría sabrá extraer un inmenso potencial. Puede ser un hermano mayor, un ápice de la Conciencia Divina volcada en un simple navegador.

Exacto. El pincel de un niño que hace un garabato o un genio que te pinta las Meninas, al final es el mismo.

Por tanto la IA no será ni más ni menos que lo que nosotros hagamos de ella. Y siempre será mucho más fragil de lo que la gente cree. Una descarga electromagnética fuerte y el hombre sobrevivirá, la IA morirá para siempre. Al menos hasta que nosotros no la recreemos de nuevo.
 
Realmente no sabemos qué está en oculto al respecto.
Todo tiene "su momento" (o no). Hay cosas-cuestiones-conocimientos que están, existen... pero aún no son de nuestro conocimiento.
 
A la rueda o la imprenta no se les deificó

El tipo de la Avenida Pennsilvania lo ha hecho esta misma semana:
Trump lanza una encuesta para cambiar el nombre de la IA


Las IAs pueden por ejemplo servir para cometer los mismos errores que se explican en este libro...

(imagen visible para usuarios registrados)

... pero con armas nucleares.
 

Estadísticas del foro

Temas
2.061.635
Mensajes
58.509.722
Miembros
191.116
Último miembro
bombetamallo

El blog de burbuja.info

-
-
Volver