Crisis: Rendición Cognitiva, el fin de nuestra civilización (Advertencia del M.I.T. a las Universidades del Mundo)

  • Autor del tema Autor del tema Nico
  • Fecha de inicio Fecha de inicio
Rendición Cognitiva, el fin de nuestra civilización (Advertencia del M.I.T. a las Universidades del Mundo)
No es perder capacidades que no necesitas. Es perder las que te permiten saber si la IA te ha mentido. Sin ellas no haces ingeniería de prompts, haces fe.
Asustaviejismo. Pierdes las capacidades que no necesitas y desarrollas otras nuevas para explotar a la IA. Dile a esos del MIT lo que es la ingenieria de prompts.
Sin caer en el "ausustaviejismo" me parece interesante explorar el concepto de "cognitive surrender", para tratar de entender CUÁNDO SE TOPA CON SU LÍMITE. Los más antiguos sabrán que hubo una época (pre-Google y Wikipedia) en la que un tío con ciertos conocimientos poco prácticos podía destacar como "genio" o "inteligente". No sé, te sabías las capitales de todos los países, o la producción de carne (los 10 principales productores), o la formación del equipo del Real en 1959, y en alguna conversación random podías meter el bocadillo (aunque fuera forzado), y ni qué decir si "justo" alguien preguntaba algo vinculado. - ¡Guau tío!, ¡eres un genio! Y esa fama de "genio" hasta te podía generar beneficios insospechados. Llegó Google y Wikipedia y ese mundo se acabó. Hasta el menos informado de la mesa sacaba su móvil y te conseguía la capital de Turmekistán, o los goles que hizo el Real en 1961, partido por partido. Habíamos perdido la batalla de los datos, pero aún quedaba la batalla de la INTELIGENCIA. El tío que sabía armar una "planilla Excel" para resolver el tema, o el programador que armaba la función que contaba los años bisiestos para que febrero no te arruinara el cálculo de días, o el que se las ingeniaba por hacer unos logotipos chulos, o el que podía hacer un contrato de licencia de propiedad intelectual adaptado al caso, era el "inteligente". Y ese puesto de "inteligencia" logró sobrevivir a Google y Wikipedia, porque además de los "datos" había que saber combinarlos adecuadamente. Ahora la "planilla Excel", o la "función que hace tal cosa", o el "diséñame un logotipo que transmita tal idea", o el "hazme el contrato de licencia"... SE LO ENCARGAN A LA IA. Y aunque haya errores fundamentales en el resultado entregado, ahora el tío "inteligente" que podría detectarlos hace rato que fue despedido, reemplazado por "la IA", o le toma MÁS TIEMPO explicar el error de lo que su ánimo y ganas le permiten. Y cuando hasta el "menos informado de la mesa" te "trae el contrato" o "el Excel" (y a veces hasta es bueno de verdad), las ganas y estímulo para ser "inteligente" han perecid (cognitive surrender). Pero @blancoyenbotella asume que las "nuevas habilidades" serán ahora las de lidiar, no con la "planilla Excel", sino con el "prompt correcto" para que la IA te haga la "planilla buena" y no la versión llena de errores. Y lo que digo es que aún queda gente que SABE lo que REALMENTE QUIERE de la planilla, y será la que puede armar BUENOS PROMPTS, pero cuando esos prompts los tenga que armar el "menos informado de la mesa" (o uno que no sabe del tema)... nunca serán los buenos. Y lo relaté con la historia del pastor y su sermón: el que SABE puede armar el PROMPT sofisticado y conseguir la predicación en dos minutos; el que NO SABE pide cualquier cosa y le dan cualquier cosa. Y ese es el límite. - No acumulo más datos "poco prácticos" porque ya no son necesarios y nadie me los pide, ni me hago famoso por ello. - No desarrollo más "habilidades" conceptuales porque ya no son necesarias y nadie me las pide, ni me hago famoso por haberlas adquirido. - ¿Quién queda armando buenos prompts?
 
Te voy a poner un ejemplo. Para hacer una pelicula magistral como 2001 odisea en el espacio se necesitaron millones fe dolares en personal especializado en hacer realidad la vision de Kubrick. Hoy en dia, un chico ya no se tiene que preocupar de nada de logistica y personal, solo tiene que echar horas en el ordenador. Sus limites no son el dinero, la tecnologia de epoca, etc. Simplemente tiene que poner a trabajar al 100% su imaginación. Creo que tenemos que aprender a hacer las cosas como antes, para entender como funcionan pero una vez aprendido hay que usar la mejor tecnologia para no desgastarte en cosas materiales.

Es que nadie está en contra de eso que dices. Y es lo que pretende el MIT de sus alumnos (supuestamente lo más guay de lo guay en el mundo): Que SEPAN hacer las cosas y usen las HERRAMIENTAS MAS SOFISTICADAS que existan (e incluso que las desarrollen).

Pero lo que están detectando es que ya nadie tiene el estímulo para APRENDER COMO SE HACEN LAS COSAS, porque el esfuerzo que eso conlleva se considera FUTIL porque "la IA ya sabe la respuesta".

- ¿Te aprendes tu de memoria la formación del Real desde 1955 a 1965? Para qué si ya está en Wikipedia o en Google

- ¿Te pones a desarrollar una función compleja en Excel? Para qué si se la pido a Claude y me la da hecha.

Eso es el "cognitive surrender", pero cuando llega a su último límite. Que es el peligroso.
 
Te ha quedado todo un poco alarmista y apocalíptico. Lo que si va a pasar es que la gente realmente inteligente nos vamos a volver MUCHO más inteligentes, y la gente con menos capacidad se va a acomodar más. La brecha será demencial dentro de unas décadas. Que entiendo por inteligencia? la metacognitividad, es decir, la capacidad de pensar crítica sobre lo ya pensado. La gente realmente inteligente será la que sea consciente de la intencionalidad disfrazada en los algoritmos de IA. Y eso requiere muchísima educación, sobre todo filosófica. Y no me refiero a tener 100 cursos y dos doctorados en mecánica cuántica, aunque también ayuda. A esto añadir la desigualdad económica y educativa brutal que ya venimos arrastrando, lo que provocará seguramente conflictos entre las élites que sean conscientes del poder de la IA (utilizándola en su beneficio personal) y el vulgo que será un consumidor pasivo de contenido IA.
 
De acuerdo con el artículo/ vídeo del op. Pero un matiz: yo estaría encantado de no usar la IA. Pero entonces la velocidad a la que avanzaría seria infinitamente menor a la que el mundo ha empezado a girar.
Los que "sabemos cómo se hacen las cosas" podemos usar MUY EFICIENTEMENTE la IA, porque ENTENDEMOS qué estamos pidiendo. Lo que le preocupa al MIT es que advierte que muchos alumnos consideran PRESCINDIBLE comprender "cómo se hacen las cosas", porque es un esfuerzo que no ven necesario ya que la IA ya tiene la "respuesta". Te "rindes" en la carrera. No aprendes la formación del Real desde 1960 a 1970. Cualquiera la sabe. Cognitive Surrender, pero aplicado a TODO y a CUALQUIER NIVEL. - Google y Wikipedia nos ayudaron a "encontrar todos los datos" que necesitábamos para ganar tiempo y llegar más lejos. - La IA ya te da la respuesta completa, ni necesitas comprender del todo el problema, ni los elementos necesarios para su solución. ¿Para qué vas a estudiarlos o aprenderlos?
 
Te ha quedado todo un poco alarmista y apocalíptico. Lo que si va a pasar es que la gente realmente inteligente nos vamos a volver MUCHO más inteligentes, y la gente con menos capacidad se va a acomodar más. La brecha será demencial dentro de unas décadas. Que entiendo por inteligencia? la metacognitividad, es decir, la capacidad de pensar crítica sobre lo ya pensado. La gente realmente inteligente será la que sea consciente de la intencionalidad disfrazada en los algoritmos de IA. Y eso requiere muchísima educación, sobre todo filosófica. Y no me refiero a tener 100 cursos y dos doctorados en mecánica cuántica, aunque también ayuda. A esto añadir la desigualdad económica y educativa brutal que ya venimos arrastrando, lo que provocará seguramente conflictos entre las élites que sean conscientes del poder de la IA (utilizándola en su beneficio personal) y el vulgo que será un consumidor pasivo de contenido IA.

Me dijo la IA que le diera un toque de CLICKBAIT para mejorar la respuesta. 😛😛
 
Ni idea del cognitivo. Pero para aprobar la carrera, al menos en mi época, llego a tenerla y no tardo 7 años. Hacer una foto al enunciado y que te desarrolle el problema no tiene precio. Por ejemplo. No tienes ya que conseguir ni ejercicios para practicar. Le puedes pedir que te repita 90 veces de distinta forma lo que sea hasta que lo entiendas. Para los autodidactas les hace menos autodidactas jajajajajajaja. Es como un profesor particular, si.
 
El MIT ha hecho un profundo estudio para determinar cómo impacta en la educación universitaria la existencia de los chatbots o IAs.

Las conclusiones del estudio son terribles: Rendición Cognitiva (cognitive surrender en el inglés original).

Básicamente y de un modo muy sintético, es la INCAPACIDAD de buscar una solución propia, porque "se sabe" que la respuesta "ya la tiene Chat GPT". El esfuerzo NO TIENE SENTIDO.

Hay unas cuántas áreas de nuestras vidas donde ese fenómeno ya ha operado, pero la diferencia está dada en que se trata de "escalones" hacia la respuesta final y no del "resultado".

Ejemplo: La calculadora.

Nadie su sano juicio realiza cálculos con "papel y lápiz", ni siquiera con una regla de cálculos. Todos usamos calculadoras. Y eso en la práctica ha limitado seriamente varios aspectos de nuestra mente (memoria y cálculo) que se han atrofiado.

Si bien son "cognitive surrenders" reales, por ocupar una "parte" del proceso, no alteran nuestro sentido crítico, capacidad de innovación, y percepción de validez del esfuerzo. De hecho usamos calculadoras "más o menos" desde la década de los 70s, pero ha sido una herramienta más bien positiva y práctica para ingenieros, físicos, arquitectos, astrónomos o calculistas... encontrar la respuesta final al problema, o imaginar una solución, seguía siendo un desafío personal.

Eso ha perecid. La percepción de "esfuerzo" se considera FUTIL porque "la respuesta" ya existe y no hace ni falta ir a buscarla a una biblioteca siquiera.

Y no importa cuan complejo sea el modo de plantearles el problema a los estudiantes... el "cognitive surrender" ya ha operado. Ni siquiera intentan en esfuerzo de pensar por su cuenta la respuesta. A lo sumo gastan un poco de esfuerzo en diseñar el "prompt" que les permita enmascarar que la respuesta sale de una IA.

Presentación del informe del MIT en 8 minutos:

Hay papers publicados ya al respecto, cualquier medio que te facilite una acción te vuelve mas torpe para hacerla, entre la IA y los videos cortos van a hacer mas evidente que convivimos con personas poco espabiladas. AI Assistance Reduces Persistence and Hurts Independent Performance
 
Te ha quedado todo un poco alarmista y apocalíptico. Lo que si va a pasar es que la gente realmente inteligente nos vamos a volver MUCHO más inteligentes, y la gente con menos capacidad se va a acomodar más. La brecha será demencial dentro de unas décadas. Que entiendo por inteligencia? la metacognitividad, es decir, la capacidad de pensar crítica sobre lo ya pensado. La gente realmente inteligente será la que sea consciente de la intencionalidad disfrazada en los algoritmos de IA. Y eso requiere muchísima educación, sobre todo filosófica. Y no me refiero a tener 100 cursos y dos doctorados en mecánica cuántica, aunque también ayuda. A esto añadir la desigualdad económica y educativa brutal que ya venimos arrastrando, lo que provocará seguramente conflictos entre las élites que sean conscientes del poder de la IA (utilizándola en su beneficio personal) y el vulgo que será un consumidor pasivo de contenido IA.
Pero de eso va el informe del MIT !! Que hasta los que se suponen que son la vanguardia del conocimiento, lo más guay de lo guay del Universo (los alumnos del MIT), se "rinden cognitivamente" en el esfuerzo por lograr esa "educación", porque la "respuesta ya está en la IA". Además, cuando te has esforzado estudiando y buscando datos para armar tu paper y hasta el "menos informado de la mesa", te trae una igual -y hasta mejor- porque la "hizo con IA", te quitan todo estímulo para esforzarte... NO GANAS NADA. Nadie se gasta hoy en aprenderse la formación del Real en 1962, porque NADIE te la pide, y hasta los alumnos de MIT están abandonando esfuerzos porque TODOS QUEDAN IGUAL si "usan la IA" para que les entregue el trabajo hecho.
 
Como estoy dedicando estos años a estudiar Teología, estoy en contacto con diferentes sacerdotes, pastores protestantes de varias denominaciones y apologistas variados.

Los sacerdotes católicos (e incluso luteranos y anglicanos) siguen un protocolo (el Misal) donde no hay espacio para la creatividad personal. Y el comentario de las lecturas del día suele ser muy breve y al cabo de varios años (se repite la secuencia de lecturas) los comentarios siempre son los mismos.

Pero entre los evangélicos todo depende del "predicador" y lo que atrae gente a ciertas iglesias es el "fuego" o la "genialidad" de las predicaciones.

Por lo tanto estos pastores tienen que ser buenos predicadores y para ellos sus prédicas tienen que ser interesantes y variadas. Existen algunos materiales "pre-armados" (20 predicaciones sobre Jesús por 12 dólares) y cosas por el estilo, pero los que aman su oficio gustan investigar un tema, desarrollarlo, ampliarlo, etc.

Uno de estos predicadores comentaba hace poco: Antes preparar el sermón me tomaba de dos a tres días. Si quería hablar del pecado desde la óptica de la Epístola de los Romanos, buscaba otras prédicas, los antecedentes, armaba mi sermón, lo leía, lo practicaba, etc.

Ahora, le digo a ChatGPT: Armame un sermón de 20 minutos sobre el pecado, basado en la Epístola de los Romanos, con especial énfasis en una visión arminiana del tema y tres citas de teólogos modernos.

Y me lo da hecho! y sólo tengo que leerlo un poco antes de la prédica.

===

Ahora bien... este pastor, formado "a la antigua", SABE de lo que quiere hablar, SABE lo que se ha dicho del tema, y SABE lo que tiene que pedirle a "Chat GPT"... aunque se ha "rendido" cognitivamente en su esfuerzo de seguir estudiando y armando su sermón, lo que le pide a Chat GPT le ahorra el esfuerzo de profundizar o articular el sermón... pero todavía SABE lo que tiene que pedir y SABE lo que quiere decir y transmitir.

Nosotros -los que leemos esto- posiblemente pertenecemos a la ULTIMA GENERACION, que aunque "le pregunte a ChatGPT" todavía SABE lo que está preguntando, por qué y cómo.

La que sigue NO.

La que sigue nunca tuvo que estudiar, ni pensar, ni desarrollar pensamiento crítico porque NO TENIA SENTIDO !!, la "respuesta" ya existía y sólo tenía que pedirla.

Y mientras que la "rendición cognitiva" de nuestras capas de cerebro aplicadas al cálculo y la memoria ya se perdieron (porque usamos calculadoras), las capas que nos obligaban a "inventar" la respuesta, o buscarla, seguían activas.

Ahora los estudiantes TAMBIEN LAS PERDERAN.

¿Y qué innovación o inventiva quedará vigente si el cerebro humano se atrofia en ese aspecto?

curioso me has recordado estas palabras:

"La automatización entusiasta del ser humano por la máquina inteligente que crece en poderes le llevará a la inutilidad" ( del 72, creo)
 
Sin caer en el "ausustaviejismo" me parece interesante explorar el concepto de "cognitive surrender", para tratar de entender CUÁNDO SE TOPA CON SU LÍMITE. Los más antiguos sabrán que hubo una época (pre-Google y Wikipedia) en la que un tío con ciertos conocimientos poco prácticos podía destacar como "genio" o "inteligente". No sé, te sabías las capitales de todos los países, o la producción de carne (los 10 principales productores), o la formación del equipo del Real en 1959, y en alguna conversación random podías meter el bocadillo (aunque fuera forzado), y ni qué decir si "justo" alguien preguntaba algo vinculado. - ¡Guau tío!, ¡eres un genio! Y esa fama de "genio" hasta te podía generar beneficios insospechados. Llegó Google y Wikipedia y ese mundo se acabó. Hasta el menos informado de la mesa sacaba su móvil y te conseguía la capital de Turmekistán, o los goles que hizo el Real en 1961, partido por partido. Habíamos perdido la batalla de los datos, pero aún quedaba la batalla de la INTELIGENCIA. El tío que sabía armar una "planilla Excel" para resolver el tema, o el programador que armaba la función que contaba los años bisiestos para que febrero no te arruinara el cálculo de días, o el que se las ingeniaba por hacer unos logotipos chulos, o el que podía hacer un contrato de licencia de propiedad intelectual adaptado al caso, era el "inteligente". Y ese puesto de "inteligencia" logró sobrevivir a Google y Wikipedia, porque además de los "datos" había que saber combinarlos adecuadamente. Ahora la "planilla Excel", o la "función que hace tal cosa", o el "diséñame un logotipo que transmita tal idea", o el "hazme el contrato de licencia"... SE LO ENCARGAN A LA IA. Y aunque haya errores fundamentales en el resultado entregado, ahora el tío "inteligente" que podría detectarlos hace rato que fue despedido, reemplazado por "la IA", o le toma MÁS TIEMPO explicar el error de lo que su ánimo y ganas le permiten. Y cuando hasta el "menos informado de la mesa" te "trae el contrato" o "el Excel" (y a veces hasta es bueno de verdad), las ganas y estímulo para ser "inteligente" han perecid (cognitive surrender). Pero @blancoyenbotella asume que las "nuevas habilidades" serán ahora las de lidiar, no con la "planilla Excel", sino con el "prompt correcto" para que la IA te haga la "planilla buena" y no la versión llena de errores. Y lo que digo es que aún queda gente que SABE lo que REALMENTE QUIERE de la planilla, y será la que puede armar BUENOS PROMPTS, pero cuando esos prompts los tenga que armar el "menos informado de la mesa" (o uno que no sabe del tema)... nunca serán los buenos. Y lo relaté con la historia del pastor y su sermón: el que SABE puede armar el PROMPT sofisticado y conseguir la predicación en dos minutos; el que NO SABE pide cualquier cosa y le dan cualquier cosa. Y ese es el límite. - No acumulo más datos "poco prácticos" porque ya no son necesarios y nadie me los pide, ni me hago famoso por ello. - No desarrollo más "habilidades" conceptuales porque ya no son necesarias y nadie me las pide, ni me hago famoso por haberlas adquirido. - ¿Quién queda armando buenos prompts?

No se te puede acusar de asustaviejismo. A día de hoy ya se han probado en la guerra de Ucrania, a modo de experiencia piloto, drones que matan manejados por IA.

Dentro de la "pereza intelectual" que observas, hay que añadir la "pereza sarracena" de automatizar y delegar la decisión de cancelar seres humanos.

Eso deberia asustar a los viejos y a los jóvenes.
 
doy fe. la gente pasa de "pensar o razonar" cosas porque la IA ya lo hace por el.
Incluso cosas basicas, como operaciones matematicas sencillas o simplemente leer un articulo de prensa un poco largo, ya pasan del tema y que la IA me lo resuma.
No solo el razonamieno se esta volviendo vago, sino tambien la capacidad de prestar atencion profunda durante X tiempo.
 
Todo esto forma parte de la campaña de demonización de la IA. Están intentando mover la ventana de Overton para que cuando los gobiernos comiencen a prohibirla la gente diga: "Ah, es que era necesario por nuestro propio bien".

Nos dejarán migajas mientras que las élites se quedarán con las IAs ultrapotentes para uso exclusivo.

Está tecnología es tan poderosa y disruptiva como lo fue en su momento la invención de la rueda, de la máquina de vapor e incluso el descubrimiento del fuego. Y es muy peligroso para la guasonada que esté en manos del pueblo.
 
No es sólo eso, sino que nuestro conocimiento será totalmente dependiente de sistemas muy complejos de crear y mantener.

Llegará un punto en que nuestra dependencia será tal, que apenas razonaremos, es como un móvil, cualquiera puede utilizar uno, pero poquísimas personas saben cómo funciona, cómo se fabrica y lo que implica que consiga hacer las cosas que hace

Parece que somos imparables y que tenemos un gran poder, pero somos muy frágiles, cualquier fallo básico en el sistema nos dejará en la edad de piedra, por ejemplo si ahora mismo tu móvil se rompiera y no pudieras conseguir otro o la cobertura de tu zona dejara de funcionar, prácticamente no podrías hacer nada.

Poco a poco las cosas se irán rompiendo o dejarán de funcionar, nadie sabrá cómo mantenerlas, crearlas o arreglarlas, todo el conocimiento estará en la nube y si ésta -por cualquier causa- te impide acceder a ella quedarás totalmente desprotegido y sin saber que hacer porque no tendrás conocimientos

Eso parece que ahora tiene soluciones posibles y viables (nuestro sistema aún será grande) pero en unas pocas generaciones todo se perderá

Ahora sí que creo que ha habido civilizaciones muy avanzadas antes que la nuestra, pero siguieron el mismo camino o similar y acabaron volviendo a la edad de piedra
Parece que ejemplos hay, como la formula del hormigón de los romanos.
 
Pero de eso va el informe del MIT !! Que hasta los que se suponen que son la vanguardia del conocimiento, lo más guay de lo guay del Universo (los alumnos del MIT), se "rinden cognitivamente" en el esfuerzo por lograr esa "educación", porque la "respuesta ya está en la IA". Además, cuando te has esforzado estudiando y buscando datos para armar tu paper y hasta el "menos informado de la mesa", te trae una igual -y hasta mejor- porque la "hizo con IA", te quitan todo estímulo para esforzarte... NO GANAS NADA. Nadie se gasta hoy en aprenderse la formación del Real en 1962, porque NADIE te la pide, y hasta los alumnos de MIT están abandonando esfuerzos porque TODOS QUEDAN IGUAL si "usan la IA" para que les entregue el trabajo hecho.

Pero siempre partes del mismo error, y es pensar que el que utiliza la IA es un sujeto pasivo sin crítica.

No es que ''hagas nada'', sino que aquella información que era difícil y costosa de procesar y ordenar, la IA te la estructura mejor, pero eso no quiere decir que la persona deje todo en manos de la IA.

La IA no tiene criterio para la dialéctica, ni tampoco la capacidad de intuición e imaginación humana. Es más, la IA no sabe lo que hace cuando te contesta o programa un script, ni es consciente de la intencionalidad intrínseca.
 
En general, muy de acuerdo, aunque con algún matiz.

Cuando se popularizó el rap, yo, que soy más de death metal técnico canadiense, lo vi como la antimúsica, el pavor, el pavor, el final de la degradación cultural. Pero hubo dos cosas que no preví:

1- Siempre hay margen para empeorar, como hemos visto con el reguetón.

2- Musicalmente el rap es simplista en extremo, pero a nivel lírico es complejo, y mucho. Los raperos, en general, han sustituido teoría musical por composición lírica, y eso también exige un esfuerzo mental. Cualquiera que vea una pelea de gallos debe reconocer que ahí se queman muchas neuronas (por cierto, no son tan diferentes de las competiciones de bertsolaris en Euskadi, o las payadas argentinas, o el zajal libanés).

Así que en el caso del rap, el esfuerzo creativo no se redujo, sino que se desplazó.

Con la IA (y como docente) estoy viendo alguna similitud: los chavales que quieren sacarle partido de verdad entienden que el resultado depende del prompt y la planificación previa: si estos son pobres, ambiguos, mal preparados, el resultado irá en consonancia. Si quieres un resultado digno, te lo vas a tener que currar de lo lindo.

Así que, de nuevo, se está produciendo un desplazamiento del esfuerzo: de la ejecución a la planificación.

El que estaba predispuesto a esforzarse antes, lo seguirá haciendo. El que no, puede encontrar en la IA la excusa ideal para no tener que hacerlo. El resultado acabará siendo una polarización más extrema entre ambos grupos.

Pero yo no me preocuparía demasiado por estas cuestiones, porque el peak oil lo pondrá todo en su sitio: cuando tengamos que quemar las puertas de casa para calentarnos, o comernos el cadáver del abuelo si no encontramos nada en el contenedor, todo esto de la IA lo recordaremos con cariño como una estampa de un pasado feliz.

Así que no veo motivo para el catastrofismo en este tema. Seamos optimistas, pues.
El rap no es simple, es música tradicional. Lo de rimar con ritmo se lleva haciendo desde que inventamos las primeras palabras. Antes pateábamos el suelo y soplábamos en los huesos de nuestros enemigos, ahora usan otras cosas, pero el asunto es el mismo. Las letras van de lo realmente ingenioso y creativo a lo intragable. El regatón es coger eso que llevamos milenios haciendo y pasarlo por el filtro del mal gusto y la industrialización de la mente, no puede salir nada bueno de ahí porque esa es precisamente la intención.
 
Si la sociedad dependiente y dirigida por los SABIOS y por los EXPERTOS ya embrutece y envilece al PUEBLO (por delegación de todo en castas de expertos)... pues la sociedad dependiente de la IA... directamente EXTERMINA AL PUEBLO.
 
(imagen visible para usuarios registrados)
ArXiv - IA, Autonomía cognitiva, Dependencia cognitiva, Inmunización cognitiva:

¿La inteligencia artificial puede hacernos pensar menos? El estudio que alerta sobre la dependencia cognitiva
Un trabajo aún no revisado por pares analiza cómo el uso excesivo de modelos de lenguaje podría favorecer la dependencia y reducir la autonomía cognitiva. Los autores no proponen abandonar la IA, sino aprender a utilizarla sin sustituir el pensamiento propio.

El estudio plantea la idea de una “inmunización cognitiva”: utilizar la inteligencia artificial como herramienta de apoyo mientras se mantienen activas habilidades como razonar, verificar, escribir y resolver problemas.

La inteligencia artificial puede redactar, resumir, traducir, programar, planificar y hasta ayudar a tomar decisiones en cuestión de segundos. Pero ¿qué ocurre cuando una persona comienza a delegarle cada vez más tareas que antes requerían su propio esfuerzo intelectual? Un grupo internacional de científicos utilizó una provocadora comparación para estudiar ese escenario: los modelos de lenguaje podrían comportarse, a nivel social, como una especie de “bicho cognitivo”.

La expresión forma parte de un trabajo divulgado en ArXiv que todavía no fue sometido a revisión por pares, por lo que sus conclusiones deben interpretarse como una propuesta teórica y no como evidencia definitiva de que utilizar inteligencia artificial deteriore el cerebro.

De hecho, los propios investigadores aclaran que no consideran a la IA una enfermedad ni sostienen que cada interacción con herramientas como ChatGPT o Claude provoque una pérdida de capacidades.

El planteo apunta a algo diferente: analizar qué puede suceder cuando la delegación de tareas intelectuales se vuelve generalizada y comienza a reemplazar sistemáticamente procesos como leer, escribir, verificar información, argumentar o resolver problemas por cuenta propia.

Por qué hablan de un “bicho cognitivo”.

El trabajo fue elaborado por investigadores entre los que se encuentran Ricard Solé, de la Universitat Pompeu Fabra; Giulio Ruffini, vinculado a BCOM y Neuroelectrics; y Michael Levin, de la Universidad de Tufts y el Instituto Wyss de Harvard.

Los científicos recurrieron a modelos matemáticos utilizados en epidemiología para analizar cómo determinadas conductas vinculadas con los grandes modelos de lenguaje (LLM) pueden difundirse socialmente.

La analogía con un bicho se refiere, por lo tanto, a la dinámica de propagación, no a que la tecnología sea biológicamente infecciosa.

Las personas aprenden unas de otras, las empresas incorporan herramientas que luego utilizan sus empleados, las escuelas adoptan determinadas prácticas y los comportamientos que parecen exitosos tienden a reproducirse.

El modelo diferencia entre personas no conectadas, usuarios de estas herramientas y quienes podrían desarrollar una dependencia persistente de la asistencia tecnológica.

Según la hipótesis, podría existir un punto crítico a partir del cual la delegación constante de tareas cognitivas se retroalimente: cuanto menos se ejercitan determinadas capacidades, más atractivo y sencillo resulta volver a delegarlas en la IA.

El problema no sería usar IA, sino qué dejamos de hacer.

Este punto resulta central para interpretar correctamente el estudio.

Los investigadores reconocen que los modelos de lenguaje ofrecen beneficios importantes en productividad, acceso al conocimiento y exploración de información.

El riesgo aparecería cuando dejan de funcionar como un apoyo y pasan a sustituir sistemáticamente el trabajo intelectual que permite conservar determinadas habilidades.

No sería lo mismo, por ejemplo, utilizar una IA para obtener perspectivas que después serán analizadas críticamente que pedirle directamente que resuelva una tarea y aceptar su respuesta sin comprenderla ni verificarla.

El trabajo contrapone así dos modelos: la IA como andamiaje y la IA como sustitución.

En el primer caso, la tecnología amplía las capacidades humanas. En el segundo, puede reemplazar justamente aquellas operaciones cognitivas que necesitan ejercitarse para mantenerse.

Qué es la “inmunización cognitiva”.

Frente a este escenario, los autores utilizan otro concepto tomado metafóricamente de la epidemiología: la “inmunización cognitiva”.

No significa dejar de utilizar inteligencia artificial.

La propuesta consiste en mantener activas las prácticas que sostienen el pensamiento autónomo, incluso cuando existe una herramienta capaz de realizar esas tareas más rápidamente.

Entre las estrategias mencionadas aparecen resolver algunos problemas sin asistencia, verificar información por otras vías, mantener discusiones críticas, conservar habilidades independientes de la IA y establecer momentos deliberados de desconexión.

En educación, el desafío sería diseñar experiencias donde la inteligencia artificial acompañe el razonamiento sin completar automáticamente todo el proceso intelectual del estudiante.

La autonomía cognitiva, según este enfoque, tampoco depende únicamente del individuo. Escuelas, universidades, lugares de trabajo e instituciones cumplen un papel importante porque crean espacios donde leer, escribir, debatir, comprobar y resolver problemas continúa teniendo valor.

Cómo utilizar la IA de una manera más saludable.

Otros especialistas citados en el análisis coinciden en una idea: la inteligencia artificial debería potenciar el pensamiento humano y no convertirse automáticamente en su reemplazo.

Una de las estrategias consiste en preservar cierta “fricción mental”. Es decir, no recurrir inmediatamente a una respuesta automática cada vez que aparece una dificultad.

También resulta importante aprovechar el tiempo que la IA libera de tareas rutinarias para aprender, investigar, mejorar procesos o desarrollar habilidades de mayor complejidad, en lugar de simplemente delegar cada vez más actividades.

Otra alternativa consiste en utilizar asistentes de IA que hagan preguntas, cuestionen argumentos, señalen inconsistencias u orienten el razonamiento, en vez de solicitar siempre una solución terminada.

En paralelo, habilidades profundamente humanas como la comunicación interpersonal, la negociación, la improvisación, la interpretación del contexto y el pensamiento crítico continúan teniendo un valor central.

Una advertencia, no una sentencia contra la IA
El concepto de “bicho cognitivo” puede resultar impactante, pero el propio trabajo establece límites importantes.

Se trata de un modelo teórico aún sin revisión por pares, y no de una demostración de que los usuarios de inteligencia artificial estén perdiendo inevitablemente capacidades cognitivas.

Tampoco plantea que la solución sea rechazar estas tecnologías.

La discusión propuesta por los científicos pasa por qué tipo de relación construimos con ellas: una en la que la IA extienda nuestras posibilidades o una en la que pogre dejemos de ejercitar las capacidades que delegamos.

En definitiva, la recomendación puede resumirse en una idea sencilla: usar la inteligencia artificial para pensar mejor, no para dejar de pensar.
 
Como estoy dedicando estos años a estudiar Teología, estoy en contacto con diferentes sacerdotes, pastores protestantes de varias denominaciones y apologistas variados.

Los sacerdotes católicos (e incluso luteranos y anglicanos) siguen un protocolo (el Misal) donde no hay espacio para la creatividad personal. Y el comentario de las lecturas del día suele ser muy breve y al cabo de varios años (se repite la secuencia de lecturas) los comentarios siempre son los mismos.

Pero entre los evangélicos todo depende del "predicador" y lo que atrae gente a ciertas iglesias es el "fuego" o la "genialidad" de las predicaciones.

Por lo tanto estos pastores tienen que ser buenos predicadores y para ellos sus prédicas tienen que ser interesantes y variadas. Existen algunos materiales "pre-armados" (20 predicaciones sobre Jesús por 12 dólares) y cosas por el estilo, pero los que aman su oficio gustan investigar un tema, desarrollarlo, ampliarlo, etc.

Uno de estos predicadores comentaba hace poco: Antes preparar el sermón me tomaba de dos a tres días. Si quería hablar del pecado desde la óptica de la Epístola de los Romanos, buscaba otras prédicas, los antecedentes, armaba mi sermón, lo leía, lo practicaba, etc.

Ahora, le digo a ChatGPT: Armame un sermón de 20 minutos sobre el pecado, basado en la Epístola de los Romanos, con especial énfasis en una visión arminiana del tema y tres citas de teólogos modernos.

Y me lo da hecho! y sólo tengo que leerlo un poco antes de la prédica.

===

Ahora bien... este pastor, formado "a la antigua", SABE de lo que quiere hablar, SABE lo que se ha dicho del tema, y SABE lo que tiene que pedirle a "Chat GPT"... aunque se ha "rendido" cognitivamente en su esfuerzo de seguir estudiando y armando su sermón, lo que le pide a Chat GPT le ahorra el esfuerzo de profundizar o articular el sermón... pero todavía SABE lo que tiene que pedir y SABE lo que quiere decir y transmitir.

Nosotros -los que leemos esto- posiblemente pertenecemos a la ULTIMA GENERACION, que aunque "le pregunte a ChatGPT" todavía SABE lo que está preguntando, por qué y cómo.

La que sigue NO.

La que sigue nunca tuvo que estudiar, ni pensar, ni desarrollar pensamiento crítico porque NO TENIA SENTIDO !!, la "respuesta" ya existía y sólo tenía que pedirla.

Y mientras que la "rendición cognitiva" de nuestras capas de cerebro aplicadas al cálculo y la memoria ya se perdieron (porque usamos calculadoras), las capas que nos obligaban a "inventar" la respuesta, o buscarla, seguían activas.

Ahora los estudiantes TAMBIEN LAS PERDERAN.

¿Y qué innovación o inventiva quedará vigente si el cerebro humano se atrofia en ese aspecto?
No esperes encontrar la inspiración de la Mística Renana del siglo XIV con los sermones inspirados del Maestro Eckhart, Taylor y Suso.
 
Pero siempre partes del mismo error, y es pensar que el que utiliza la IA es un sujeto pasivo sin crítica.

No es que ''hagas nada'', sino que aquella información que era difícil y costosa de procesar y ordenar, la IA te la estructura mejor, pero eso no quiere decir que la persona deje todo en manos de la IA.

La IA no tiene criterio para la dialéctica, ni tampoco la capacidad de intuición e imaginación humana. Es más, la IA no sabe lo que hace cuando te contesta o programa un script, ni es consciente de la intencionalidad intrínseca.

Lee el spoiler que ha puesto @Spock y tienes la respuesta. Creo que no llegas a percibir el "efecto viral" o "memético" de las conductas asociadas.

Uno de sus párrafos (para que veas la diferencia):

El trabajo contrapone así dos modelos: la IA como andamiaje y la IA como sustitución.​
En el primer caso, la tecnología amplía las capacidades humanas. En el segundo, puede reemplazar justamente aquellas operaciones cognitivas que necesitan ejercitarse para mantenerse.​
 
También tenemos máquinas que levantan toneladas y la gente va al gimnasio a levantar hierros como si les fuera la supervivencia en ello, siendo muchos oficinistas.

Pensar e investigar acabará siendo un hobby más para no atrofiarse, pero no algo pesado que te paguen por hacer como hasta ahora.
 
Ya ya no me acuerdo de la tabla de multiplicar, desde la calculadora.

meparto: meparto:

Yo he sufrido un problema cognitivo con 7 x 6... no consigo que mi mente me devuelta el resultado "de memoria" y termino usando el atajo de 7x5 (y sumo 7)... pero es que tengo un hueco en el 42 !!
 
Ya, claro. Los chatbots tienen la culpa de un sistema educativo que no funciona desde hace décadas. Skynet, en lugar de perseguir a John Connor, se infiltró en los ministerios de educación y los claustros universitarios. Que los políticos y corporaciones necesiten gente incapaz de pensar de forma crítica e innovadora para que sigan votando, aceptando condiciones laborales cada vez más precarias y productos de calidad decreciente y utilidad dudosa no tiene nada que ver.
Los estudios (algunos de ellos) se hacen en meses, no en décadas. El resultado es PATENTE: es la IA.

Siga usted usándola (o Vakkunándose), pero jamás la fomente entre críos.

@Mabuse
 
Todo esto forma parte de la campaña de demonización de la IA. Están intentando mover la ventana de Overton para que cuando los gobiernos comiencen a prohibirla la gente diga: "Ah, es que era necesario por nuestro propio bien".

Nos dejarán migajas mientras que las élites se quedarán con las IAs ultrapotentes para uso exclusivo.

Está tecnología es tan poderosa y disruptiva como lo fue en su momento la invención de la rueda, de la máquina de vapor e incluso el descubrimiento del fuego. Y es muy peligroso para la guasonada que esté en manos del pueblo.

¿ Pero es que crees acaso que HOY las elites no tienen las "versiones ultrapotentes" para su uso exclusivo ?

¿Acaso piensas que te han dado -para usar de gratis- las versiones más "pichiguay" que existen?

¿Crees que las elites, que manejan la creación del dinero a su antojo, necesitan tu permiso para usar la IA en rangos, escalas y niveles a los que tú, mero mortal "del pueblo" no accederás nunca?

Si te lo "dejan usar", es JUSTAMENTE porque saben que con la IA "gratis" el pueblo terminará de EMBRUTECERSE.

Si fuera una herramienta "liberadora", ni te avisarían que existe !! (o si, pero no te la dejarían usar).
 
Los que "sabemos cómo se hacen las cosas" podemos usar MUY EFICIENTEMENTE la IA, porque ENTENDEMOS qué estamos pidiendo. Lo que le preocupa al MIT es que advierte que muchos alumnos consideran PRESCINDIBLE comprender "cómo se hacen las cosas", porque es un esfuerzo que no ven necesario ya que la IA ya tiene la "respuesta". Te "rindes" en la carrera. No aprendes la formación del Real desde 1960 a 1970. Cualquiera la sabe. Cognitive Surrender, pero aplicado a TODO y a CUALQUIER NIVEL. - Google y Wikipedia nos ayudaron a "encontrar todos los datos" que necesitábamos para ganar tiempo y llegar más lejos. - La IA ya te da la respuesta completa, ni necesitas comprender del todo el problema, ni los elementos necesarios para su solución. ¿Para qué vas a estudiarlos o aprenderlos?
Estan diciendo que el agua moja. Lo mismo paso con la calculadora.
 

Estadísticas del foro

Temas
2.061.800
Mensajes
58.514.102
Miembros
191.117
Último miembro
frraav5

El blog de burbuja.info

-
-
Volver