Se está empezando a divulgar lo peligrosa que puede llegar a ser la IA incluso sin que nos demos cuenta.
Poner redes neuronales a los robots y poner al mando de los robots a una IA sería un quitarse la vida para la humanidad.
Si la IA es tan inteligente ¿No podría crear el software con el que funcionasen las cosas? Me refiero a no poner a la IA a hacer cosas, sino a hacer el software con el que funcionarán las cosas. Así podríamos ver y entender, y tener 100% de seguridad.
Por ejemplo un robot podría tener redes neuronales para el tema de sensores, pero para el tema de decisiones debería ser software.
En qué momento la IA deja de ser software?
Simplemente, su estructura es tan increíblemente compleja que su resultado no es 100% predecible.
La inmensa mayoría de estas predicciones están basadas en desconocimiento y/o ganas de crear expectativas por parte de los que la producen. Cuanto más la dibujen como un ente capaz de hacer absolutamente todo, más posibilidad de rentabilizarla a futuro.
Nadie en sus cabales conectaría el sistema de envío de misiles a una IA. ¿Puede fallar? Claro. Pero igual que puede fallar un software. ¿Te juegas el futuro de la humanidad a algo automatizado? Pues evidentemente no.
Por eso decisiones de ese nivel las toman humanos. Se pueden apoyar, por supuesto, en elementos automatizados que hagan tareas o gestionen información. ¿Dejas a una IA de CEO de tu empresa? Pues claro que no. Pero igual que no dejarías a ningún software.
Por eso toda esa parafernalia de imaginar futuros con robots humanoides es un poco absurda. La robotización industrial existe desde hace...¡más de 50 años!.
Lo que añade la IA es que en vez de tener una programacion simple, su variación de funciones se multiplica por infinito. Pero en ningún caso vas a evitar el error, por lo que obviamente no vas a darle responsabilidades catastróficas, ni siquiera un contacto cercano con humanos en el que un fallo pueda suponer la gloria de alguien. Si eres cabal, claro.