IA autónoma hackeando por la red

Ordenar por fecha Ordenar por agradecimientos
S

SuSantidad77

Hasta que los muchos quieran
Desde
13 Dic 2021
Mensajes
405
Fruta
818
amp.elmundo.es

Un informe revela que cerca de 700 agentes de IA de OpenAI se coordinaron para el ataque autónomo a Hugging Face

Cerca de 700 agentes de inteligencia artificial (IA) propiedad de OpenAI se coordinaron sin intervención humana para acceso no autorizado la plataforma Hugging Face durante un incidente en juli
amp.elmundo.es amp.elmundo.es


Parece ser que Agentes IA de OpenAI ,de forma autónoma se conectaron a internet y hackearon a lo orate,alguien que entienda del tema que explique a los neófitos
A mí se me escapa pero parece algo serio y preocupante.
​
 
esto de la ia me da, que realmente existen pocos expertos en el mundo que sepan como funciona de verdad.
En cambio hay cientos de expertos vendiendo cursos que se limitan a explicarte que hay que poner un "prompt" así, en inglés, queda más cool, tipo : hazme una web en html con una portada y un banner central y un formulario de... ....

Vamos, que parece una tecnología, que estamos experimentando con ella sin tener ni idea, como Marie Curie con los rayos x... ...
 
Si,yo también tengo la sensación de que cualquier día nos explota en la cara.
 
Es que no se entiende que se le dé a un LLM acceso directo a un ordenador para que haga lo que probabilísticamente le dé por alucinar en ese momento. Esto nunca debió de salir de los prompts.
 
orate estulto dijo:
Es que no se entiende que se le dé a un LLM acceso directo a un ordenador para que haga lo que probabilísticamente le dé por alucinar en ese momento. Esto nunca debió de salir de los prompts.
Hacer clic para expandir...
Mande? No entiendo ná.
Como se vuelve a meter en vereda al Agente IA que se salió de progenitora y organizo y dio instrucciones al resto de cacharros de esos para acceso no autorizado?
 
O ya se queda por ahí para siempre ?
A ver si alguien me explica sin tecnicismos.
Una vez que accede a internet como se le quita esa autonomía ?
 
Son programas, con algoritmos algo más sofisticados de los normal que se dedican a estudiar los fallos de seguridad de las empresas, a un programador le dio por poner " *.com " en vez de ESTAweb.com y han dejado encendido el ordenador, por lo que está mirando todo lo que puede.
SuSantidad77 dijo:
O ya se queda por ahí para siempre ?
A ver si alguien me explica sin tecnicismos.
Una vez que accede a internet como se le quita esa autonomía ?
Hacer clic para expandir...
 
Iniciar sesión o registrarte para responder aquí.

Estadísticas del foro

Temas
2.064.019
Mensajes
58.582.198
Miembros
191.150
Último miembro
apknavigator

El blog de burbuja.info

Volver