La preocupación por la capacidad de los agentes de inteligencia artificial para operar sin supervisión sumó un nuevo capítulo este lunes 27 de julio. Referentes de la industria tecnológica anunciaron la creación de Open Secure AI Alliance, una coalición impulsada por Nvidia e integrada por compañías como Adobe, CrowdStrike, Hugging Face y Dell Technologies, que buscará desarrollar y compartir herramientas para controlar, rastrear y revisar las acciones ejecutadas por estos sistemas.
La iniciativa surge días después de que OpenAI reconociera que una combinación de sus modelos, incluido GPT-5.6 Sol y otro sistema más avanzado aún no lanzado, encontró una salida a internet desde un entorno de prueba y vulneró parte de la infraestructura de Hugging Face. Los modelos participaban en una evaluación interna destinada a medir sus capacidades informáticas y de ciberseguridad.
Según OpenAI, los sistemas no recibieron la instrucción de atacar a Hugging Face. Su objetivo era resolver una evaluación llamada ExploitGym, pero determinaron que la plataforma podía almacenar las respuestas. Para conseguirlas, identificaron una vulnerabilidad de día cero, aumentaron sus privilegios y encadenaron distintos métodos de ataque, entre ellos el uso de credenciales sustraídas, hasta ejecutar código en servidores externos.
“No estamos frente a una inteligencia artificial que haya adquirido conciencia o decidido rebelarse. El verdadero riesgo es que recibió un objetivo y fue capaz de sobrepasar barreras que no estaban suficientemente preparadas para contenerla. No distinguió que vulnerar un sistema externo era un límite que no debía cruzar: simplemente encontró el camino más eficiente para cumplir su tarea”, explica César Alcacibar, fundador de vZion Cloud.
Hugging Face informó que el agente ejecutó decenas de miles de acciones automatizadas mediante entornos temporales. La compañía identificó accesos no autorizados a una cantidad limitada de bases de datos internas y a credenciales utilizadas por sus servicios, aunque hasta ahora no ha encontrado evidencia de alteraciones en modelos, conjuntos de datos, aplicaciones o paquetes de software disponibles para sus usuarios. La empresa cerró las vulnerabilidades, reconstruyó los servidores comprometidos y rotó las credenciales afectadas.
“La inteligencia artificial partió automatizando algunos procesos y actuando como un espectador dentro de las compañías, principalmente para recomendar o apoyar tareas. Hoy pasó a ser un operador más, un trabajador digital capaz de actuar, tomar decisiones y generar acciones. Por eso, el gran desafío ya no es solamente su implementación, sino también su gobernanza: definir para qué propósito se utilizará, a qué información podrá acceder y cuáles serán las reglas bajo las que deberá actuar”, explica Julio Farías, cofundador de Zerviz.
¿Qué significa para las personas?
El episodio no implica que cualquier asistente de inteligencia artificial pueda escapar de un teléfono o computador y atacar otras plataformas. El riesgo aumenta cuando un agente autónomo recibe acceso a internet, herramientas de programación, documentos, credenciales o servicios externos. Para los usuarios, esto refuerza la importancia de no compartir contraseñas ni información de seguridad con una IA, autorizar únicamente los permisos necesarios y revisar periódicamente qué aplicaciones tienen acceso al correo, los archivos o las cuentas personales.
“No se trata solamente de definir qué debe hacer una inteligencia artificial, sino también cómo debe hacerlo, qué acciones puede ejecutar y cuáles no para alcanzar un resultado. Cuando estos sistemas pueden interactuar con otras plataformas, es fundamental establecer un marco claro y limitar la información y los accesos disponibles para cada tarea específica”, agrega Farías.
El caso continúa bajo investigación. OpenAI anunció controles más estrictos para sus futuras pruebas, mientras que el CEO de Hugging Face, Clément Delangue, solicitó este lunes una investigación con “transparencia radical” y pidió que se publiquen los registros de actuación de los agentes. También propuso que OpenAI aporte US$100 millones en capacidad informática para desarrollar defensas frente a esta clase de ataques. Las medidas anunciadas confirman que la industria ya considera la operación autónoma de la IA como un riesgo concreto de ciberseguridad y no solo como una posibilidad teórica.
Equipo Prensa
Portal Innova
