La IA Generativa está transformando el panorama digital global, aunque su adopción apresurada pone en riesgo datos confidenciales de proveedores y empresas.
Colombia, enero de 2025. Trend Micro Incorporated (TYO: 4704; TSE: 4704),líder mundial en ciberseguridad, ha publicado un nuevo estudio titulado «El camino hacia la IA Agente: cimientos expuestos«. En este análisis, se revela que la generación aumentada por recuperación (RAG), una tecnología que permite a las empresas crear soluciones de IA personalizadas, presenta importantes riesgos de seguridad. A pesar de los beneficios de la RAG, las empresas deben ser conscientes de estos desafíos para proteger sus datos y operaciones.
“Las organizaciones no pueden permitirse pasar por alto los principios de seguridad básicos en la implementación de sistemas generativos. El acceso sin restricciones a componentes críticos como almacenes vectoriales o plataformas de alojamiento de modelos representa una vulnerabilidad directa para la propiedad intelectual y los datos confidenciales”, afirmó Ignacio Triana, director de estrategia de ciberseguridad para MCA en Trend Micro. Según el directivo, herramientas como Zero Trust Secure Access son claves para mitigar riesgos y garantizar una implementación segura de la IA generativa.
¿Cómo funciona RAG?
La generación aumentada por recuperación combina dos elementos clave: un almacén vectorial, que organiza los datos y facilita su búsqueda, y un modelo de lenguaje que utiliza esa información para responder preguntas o generar contenido. Aunque esta tecnología es eficiente y económica, el informe identificó más de 80 servidores de RAG expuestos a internet sin medidas básicas de protección, como contraseñas o cifrado. Estos servidores, ubicados principalmente en Estados Unidos, China, Alemania y Francia, representan una ventana abierta para posibles ataques.
Uno de los hallazgos más preocupantes fue la falta de seguridad en herramientas ampliamente utilizadas, como llama.cpp y Ollama, que alojan modelos de lenguaje. En muchos casos, los sistemas permitían acceder, modificar o borrar datos almacenados, dejando vulnerables tanto la información empresarial como la operatividad de los sistemas.
¿Por qué se dan estas fallas de seguridad?
El informe también destacó problemas en los almacenes vectoriales, como ChromaDB y Weaviate, fundamentales para el funcionamiento de RAG. Estos sistemas almacenan información clave para las decisiones automáticas, pero su exposición sin protección adecuada podría facilitar el robo o la manipulación de datos confidenciales.
La prisa por adoptar estas tecnologías, descrita en el informe como un enfoque de «moverse rápido y romper cosas», ha llevado a muchos desarrolladores a priorizar la innovación sobre la seguridad. Esto no solo pone en riesgo los sistemas actuales, sino que también plantea desafíos de cara al futuro de la inteligencia artificial, donde los sistemas de IA Agente prometen ser aún más complejos e integrados.
Para hacer frente a las vulnerabilidades expuestas en el estudio, los expertos de Trend Micro recomiendan la implementación de medidas de seguridad robustas. Entre ellas destacan la autenticación obligatoria en todos los accesos, el cifrado de las comunicaciones y la adopción de un modelo de seguridad de confianza cero (Zero Trust). Estas medidas son fundamentales para proteger la infraestructura tecnológica y los datos sensibles que sustentan los avances en inteligencia artificial.
Acerca de Trend Micro
Trend Micro, líder mundial en ciberseguridad, ayuda a hacer del mundo un lugar seguro para el intercambio de información digital. Impulsado por décadas de experiencia en seguridad, investigación global de amenazas e innovación continua, la plataforma de ciberseguridad de Trend Micro, potenciada por inteligencia artificial, protege a cientos de miles de organizaciones y a millones de individuos a través de nubes, redes, dispositivos y puntos finales. Como líder en ciberseguridad en la nube y empresarial, la plataforma de Trend ofrece una poderosa gama de técnicas avanzadas de defensa contra amenazas, optimizadas para entornos como AWS, Microsoft y Google, y visibilidad centralizada para una mejor y más rápida detección y respuesta. Con 7,000 empleados en 70 países, Trend Micro permite a las organizaciones simplificar y asegurar su mundo conectado. www.TrendMicro.com
Equipo Prensa
Portal Innova
,líder mundial en ciberseguridad, ha publicado un nuevo estudio titulado ){kind=link}