- SANTIAGO de Chile, 3 de junio de 2026 – Desde la Cámara Chilena de Inteligencia Artificial, a través de su Comisión de Seguridad y Gobernanza IA, liderada por Gustavo Venegas O., hacemos un llamado a las organizaciones que están implementando chatbots y agentes de inteligencia artificial a incorporar criterios de seguridad, gobernanza y evaluación continua desde el diseño.
El despliegue de sistemas de IA agéntica en entornos públicos, comerciales o de atención a usuarios representa una oportunidad relevante para mejorar servicios, automatizar procesos y acercar la tecnología a las personas. Sin embargo, también exige una mirada responsable sobre los riesgos asociados a estos sistemas, especialmente cuando interactúan con usuarios reales, procesan información externa o toman decisiones dentro de flujos automatizados.
Entre los riesgos técnicos que hoy deben ser considerados se encuentran la manipulación del contexto conversacional, prompt injection, instrucciones embebidas en documentos o imágenes, cambios progresivos de comportamiento del agente y pérdida de control sobre la integridad de las respuestas. Estos escenarios ya han sido abordados por marcos y comunidades internacionales de seguridad en IA, como OWASP, NIST y MIT, por lo que resulta fundamental que Chile avance en la adopción de buenas prácticas antes de escalar estos sistemas en producción.
Nuestro llamado no busca frenar la innovación ni apuntar a una organización en particular. Por el contrario, busca promover una pausa responsable: revisar lo que estamos construyendo, evaluar los controles existentes y asegurar que la IA que llega a las personas sea confiable, verificable y segura.
Desde la Comisión de Seguridad y Gobernanza IA promovemos la incorporación de procesos de AI Security, red teaming, monitoreo, gestión de riesgos, documentación, trazabilidad y seguridad bajo diseño en todo sistema de IA que vaya a operar en contextos reales.
La inteligencia artificial puede generar un enorme valor para el país, pero su adopción debe ir acompañada de responsabilidad técnica, gobernanza institucional y colaboración entre empresas, academia, industria, reguladores y equipos de seguridad.
Equipo Prensa
Portal Innova
