Un año después de haber iniciado una investigación al respecto, Sophos entrega nuevos antecedentes sobre las actitudes de los actores de amenazas hacia la IA generativa.
En noviembre de 2023, Sophos X-Ops publicó una investigación que exploraba las actitudes de los actores de amenazas hacia la IA generativa, centrándose en los debates de foros seleccionados de ciberdelincuencia. Aunque se visualizó una cantidad limitada de innovación y aspiraciones en estos debates, también hubo mucho escepticismo.
Sin embargo, y dado el ritmo al que evoluciona la IA generativa, Sophos observó un posible cambio, al menos en los foros que investigó; un puñado de actores de amenazas están empezando a incorporar la IA generativa en sus herramientas. Esto se aplica principalmente al spam, a la inteligencia de código abierto (OSINT) y, en menor medida, a la ingeniería social (aunque vale la pena señalar que los grupos de ciberdelincuencia de habla china que llevan a cabo campañas de fraude «sha zhu pan» hacen un uso frecuente de la IA, especialmente para generar texto e imágenes).
No obstante, como antes, muchos actores de amenazas en foros de ciberdelincuencia siguen siendo escépticos sobre la IA. Las discusiones sobre ella son limitadas en número, en comparación con temas «tradicionales» como el malware y el acceso como servicio. Muchas publicaciones se centran en jailbreaks y prompts, que se comparten comúnmente en redes sociales y otros sitios.
“Solo vimos unos pocos intentos primitivos y de baja calidad de desarrollar malware, herramientas de ataque y exploits, que en algunos casos dieron lugar a críticas de otros usuarios, disputas y acusaciones de estafa”, detallaron desde Sophos.
Hubo algunas pruebas de ideas innovadoras, pero eran puramente aspiracionales; era más común compartir enlaces a herramientas de investigación legítimas y repositorios de GitHub. Como Sophos X-Ops descubrió el año pasado, algunos usuarios también están utilizando la IA para automatizar tareas rutinarias, aunque el consenso parece ser que la mayoría no confía en ella para nada más complejo.
Curiosamente, la investigación también observó que los ciberdelincuentes adoptan la IA generativa para usarla en los propios foros, para crear publicaciones y para actividades extracurriculares no relacionadas con la seguridad. En un caso, un actor de amenazas confesó haber hablado con un GPT todos los días durante casi dos años, en un intento de ayudarlo a lidiar con su soledad.
Puedes leer el artículo completo en inglés haciendo clic aquí.
Equipo Prensa
Portal Innova
