Así lo reportó Unit 42, la unidad de Investigación e Inteligencia de Amenazas de Palo Alto Networks. También, detectó 118 ataques de URLs relacionadas con la plataforma de IA.
En marzo, OpenAI lanzó una nueva versión de su modelo de lenguaje natural, GPT-4. Y el gran problema de cualquier avance tecnológico masivo es que casi siempre existe el peligro de los ciberataques: cuantos más usuarios, mayor es la superficie de ataque. Para entender este movimiento, los investigadores de Unit 42, la unidad de Investigación e Inteligencia de Amenazas de Palo Alto Networks, están monitorizando los trending topics, los dominios recién registrados y los dominios ocupados relacionados con ChatGPT, ya que es una de las aplicaciones de consumo más populares y con mayor crecimiento de la historia, que también está atrayendo la atención de los estafadores.
Esta tecnología es un modelo de IA que se está convirtiendo cada vez más en un activo crucial para las organizaciones que utilizan la automatización para aumentar la productividad y la eficacia de sus procesos. Según el seguimiento de Unit 42, entre noviembre de 2022 y principios de abril de 2023, se produjo un aumento del 910% en los registros mensuales de dominios relacionados con ChatGPT. Además, se pudo observar un crecimiento del 17,818% en dominios de ataque relacionados con registros de seguridad DNS en este periodo de tiempo.
Los investigadores también descubrieron que era posible detectar hasta 118 intentos diarios de URL maliciosas relacionadas con ChatGPT, capturadas a partir del tráfico visto en el sistema de filtrado avanzado de URL. «El lanzamiento realizado por OpenAI de su API oficial para ChatGPT, ha generado un aumento del número de productos sospechosos que la utilizan. Por lo tanto, es relevante tener en cuenta los potenciales peligros del uso de chatbots imitadores para alentar a los usuarios de ChatGPT a acercarse a estos con precaución«, señala Mauricio Ramírez, country manager Chile de Palo Alto Networks.
Tendencias en la actividad sospechosa relacionada con ChatGPT
Mientras OpenAI iniciaba su rápido ascenso para convertirse en una de las marcas más famosas dentro de la inteligencia artificial, se observaron varios casos de actores de amenazas que registraban y utilizaban dominios fraudulentos en estado salvaje que utilizaban «openAI» y «ChatGPT» como nombre. dominio (por ejemplo, openai[.]us, openai[.]xyz y chatgpt[.]jobs). La mayoría de estos dominios no han alojado nada malicioso desde principios de abril de 2023, pero es preocupante que no estén controlados por OpenAI u otras empresas auténticas de gestión de dominios y que estén siempre a punto de causar daños.
«Esta investigación reflejó el crecimiento en el volumen de registros diarios de dominios, luego que Microsoft anunció en febrero pasado su nueva versión de Bing. Fueron más de 300 dominios relacionados con ChatGPT, su popularidad se traduce en un aumento significativo de los registros de productos de DNS Security», afirma.
La Unidad 42 también realizó una investigación de palabras clave en el tráfico del sistema de filtrado avanzado de URL. Y fue posible identificar dos grandes picos de búsqueda con las palabras «ChatGPT y GPT-4» el día en que OpenAI publicó la API oficial.
Casos prácticos de estafa ChatGPT
Al realizar la investigación, se pudieron observar varias URL de phishing que intentaban hacerse pasar por sitios web oficiales de OpenAI. Normalmente, los estafadores crean un sitio web falso que imita la apariencia del sitio web oficial de ChatGPT y luego engañan a los usuarios para que descarguen malware o compartan información confidencial.
Una técnica habitual que utilizan los estafadores para distribuir malware es presentar a los usuarios un botón «DESCARGAR PARA WINDOWS» que, una vez pulsado, descarga malware troyano, que es un programa malicioso que infecta dispositivos como si fuera un programa legítimo sin que las víctimas perciban el riesgo.
Además, los estafadores pueden utilizar la ingeniería social relacionada con ChatGPT para el robo de identidad o el fraude financiero. A pesar de que OpenAI ofrece a los usuarios una versión gratuita de ChatGPT, los estafadores conducen a las víctimas a sitios web fraudulentos, alegando que deben pagar por estos servicios. Por ejemplo, el sitio web falso de ChatGPT intenta engañar a las víctimas para que faciliten su información confidencial, como datos de tarjetas de crédito y direcciones de correo electrónico.
Los especialistas también han observado que algunos estafadores se aprovechan de la creciente popularidad de OpenAI para obtener criptomonedas. Se pudo identificar a un estafador que abusaba del logotipo de OpenAI y del nombre de Elon Musk para atraer a las víctimas a un evento fraudulento de distribución de criptodivisas.
Los riesgos de los chatbots imitadores
Aunque ChatGPT se ha convertido en una de las aplicaciones más populares de este año, también han aparecido en el mercado un número cada vez mayor de aplicaciones de chatbot copiadoras (imitadoras) de IA. Algunas de estas aplicaciones ofrecen sus propios modelos lingüísticos de gran tamaño, y otras afirman que ofrecen servicios ChatGPT a través de la API pública anunciada el 1 de marzo. Sin embargo, el uso de chatbots imitadores puede aumentar los riesgos de seguridad.
Antes de la publicación de la API de ChatGPT, existían varios proyectos de código abierto que permitían a los usuarios conectarse a ChatGPT a través de diversas herramientas de automatización. Dado que ChatGPT no es accesible en determinados países o regiones, los sitios web creados mediante estas herramientas de automatización o API pueden atraer a un número considerable de usuarios de estas zonas. Esto también da a los actores de amenazas la oportunidad de monetizar ChatGPT mediante el proxy de su servicio.
«Para automatizar su productividad y sus procesos, el uso de la inteligencia artificial es una herramienta que se está posicionando cada vez más en las empresas. Palo Alto Networks, a través de su firewall de nueva generación y los clientes Prisma Access con filtrado avanzado de URL, seguridad DNS y firmas WildFire reciben protección frente a las estafas relacionadas con ChatGPT. Es importante señalar que los indicadores maliciosos mencionados están cubiertos por estos servicios de seguridad», destaca Ramírez.
Acerca de Palo Alto Networks
Palo Alto Networks es el líder mundial en ciberseguridad. Innovamos para superar las ciberamenazas, de modo que las organizaciones puedan adoptar la tecnología con confianza. Proporcionamos ciberseguridad de próxima generación a miles de clientes en todo el mundo, en todos los sectores. Nuestras mejores plataformas y servicios de ciberseguridad están respaldados por inteligencia de amenazas líder en la industria y fortalecidos por una automatización de vanguardia.
Palo Alto Networks, Prisma y el logotipo de Palo Alto Networks son marcas comerciales registradas de Palo Alto Networks, Inc. en los Estados Unidos y en jurisdicciones de todo el mundo. Todas las demás marcas comerciales, nombres comerciales o marcas de servicio utilizadas o mencionadas en este documento pertenecen a sus respectivos propietarios. Cualquier servicio o característica no publicada (y cualquier servicio o característica que no esté generalmente disponible para los clientes) a los que se hace referencia en este u otros comunicados de prensa o declaraciones públicas no están disponibles actualmente (o aún no están disponibles para los clientes) y es posible que no se entreguen cuando se espera o en absoluto. Los clientes que compran aplicaciones de Palo Alto Networks deben tomar sus decisiones de compra basadas en los servicios y características actualmente disponibles con carácter general.
Contacto de prensa paloaltonetworks_latam@sherlockcomms.com
Equipo Prensa
Portal Innova
