Los cibercriminales están explotando cada vez más plataformas generativas de inteligencia artificial para orquestar campañas de phishing sofisticadas que plantean desafíos sin precedentes para los mecanismos tradicionales de detección de seguridad.
La rápida proliferación de los servicios de Genai ha creado un ecosistema fértil para los actores de amenazas que aprovechan estas plataformas para generar contenido de phishing convincente, marcas de confianza clon y automatizar implementaciones maliciosas a gran escala con una mínima experiencia técnica.
El surgimiento de los servicios de IA basados en la web que ofrecen capacidades, como la creación automatizada de sitios web, la generación de idiomas naturales e interacción Chatbot, ha transformado fundamentalmente el panorama de amenazas.
Estas plataformas permiten a los atacantes producir sitios de phishing de aspecto profesional en segundos, utilizando imágenes y texto generados por IA que imitan estrechamente a las organizaciones legítimas.
La accesibilidad de estas herramientas ha reducido la barrera de entrada para los ciberdelincuentes, permitiendo que incluso los actores técnicamente poco sofisticados lanzaran ataques convincentes de ingeniería social.
Distribución de categorías de servicios de IA mal utilizados para ataques de phishing (fuente – Redes Palo Alto)
Los datos de telemetría recientes revelan un aumento dramático en la adopción de Genai en todas las industrias, con un uso más que duplicando dentro de seis meses.
Investigadores de Palo Alto Networks identificado que el sector de alta tecnología domina la utilización de la IA, representando más del 70% del uso total de la herramienta Genai.
Esta adopción generalizada ha creado inadvertidamente nuevos vectores de ataque a medida que los actores de amenaza explotan las mismas plataformas en las que los usuarios legítimos confían para la mejora de la productividad.
El análisis de las campañas de phishing revela que los generadores de sitios web representan la categoría de servicio de IA más explotada, que comprende aproximadamente el 40% del mal uso de Genai malicioso.
Los asistentes de escritura siguen al 30%, mientras que los chatbots representan casi el 11% de los ataques observados. Estas estadísticas subrayan la amplia gama de plataformas de IA que se están armando con fines maliciosos.
Generación de sitios web con AI: el vector de ataque principal
El mal uso de los constructores de sitios web con IA representa el vector de amenaza más significativo en este panorama en evolución.
Una breve descripción de nuestra empresa en un aviso del Builder del sitio web asistido por AI-AI (Fuente-Palo Alto Networks)
Los investigadores documentaron ejemplos del mundo real de sitios de phishing creados utilizando plataformas populares de generación de sitios web de IA capaces de producir sitios web funcionales en segundos.
La solicitud mejorada del Builder de sitios web asistido por AI (fuente-Palo Alto Networks)
Estas plataformas generalmente requieren una verificación mínima, a menudo aceptando cualquier dirección de correo electrónico válida sin confirmación del número de teléfono o verificación de identidad.
La metodología de ataque involucra a los actores de amenaza que ingresan descripciones breves de la compañía en indicaciones de IA, que generan automáticamente contenido integral del sitio web, incluidas imágenes profesionales, narraciones corporativas convencionales y descripciones de servicios detalladas.
Durante las pruebas, los investigadores demostraron cómo un indicador simple que describe una compañía de seguridad cibernética dio como resultado un sitio web completamente funcional completo con páginas de servicios de inteligencia de amenazas y descripciones de firewall de próxima generación que parecían legítimas a los observadores casuales.
Página web para tarjetas de regalo con descuento generadas en otro popular constructor de sitios web con AI (fuente-Palo Alto Networks)
Los sitios de phishing generados generalmente emplean un mecanismo de ataque de dos etapas. Las páginas de destino iniciales muestran mensajes genéricos como “tiene nuevos documentos” con botones prominentes de llamadas a acción.
Cuando las víctimas interactúan con estos elementos, se redirigen a sitios secundarios de recolección de credenciales diseñados para capturar credenciales de inicio de sesión para servicios populares como las plataformas de Microsoft.
Los ataques observados actualmente parecen relativamente rudimentarios, pero los expertos en seguridad anticipan mejoras de sofisticación significativas a medida que evolucionan los constructores de sitios web de IA.
La combinación de generación de contenido automatizado, requisitos mínimos de verificación de plataforma y mejoramiento rápidamente de capacidades de IA crea una trayectoria preocupante para una futura efectividad de phishing.
Aumente su SOC y ayude a su equipo a proteger su negocio con inteligencia gratuita de amenazas de primer nivel: Solicitar prueba de prueba premium de búsqueda TI.
