¿Estamos preparados para una nueva era de ciberataques impulsada por inteligencia artificial? Las alarmantes revelaciones de la conferencia Infosecurity Europe pintan un panorama donde los criminales ya están vendiendo y utilizando herramientas de IA a una escala industrial en la web oscura.
Un aumento del 3810% en solo meses
La investigadora Cynthia Kaiser, del Centro de Investigación de Ransomware de Halcyon y ex directora adjunta de cibernética del FBI, presentó datos escalofriantes. Su equipo analizó 4000 entradas, 77 canales de Telegram, 20 foros de la web oscura y cinco mercados clandestinos especializados.
Lo que descubrieron fue una explosión: las menciones a herramientas de IA para el cibercrimen pasaron de 38 en diciembre a 1486 en febrero.
«Eso es un aumento de más del 3810%«, explicó Kaiser. «Cuando llegan al mercado, estos servicios presentan distribución automatizada, opciones freemium y precios escalonados: la señal de un mercado sofisticado.»
Pero aquí está el detalle: la barrera financiera de entrada para los cibercriminales es ahora «virtualmente cero«, gracias a estas herramientas freemium ampliamente disponibles.
El arsenal del cibercrimen 2.0
Según Kaiser, las herramientas que se venden se dividen en cuatro categorías clave:
- LLM (Modelos de Lenguaje) armados: Modelos de IA entrenados en secreto para hacer daño, versiones hackeadas de herramientas legítimas sin sus «reglas y límites de seguridad», o nuevos sistemas creados desde cero, como WormGPT.
- Fraude de identidad potenciado por IA: Deepfakes de voz y vídeo para BEC, burlar KYC y engañar sistemas de reconocimiento facial. Kaiser reveló que estas herramientas ya pueden entrenarse con solo tres segundos de audio. Una herramienta mostrada afirma un 92% de éxito al burlar plataformas KYC.
- Malware e infraestructura aumentada con IA: Esto va más allá de la generación de texto para soportar uso operativo en vivo. Un ejemplo es un call center con IA que soporta 25 idiomas, entrenado en más de 150,000 llamadas, y que incluso produce ruido ambiente de fondo para tranquilizar a las víctimas.
- Servicios de IA ‘jailbroken’ o robados: Constituyen la mayoría de las ofertas y son los más baratos, desde 10 céntimos por una cuenta de ChatGPT robada. Existe una comunidad de cibercrimen «altamente organizada y activa» que ofrece IA manipulada.
Un sistema de distribución inquebrantable
Aquí está el factor más preocupante: la resiliencia. Los canales de distribución se respaldan unos a otros, creando una red casi imposible de erradicar. La distribución impulsada por bots de Telegram automatiza las ventas, el servicio al cliente y el seguimiento de pedidos, funcionando como «escaparates no atendidos».
«Si un nivel de pago se interrumpe, el nivel gratuito continúa distribuyendo. Si un sitio web se cae, el bot de Telegram continúa», dijo Kaiser. «Si el canal de Telegram es prohibido, el hilo del foro persiste, y si el foro es incautado, el sitio web sobrevive. Cada canal es una copia de seguridad de los demás.»
La amenaza ya está en tu escritorio: el caso ‘JustAskJacky’
Mientras tanto, investigadores de Microsoft presentaron un caso real y tangible. Detallaron una campaña llamada ‘JustAskJacky’ que engaña a los usuarios para que descarguen lo que parece un asistente de IA legítimo, pero que en realidad es una puerta trasera para entregar malware.
Lo más inquietante: la aplicación maliciosa tenía interfaces de aspecto profesional y firmas digitales válidas, lo que dificultaba que tanto usuarios como herramientas de seguridad la distinguieran del software legítimo.
«Encontramos esta aplicación haciéndose pasar por un asistente de IA para ayudar en los flujos de trabajo del día a día», explicó Meaghan Bradshaw, investigadora principal de seguridad de Microsoft. «Durante la instalación, se despliega una puerta trasera escrita en Java, junto con un mecanismo de persistencia que crea una tarea programada que se ejecuta cada cuatro horas.»
La defensa comienza con una mentalidad proactiva
Frente a este panorama, los expertos coinciden en que la defensa debe ser multifacética y coordinada. Cynthia Kaiser enumeró cuatro frentes clave para las organizaciones:
- Defenderse contra un aumento en el volumen de actores de baja capacidad, junto con la presión continua de grupos sofisticados.
- Reorientar a la sociedad en torno a las llamadas telefónicas como un vector de ataque primario, lo que significa crear conciencia y rediseñar los protocolos de verificación.
- Estar preparados para detener ataques rápidos, acelerados por IA, con protección conductual basada en IA, y aislamiento automatizado, revocación de tokens e inhabilitación de credenciales.
Pero el cuarto punto es quizás el más crítico: trabajar mejor juntos.
«Esto es realmente un problema de política y asociación tanto como técnico», afirmó Kaiser. «La interrupción efectiva de este mercado requiere coordinación entre defensores, proveedores de modelos, procesadores de pagos e infraestructura de hosting.»
Desde Microsoft, Mary Asaolu, investigadora senior de seguridad, dio el consejo práctico: «Proporcionar una hoja de ruta clara para una adopción segura». Esto significa hacer de la seguridad de la IA una prioridad de liderazgo, asegurando revisiones de seguridad y llevando el tema al nivel de la junta directiva.
La buena noticia, concluyó Kaiser, es que «el mismo trabajo de inteligencia que revela cómo operan estos mercados también revela dónde son vulnerables». La presión financiera y la interrupción por parte de las fuerzas del orden pueden causar una fricción real. El conocimiento es, una vez más, la primera y más poderosa línea de defensa.
