El uso de IA en la inteligencia de amenazas: oportunidades y riesgos

23/09/2026

La inteligencia artificial entró en la inteligencia de amenazas por dos puertas a la vez: como herramienta defensiva, capaz de detectar patrones anómalos en volúmenes de datos que ningún analista humano podría revisar manualmente, y como herramienta que actores maliciosos ya están usando de forma documentada para hacer más eficiente su propio trabajo. Entender ambas caras, con casos reales y no solo especulación, es necesario para evaluar con criterio qué tan real es cada uno de esos dos escenarios.

El caso documentado más citado: Microsoft y OpenAI, febrero de 2024

En febrero de 2024, Microsoft y OpenAI publicaron conjuntamente un informe detallando cómo cinco grupos de actores de amenazas vinculados a distintos estados (incluyendo grupos identificados por Microsoft bajo los nombres Forest Blizzard, vinculado a inteligencia militar rusa, y Charcoal Typhoon y Salmon Typhoon, vinculados a China) habían usado cuentas de ChatGPT para tareas de apoyo a sus operaciones: investigación de organizaciones y tecnologías objetivo, traducción y mejora de textos para campañas de ingeniería social, y asistencia en la depuración de código para scripts y herramientas. El informe fue explícito en aclarar que no se detectó el uso de estos modelos para desarrollar malware significativamente novedoso, sino principalmente para acelerar tareas de investigación y redacción que antes requerían más tiempo humano, y que las cuentas identificadas fueron desactivadas apenas se confirmó su uso.

Por qué este caso es más revelador que alarmante

Lo más interesante de ese reporte conjunto, desde una perspectiva de threat intelligence, no es que actores estatales usen inteligencia artificial (algo esperable dado que cualquier herramienta de productividad tiende a ser adoptada también por actores maliciosos), sino el tipo específico de uso documentado: principalmente investigación y redacción, es decir, tareas que aceleran el trabajo de reconocimiento y de ingeniería social, no la creación de capacidades técnicas ofensivas radicalmente nuevas. Esto sugiere que, al menos en la etapa actual de la tecnología, la inteligencia artificial funciona más como un multiplicador de eficiencia sobre técnicas ya conocidas, que como una fuente de amenazas fundamentalmente nuevas, algo que ayuda a calibrar el nivel de preocupación de forma más precisa que los titulares alarmistas que suelen acompañar este tema.

El lado defensivo: detección de anomalías a escala

Del lado defensivo, el uso más consolidado y probado de inteligencia artificial en threat intelligence es la detección de anomalías en grandes volúmenes de tráfico de red y de registros de actividad (logs), una tarea que por su volumen resulta materialmente imposible de revisar manualmente en organizaciones de tamaño mediano o grande. Modelos de aprendizaje automático entrenados sobre patrones de comportamiento normal de una red pueden señalar desviaciones sutiles (un usuario que accede a sistemas fuera de su patrón habitual, un volumen de transferencia de datos anómalo hacia un destino externo) que reglas estáticas tradicionales, basadas en firmas conocidas, simplemente no detectan porque no coinciden con ningún patrón de ataque previamente catalogado.

El riesgo de la sobreconfianza en sistemas automatizados

Un riesgo real, y menos discutido que las capacidades ofensivas de la IA, es la sobreconfianza organizacional en sistemas automatizados de detección, asumiendo que reemplazan por completo el criterio humano. Los modelos de aprendizaje automático generan tanto falsos positivos (alertas sobre actividad legítima) como falsos negativos (actividad maliciosa que no coincide con los patrones aprendidos y por lo tanto pasa desapercibida), y ningún proveedor serio de tecnología de seguridad afirma que estos sistemas eliminen la necesidad de análisis humano experto; los presentan, correctamente, como una herramienta que amplía la capacidad de un equipo humano, no como un reemplazo de ese equipo.

Deepfakes como vector de ingeniería social

Un área donde la inteligencia artificial sí introdujo una capacidad genuinamente nueva es la generación de audio y video sintético (deepfakes) usado para fraude de ingeniería social. Un caso documentado ampliamente por The Wall Street Journal en 2019 describió cómo estafadores usaron audio generado por IA para imitar la voz de un director ejecutivo y engañar a un empleado para que transfiriera fondos de forma urgente, una técnica que desde entonces se replicó en distintas variantes contra organizaciones de diversos tamaños. Este tipo de fraude, a diferencia del uso de IA para investigación descrito en el reporte de Microsoft y OpenAI, sí representa una capacidad técnica cualitativamente nueva que la ingeniería social tradicional no tenía disponible hace apenas algunos años.

Cómo evaluar afirmaciones sobre "IA en ciberseguridad" con criterio

Dado que el tema genera mucho interés mediático, conviene aplicar el mismo criterio de verificación que a cualquier otra afirmación de threat intelligence: preferir reportes con evidencia técnica específica y verificable (como el informe conjunto de Microsoft y OpenAI, que detalló indicadores concretos) por sobre afirmaciones genéricas sobre "el auge de los ciberataques con IA" sin ningún caso documentado que las respalde. La disciplina de fuentes múltiples y niveles de confianza explícitos, ya mencionada en otros artículos de esta serie, aplica exactamente igual quí: una alerta grave sobre IA maliciosa merece el mismo escrutinio de fuentes que cualquier otra afirmación de inteligencia.

Qué esperar de acá en adelante

Es razonable anticipar que tanto el uso defensivo como el ofensivo de la inteligencia artificial en esta disciplina va a seguir creciendo, en la medida en que la tecnología subyacente mejore y se vuelva más accesible para ambos lados. Lo que no cambia, y probablemente no va a cambiar, es la necesidad de criterio humano experto para interpretar lo que estos sistemas señalan, y de una disciplina de verificación rigurosa antes de aceptar cualquier afirmación sobre capacidades nuevas, vengan de un atacante real documentado o de un titular que exagera una amenaza todavía hipotética.

El fin de la "señal delatora" más confiable del phishing tradicional

Durante años, una de las recomendaciones más repetidas en cualquier capacitación de concientización sobre phishing fue prestar atención a errores de ortografía y gramática torpe como señal de alerta, dado que buena parte de estas campañas se originaban en grupos que no escribían en el idioma nativo de sus víctimas. Varios proveedores de seguridad de correo electrónico, incluyendo reportes públicos de empresas como Darktrace y Proofpoint, vienen documentando desde la masificación de los modelos de lenguaje una caída notable en ese tipo de errores en campañas de phishing recientes, consistente con el uso de herramientas de generación de texto para redactar mensajes gramaticalmente correctos y bien localizados al idioma y al registro cultural de la víctima. Esto no vuelve indetectable al phishing (sigue habiendo otras señales técnicas y de contexto igual de válidas), pero sí obliga a actualizar las capacitaciones de concientización que todavía se apoyan principalmente en esa señal, cada vez menos confiable como indicador aislado.

Una distinción útil: IA como acelerador versus IA como capacidad nueva

Vale la pena cerrar retomando una distinción que atraviesa todo este artículo: en la gran mayoría de los casos documentados con evidencia sólida, la inteligencia artificial funciona como un acelerador de capacidades que un atacante ya tenía (investigar más rápido, escribir mejor, generar más variantes de un mismo ataque), no como el origen de una amenaza completamente nueva que antes fuera imposible. La excepción real y documentada a esa regla son los deepfakes de audio y video, que sí habilitan un tipo de engaño (suplantar la voz o la imagen de una persona específica de forma convincente) que técnicamente no existía antes de esta tecnología. Distinguir entre estas dos categorías, acelerador de lo conocido versus capacidad genuinamente nueva, ayuda a priorizar mejor los recursos defensivos: la mayoría del esfuerzo sigue rindiendo más si se invierte en los mismos controles ya conocidos (autenticación multifactor, verificación de identidad por un canal secundario ante solicitudes urgentes de transferencia), reservando atención especial y específica solo para el puñado de capacidades genuinamente nuevas que la IA sí introdujo.

El otro lado de la moneda: modelos entrenados para detectar contenido generado por IA

En paralelo al riesgo ofensivo, se desarrolló toda una línea de herramientas defensivas específicamente entrenadas para detectar contenido generado o alterado por inteligencia artificial: clasificadores de audio que buscan artefactos sutiles característicos de la síntesis de voz, y analizadores forenses de imagen que detectan inconsistencias en iluminación, reflejos o patrones de compresión típicos de contenido generado o manipulado digitalmente. Ninguna de estas herramientas es infalible, y su efectividad se degrada constantemente a medida que los modelos generativos mejoran, lo que convierte a esta área en una carrera armamentista técnica sostenida entre generación y detección, sin que ninguno de los dos lados obtenga una ventaja permanente.

Fuentes: Microsoft Threat Intelligence y OpenAI, "Staying ahead of threat actors in the age of AI" (informe conjunto, febrero de 2024); The Wall Street Journal, reportaje sobre fraude con audio deepfake dirigido a un ejecutivo (2019); reportes públicos de Darktrace y Proofpoint sobre la evolución de la calidad textual del phishing (2023-2025).

Más artículos del blog