Ciberseguridad e inteligencia artificial: las amenazas avanzan más rápido que las defensas

La inteligencia artificial está transformando la manera en que las empresas trabajan, automatizan procesos y gestionan su información. Sin embargo, esta evolución también está modificando el panorama de la ciberseguridad: aparecen nuevas superficies de ataque, aumentan los riesgos asociados con los agentes de IA y los equipos de seguridad deben responder a amenazas que evolucionan a una velocidad cada vez mayor.

El problema no se limita al uso de herramientas de inteligencia artificial por parte de los ciberdelincuentes. También incluye la velocidad con la que se descubren y explotan vulnerabilidades, la sofisticación de los ataques de phishing y el riesgo de que una cuenta comprometida permita acceder a información o sistemas críticos.

El Informe de Defensa Digital de Microsoft ofrece una perspectiva sobre estos desafíos a partir de las señales de seguridad que la compañía analiza diariamente.

Sus hallazgos ponen sobre la mesa una preocupación fundamental: la capacidad de los atacantes para aprovechar las debilidades de una organización puede avanzar más rápido que los procesos tradicionales de prevención, detección y corrección.

En un escenario donde la IA comienza a integrarse en aplicaciones, servicios y flujos de trabajo empresariales, mantenerse protegido exige mucho más que instalar herramientas de seguridad. Las organizaciones necesitan reducir sus tiempos de respuesta, identificar los riesgos prioritarios y evitar que un incidente aislado se convierta en una brecha de gran alcance.

Conclusiones Clave

• La velocidad de explotación reduce el margen de respuesta: las vulnerabilidades pueden convertirse en oportunidades de ataque antes de que las organizaciones completen sus procesos de corrección.
• La IA amplía la superficie de ataque: los agentes y las cargas de trabajo de inteligencia artificial introducen nuevos riesgos relacionados con instrucciones maliciosas, exposición de datos y robo de credenciales.
• El phishing sigue siendo una amenaza crítica: la suplantación de identidad y las técnicas diseñadas para engañar a los usuarios continúan poniendo en riesgo las cuentas empresariales.
• El ransomware mantiene la presión: las organizaciones necesitan combinar prevención, detección y capacidad de respuesta para reducir el impacto de los incidentes.

La defensa debe evolucionar: priorizar vulnerabilidades, proteger identidades y supervisar la actividad de los sistemas son medidas esenciales para responder a amenazas cada vez más dinámicas.

1. Vulnerabilidades: cuando los atacantes ganan tiempo frente a los defensores

En ciberseguridad, el tiempo puede determinar la diferencia entre una vulnerabilidad controlada y un incidente que afecta a toda una organización.

Cuando se descubre una debilidad en un sistema, los responsables de TI necesitan evaluar su gravedad, identificar los equipos afectados, probar las actualizaciones correspondientes y aplicar las correcciones necesarias.

Este proceso requiere coordinación y, en ocasiones, debe realizarse con precaución para evitar interrupciones en los servicios críticos.

Los atacantes, por el contrario, solo necesitan encontrar una oportunidad que puedan aprovechar.

De acuerdo con las cifras citadas en el texto original del informe de Microsoft, el tiempo medio de remediación empresarial para vulnerabilidades críticas externas se sitúa entre 30 y 60 días, mientras que el tiempo medio hasta la explotación puede ser de apenas cinco días.

La diferencia es significativa: una vulnerabilidad podría ser explotada mucho antes de que una organización complete su proceso habitual de corrección.

El riesgo también se manifiesta en los entornos de contenedores. El texto señala que el tiempo medio entre el inicio de un contenedor y el primer intento de explotación es de aproximadamente 5,3 horas, y que más de la mitad de los contenedores comprometidos son objeto de explotación en menos de 24 horas.

Estas cifras ilustran la importancia de proteger no solo los equipos tradicionales, sino también las aplicaciones, los servicios en la nube y las cargas de trabajo que forman parte de la infraestructura empresarial.

¿Qué cambia con la inteligencia artificial?

La IA puede facilitar tareas como el análisis de código, la identificación de patrones y la investigación de posibles vulnerabilidades. Estas capacidades pueden beneficiar tanto a los equipos defensivos como a los actores maliciosos.

Aunque no es posible atribuir automáticamente la reducción de los tiempos de explotación a la inteligencia artificial, su evolución plantea un escenario que merece atención.

Si las herramientas avanzadas permiten automatizar más etapas del análisis de vulnerabilidades y del desarrollo de exploits, los atacantes podrían reducir todavía más el tiempo necesario para convertir una debilidad técnica en un ataque efectivo.

Para las empresas, esto significa que los procesos de actualización basados exclusivamente en revisiones periódicas podrían resultar insuficientes frente a determinadas amenazas.

La respuesta consiste en adoptar una gestión de vulnerabilidades basada en el riesgo, priorizando las debilidades críticas, los sistemas expuestos y aquellas vulnerabilidades que presentan indicios de explotación activa.

No todas las vulnerabilidades requieren la misma urgencia. Sin embargo, las que afectan a sistemas accesibles desde internet o a servicios esenciales deben recibir una atención prioritaria.

2. Los agentes de IA abren nuevas puertas para los ciberdelincuentes

La inteligencia artificial ya no se limita a responder preguntas o generar contenido. Cada vez más organizaciones exploran agentes capaces de consultar información, utilizar herramientas, interactuar con aplicaciones y ejecutar tareas dentro de sus flujos de trabajo.

Esta evolución ofrece oportunidades importantes para mejorar la productividad, pero también introduce riesgos que deben considerarse desde el diseño y la implementación de cada solución.

Un agente de IA puede tener acceso a documentos, servicios empresariales, bases de datos o herramientas internas. Si sus permisos son excesivos o sus mecanismos de protección resultan insuficientes, una interacción maliciosa podría provocar consecuencias que van mucho más allá de una respuesta incorrecta.

Entre los riesgos más relevantes destacan los siguientes.

Inyección de instrucciones maliciosas

Los atacantes pueden intentar introducir instrucciones manipuladas en documentos, páginas web, correos electrónicos u otras fuentes que un sistema de IA utiliza para procesar información.

Si el agente no distingue adecuadamente entre contenido que debe analizar e instrucciones que puede ejecutar, podría ser inducido a realizar acciones no deseadas.

Este tipo de amenaza se relaciona con la inyección de instrucciones, conocida como prompt injection.

El problema no es únicamente que el sistema genere una respuesta equivocada. Si dispone de herramientas o permisos para interactuar con otros sistemas, una instrucción maliciosa podría intentar aprovechar esas capacidades.

Exposición y extracción de información

Un agente que accede a información empresarial puede convertirse en un objetivo atractivo para los atacantes.

Si sus controles de acceso, políticas de uso o mecanismos de protección son insuficientes, existe el riesgo de que información confidencial termine expuesta a usuarios no autorizados o se transmita a destinos externos.

Por ello, es fundamental limitar los datos a los que puede acceder cada agente y controlar qué acciones tiene permitido realizar.

Robo de credenciales y abuso de permisos

Los agentes de IA pueden depender de credenciales, tokens y otros mecanismos de autenticación para acceder a los servicios que necesitan.

Si un atacante consigue comprometer esas credenciales, podría intentar utilizarlas para acceder a recursos empresariales o ejecutar acciones con los privilegios asociados a la identidad comprometida.

Este escenario refuerza una lección esencial: proteger los modelos de IA no es suficiente si las identidades, las credenciales y los sistemas con los que interactúan permanecen expuestos.

Una superficie de ataque en expansión

Según las cifras recogidas en el texto original, el 82 % de las organizaciones planea ampliar la implementación de agentes de IA durante los siguientes 12 a 18 meses. El mismo texto proyecta que para 2028 podrían existir aproximadamente 1.300 millones de agentes en producción.

Estas cifras deben interpretarse como indicadores de adopción prevista, no como una garantía de que todas esas implementaciones se materializarán.

Aun así, la dirección es clara: conforme aumenta el uso de agentes de IA, también crece la necesidad de controlar sus accesos, supervisar sus acciones y establecer límites sobre las tareas que pueden ejecutar.

Cada nuevo agente debe tratarse como parte de la infraestructura tecnológica de la organización, con sus propios requisitos de identidad, permisos, supervisión y protección.

3. Phishing y suplantación de identidad: el factor humano sigue bajo presión

Mientras las organizaciones se preparan para nuevas amenazas impulsadas por IA, los ciberdelincuentes continúan aprovechando uno de los puntos más vulnerables de cualquier estrategia de seguridad: la confianza.

Los ataques de phishing buscan engañar a los usuarios para que revelen información, entreguen sus credenciales, descarguen archivos maliciosos o autoricen acciones que favorecen al atacante.

Estas campañas pueden recurrir a correos electrónicos, llamadas, mensajes y páginas web diseñadas para parecer legítimas.

La inteligencia artificial añade nuevas posibilidades a este panorama. Puede ayudar a producir mensajes más convincentes, adaptar el contenido a diferentes destinatarios y automatizar determinadas tareas de preparación de campañas maliciosas.

Sin embargo, el phishing no necesita recurrir a tecnologías avanzadas para resultar efectivo. Un mensaje que suplanta a un proveedor, una solicitud de pago aparentemente legítima o una alerta falsa de acceso pueden ser suficientes para provocar un incidente.

Las cifras que reflejan la magnitud del problema

El texto original atribuye al informe de Microsoft varios indicadores relevantes:

• Los ataques de phishing que utilizan CAPTCHA superaron los 100 millones durante el periodo reportado.
• Se identificaron señales de suplantación de identidad en casi el 85 % de los correos electrónicos de phishing reportados.
• La suplantación de contactos comerciales superó los 46 millones de ataques durante los últimos 12 meses.
• El volumen de llamadas maliciosas confirmadas en Microsoft Teams aumentó un 502 % interanual.

Es importante verificar el periodo de medición y la definición de cada categoría en la publicación original de Microsoft antes de utilizar estas cifras como datos definitivos.

Más allá de los números, los ejemplos ilustran cómo los atacantes pueden combinar diferentes canales para engañar a sus víctimas y aumentar las posibilidades de éxito.

Un correo electrónico puede iniciar el contacto, una llamada puede aportar una falsa sensación de legitimidad y una solicitud urgente puede presionar al usuario para que actúe sin comprobar la identidad del remitente.

Por eso, la protección contra el phishing debe ir más allá de la capacitación de los empleados.

Las organizaciones necesitan combinar formación, autenticación multifactor, controles de correo electrónico, protección de identidades y mecanismos para detectar actividades sospechosas.

También conviene establecer procedimientos para verificar solicitudes sensibles, especialmente aquellas relacionadas con pagos, cambios de cuentas bancarias, restablecimiento de contraseñas o acceso a información confidencial.

4. Ransomware: una amenaza que sigue poniendo en riesgo la continuidad del negocio

El ransomware continúa siendo uno de los riesgos más relevantes para las organizaciones debido a su capacidad para interrumpir operaciones, afectar la disponibilidad de la información y generar elevados costes de recuperación.

Estos ataques pueden comenzar mediante credenciales comprometidas, vulnerabilidades sin corregir, correos electrónicos maliciosos o accesos remotos insuficientemente protegidos.

Una vez dentro de la infraestructura, los atacantes pueden intentar ampliar sus privilegios, acceder a sistemas adicionales y localizar información de alto valor antes de desplegar el ransomware.

En determinados incidentes, también sustraen información para presionar a la víctima mediante amenazas de publicación o divulgación.

El problema es que una infección no siempre permanece limitada al equipo donde comenzó. Si existen permisos excesivos, conexiones internas sin restricciones o controles de seguridad insuficientes, el incidente puede extenderse a otros sistemas.

De acuerdo con el texto original, Microsoft Defender registró un aumento interanual del 15,8 % en los ataques de ransomware contra empresas.

Esta cifra debe verificarse en el informe original y entenderse dentro de la metodología utilizada para contabilizar los ataques. No obstante, el ransomware sigue siendo una amenaza que exige preparación constante.