Vasu Jakkal, Corporate Vice President, Security, Compliance, Identity, and Management de Microsoft
El mundo de la ciberseguridad está experimentando una profunda transformación. La IA está a la vanguardia de este cambio y tiene el potencial de capacitar a las organizaciones para neutralizar ciberataques a una gran velocidad, hacer frente a la escasez de talento especializado e impulsar la innovación y la eficiencia en ciberseguridad. Sin embargo, los adversarios también pueden utilizar la IA en sus ataques. Por eso, nunca ha sido tan importante para nosotros proteger nuestro mundo utilizando la IA al mismo tiempo que protegemos la IA en beneficio de la humanidad.
Hoy publicamos la sexta edición de Cyber Signals, en la que destacamos cómo estamos protegiendo las plataformas de Inteligencia Artificial de las amenazas emergentes relacionadas con los ciberataques por parte de estados-nación.
En colaboración con OpenAI, publicamos información sobre los actores de amenazas vinculados a estados y rastreados por Microsoft. Ejemplos de ellos son Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon, Salmon Typhoon, que han tratado de utilizar Modelos de Lenguaje Grandes (LLM) para intensificar sus ciberataques en curso. Esta importante investigación expone los primeros movimientos que observamos, en los que estos conocidos actores de amenazas se apoyan en la IA, y señala cómo bloqueamos su actividad para proteger las plataformas y a los usuarios de IA.
También anunciamos los principios de Microsoft, que guían nuestras acciones para mitigar los riesgos de las Amenazas Persistentes Avanzadas (APT por sus siglas en inglés) de los estados-nación, los Manipuladores Persistentes Avanzados (APM) y los grupos de ciberdelincuentes que utilizan plataformas y APIs para sacar partido a la IA. Estos principios incluyen la identificación y la acción contra los actores de amenazas maliciosos, la notificación a otros proveedores de servicios de IA, la colaboración con otras partes implicadas y la transparencia.
Además, Microsoft está ayudando a la comunidad de especialistas en seguridad a comprender y detectar las perspectivas emergentes de los LLM en los ataques. Seguimos colaborando con MITRE para integrar estas tácticas, técnicas y procedimientos (TTPs) relacionados con los LLM en el MITRE ATT&CK®framework o en la base de conocimientos MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems). Esta expansión estratégica refleja el compromiso no solo de rastrear y neutralizar amenazas, sino también de ser pioneros en el desarrollo de contramedidas en el cambiante panorama de las ciberoperaciones impulsadas por IA.
Esta edición de Cyber Signals también comparte información sobre cómo usamos la IA para proteger a Microsoft y cómo los actores de amenazas están usando la IA para refinar sus ataques.
Los ciberdelincuentes y los actores respaldados por estados recurren a la IA, incluidos los LLM, para mejorar su eficacia y aprovechar plataformas que puedan favorecer sus objetivos y técnicas de ataque. Aunque los motivos y la sofisticación de los actores de las amenazas varían, comparten estrategias comunes a la hora de desplegar ataques. Entre ellas se incluyen el estudio de las industrias, ubicaciones y relaciones de las víctimas potenciales; la creación de código, incluida la mejora de los scripts de software y el desarrollo de malware; y la asistencia en el aprendizaje y el uso de lenguajes tanto humano como de programación. Nuestra investigación con OpenAI no ha identificado ataques significativos que empleen los LLM que vigilamos de cerca.
Microsoft utiliza varios métodos para protegerse de este tipo de ciberamenazas, como la detección de amenazas mediante IA para identificar cambios en el uso de los recursos o el tráfico de la red; el análisis de comportamiento para hallar inicios de sesión de riesgo y comportamientos anómalos; modelos de machine learning para detectar inicios de sesión de riesgo y malware; Zero Trust, donde cada solicitud de acceso debe estar totalmente autenticada, autorizada y cifrada; y la verificación del estado de los dispositivos antes de que puedan conectarse a la red corporativa.
Además, la IA generativa tiene un potencial increíble para ayudar a todos los defensores a proteger sus organizaciones sobre la marcha. El papel de la IA en la ciberseguridad es polifacético, ya que impulsa la innovación y la eficiencia en diversos ámbitos. Desde la mejora de la detección de amenazas hasta la agilización de la respuesta ante incidentes, las capacidades de la IA están redefiniendo la ciberseguridad. El uso de LLM en este campo es un testimonio del potencial de la IA. Estos modelos pueden analizar grandes cantidades de datos para descubrir patrones y tendencias en las ciberamenazas, añadiendo un contexto valioso a la inteligencia sobre estas. Ayudan en tareas técnicas como la ingeniería inversa y el análisis de malware, proporcionando una nueva capa de defensa contra los ciberataques. Por ejemplo, los usuarios de Microsoft Copilot for Security han experimentado un aumento del 44% en la precisión en todas las tareas y un 26% más de rapidez a la hora de completarlas. Estas cifras ponen de relieve los beneficios tangibles de integrar la IA en las prácticas de ciberseguridad.
A medida que protegemos el futuro de la IA, debemos reconocer la doble naturaleza de la tecnología: aporta nuevas capacidades, así como nuevos riesgos. La IA no es solo una herramienta, sino un cambio de paradigma en la ciberseguridad. Nos capacita para defendernos de sofisticados ataques cibernéticos y adaptarnos al dinámico panorama de las amenazas. Al adoptar la IA, podemos contribuir para garantizar un futuro seguro para todos.
Para más información sobre la sexta edición de Cyber Signals, el informe de Microsoft sobre amenazas de seguridad, haz clic aquí.
Para más información:
- Visita la web de Seguridad de Microsoft
- Consulta el Microsoft Security Blog
- Permanece actualizado sobre las últimas novedades sobre ciberseguridad de la compañía siguiendo sus cuentas especializadas en LinkedIn y X.
© 2024 The MITRE Corporation. Este texto se reproduce y distribuye con el permiso de The MITRE Corporation.
