Por: Vasu Jakkal, vicepresidenta corporativa de seguridad, cumplimiento, identidad y gestión.
La IA transforma nuestro mundo, a través de desbloquear nuevas posibilidades para mejorar las capacidades humanas y ampliar las oportunidades a nivel mundial. Al mismo tiempo, también nos enfrentamos a un panorama de amenazas sin precedentes con la velocidad, la escala y la sofisticación de los ataques que aumentan con rapidez. Para hacer frente a estos desafíos, debemos asegurarnos de que la IA se construya, implemente y utilice de manera responsable con la seguridad y la protección en su núcleo. Y es más importante que nunca aprovechar la IA para empoderar a todos los defensores e inclinar la balanza a su favor.
La seguridad es nuestra principal prioridad en Microsoft, por encima de todo, y nuestra iniciativa ampliada Secure Future Initiative (Iniciativa de Futuro Seguro) subraya nuestro compromiso de toda la empresa de hacer del mundo un lugar más seguro para todos. Estoy orgullosa de que Microsoft dé prioridad a la seguridad en la era de la IA, a medida que continuamos con las innovaciones con una mentalidad que prioriza la seguridad.
Hoy en día, hay nuevas funcionalidades disponibles en Microsoft Defender y Microsoft Purview para ayudar a las organizaciones a proteger y controlar las aplicaciones de IA generativa en el trabajo. Estas versiones ofrecen herramientas de políticas diseñadas de manera especial y una mejor visibilidad para ayudarlos a proteger y controlar las aplicaciones de IA generativa y sus datos. También ofrecemos una nueva experiencia unificada para el analista de seguridad e integramos Microsoft Copilot for Security en toda nuestra cartera de productos de seguridad.
Podrán ver de primera mano estas innovaciones y mucho más en toda la cartera de seguridad de Microsoft en RSA Conference (RSAC). También espero que se unan a mí el martes 7 de mayo de 2024 para «Asegurar la IA: lo que hemos aprendido y lo que viene después«, para explorar las estrategias que cada organización puede implementar para diseñar, implementar y gobernar la IA de forma segura.
Protejan su transformación de IA con Microsoft Security
Dondequiera que se encuentre su organización en su transformación de IA, necesitarán controles de seguridad integrales para gobernar de forma segura sus aplicaciones y datos de IA a lo largo de su ciclo de vida: desarrollo, implementación y tiempo de ejecución.
Con las nuevas capacidades anunciadas hoy, Microsoft se convierte en el primer proveedor de seguridad en ofrecer una gestión integral de la postura de seguridad de la IA, protección contra amenazas, seguridad de los datos y gobernanza para la IA.
Descubran nuevas superficies de ataque de IA, refuercen su posición de seguridad de IA y protejan las aplicaciones de IA contra amenazas con Microsoft Defender for Cloud. Ahora, los equipos de seguridad pueden identificar toda su infraestructura de IA, como complementos, SDK y otras tecnologías de IA, con capacidades de administración de la postura de seguridad de IA en plataformas como Microsoft Azure OpenAI Service, Azure Machine Learning y Amazon Bedrock. Pueden identificar de manera continua los riesgos, trazar rutas de ataque y utilizar las mejores prácticas de seguridad integradas para evitar ataques directos e indirectos a las aplicaciones de IA, desde el desarrollo hasta el tiempo de ejecución.
Integrado con los servicios de inteligencia artificial de Microsoft Azure, incluidos Microsoft Azure AI Content Safety y Azure OpenAI, Defender for Cloud supervisará de manera continua las aplicaciones de inteligencia artificial en busca de actividad anómala, correlacionará los hallazgos y enriquecerá las alertas de seguridad con pruebas de respaldo. Defender for Cloud es la primera plataforma de protección de aplicaciones nativas de la nube (CNAPP, por sus siglas en inglés) que ofrece protección contra amenazas para cargas de trabajo de IA en tiempo de ejecución, lo que proporciona a los analistas del centro de operaciones de seguridad (SOC, por sus siglas en inglés) nuevas detecciones que alertan sobre actividades maliciosas y amenazas activas, como ataques de jailbreak, robo de credenciales y fuga de datos confidenciales. Además, los analistas de SOC podrán facilitar la respuesta a incidentes con la integración nativa de estas señales en Microsoft Defender XDR.
Identifiquen y mitiguen los riesgos de seguridad de datos y cumplimiento de datos con Microsoft Purview. Brinden a sus equipos de seguridad una mayor visibilidad y comprensión de qué aplicaciones de IA se utilizan y cómo ayudarlos a proteger sus datos de manera efectiva en la era de la IA. Microsoft Purview AI Hub, ahora en versión preliminar, ofrece información como datos confidenciales compartidos con aplicaciones de IA, el número total de usuarios que interactúan con aplicaciones de IA y su nivel de riesgo asociado, etc. Para evitar el posible uso compartido excesivo de datos confidenciales, la nueva información ayuda a las organizaciones a identificar los archivos sin etiquetar a los que hace referencia Copilot y a priorizar la mitigación de los riesgos de uso compartido excesivo. Además, nos complace anunciar la versión preliminar de la información de uso no conforme en AI Hub para ayudar a los clientes a descubrir posibles interacciones de IA que violan las políticas empresariales y regulatorias en áreas como el odio y la discriminación, el sabotaje corporativo, el lavado de dinero y más.
Controlen el uso de la IA para cumplir con las directivas normativas con las nuevas evaluaciones de cumplimiento de la IA en Microsoft Purview. Entendemos lo importante que es cumplir con las regulaciones y lo complicado que puede ser implementar nuevas tecnologías. Hay disponibles cuatro nuevas plantillas de evaluación del Administrador de cumplimiento, ahora en versión preliminar, para ayudarles a evaluar, implementar y reforzar el cumplimiento de las normativas y estándares de IA, incluida la Ley de IA de la UE, NIST AI RMF, ISO/IEC 23894:2023 e ISO/IEC 42001. La nueva información de la evaluación también se mostrará en el Centro de IA de Purview, que proporciona acciones recomendadas para respaldar el cumplimiento a medida que ustedes incorporan e implementan soluciones de IA.
Juntos podemos ayudar a todos a aprovechar los beneficios de la IA, a través de abordar de manera cuidadosa los nuevos riesgos. Las nuevas funcionalidades de Microsoft Defender for Cloud y Microsoft Purview, que se basan en las innovaciones que compartimos en Microsoft Ignite 2023 y Microsoft Secure 2024, son avances importantes para capacitar a los equipos de seguridad para que descubran, protejan y gobiernen la IA, tanto si ustedes adoptan soluciones de IA de software como servicio (SaaS) como si crean las suyas propias.
Obtengan más información sobre todas las nuevas capacidades y características que les ayudan a proteger y controlar la IA.
Fortalecimiento de la seguridad de extremo a extremo con una plataforma de operaciones de seguridad unificada
Seguimos con la inversión en nuestro compromiso a largo plazo de proporcionarles la protección más completa de extremo a extremo para todo su patrimonio digital. Existe una necesidad inmediata de consolidación de herramientas e IA para obtener la velocidad y la escala necesarias para defenderse de estas nuevas amenazas digitales. Microsoft integra todas las herramientas básicas de SOC (administración de eventos e información de seguridad (SIEM, por sus siglas en inglés) nativa de la nube, detección y respuesta extendidas (XDR, por sus siglas en inglés) nativas integrales, administración de la postura de seguridad unificada e inteligencia artificial generativa) para ofrecer una verdadera protección contra amenazas de extremo a extremo en una sola plataforma, con un modelo de datos común y una experiencia de analista unificada.
La nueva experiencia de la plataforma de operaciones de seguridad unificada, en versión preliminar, transforma la experiencia de los analistas del mundo real con una experiencia de usuario simple y accesible que reúne todas las señales de seguridad y la inteligencia de amenazas que en la actualidad están atascadas en otras herramientas. Los analistas tendrán más contexto en cada etapa, con recomendaciones y sugerencias útiles para la automatización que hacen que la investigación y la respuesta sean más fáciles que nunca. También presentamos nuevas características en Microsoft Sentinel y Defender XDR, incluida la búsqueda global, las detecciones personalizadas y las reglas de automatización.
También nos complace anunciar una serie de nuevas características y capacidades adicionales que permitirán a su centro de operaciones de seguridad (SOC, por sus siglas en inglés) trabajar en todos los productos de seguridad de Microsoft para una seguridad de extremo a extremo más sólida.
- Las iniciativas de administración de exposiciones de seguridad de Microsoft ayudan a su equipo de seguridad a identificar exposiciones de riesgo e instancias de implementación insuficiente de controles de seguridad esenciales, para encontrar oportunidades de mejora.
- Los analistas de SOC ahora pueden usar información de riesgo interno como parte de su investigación en Microsoft Defender XDR.
- Microsoft Defender XDR se expande para incluir protección de tecnología operativa (OT, por sus siglas en inglés) nativa, lo que permite la correlación automática de la señal de amenazas de OT en incidentes entre cargas de trabajo y la capacidad de administrar vulnerabilidades del sistema de control industrial y de OT directo dentro de Defender XDR.
- La interrupción ampliada de los ataques en Microsoft Defender XDR, con tecnología de inteligencia artificial, aprendizaje automático e inteligencia sobre amenazas, cubrirá nuevos escenarios de ataque, como la deshabilitación de aplicaciones OAuth malintencionadas, y ampliará de manera significativa la interrupción del usuario en peligro, como las credenciales filtradas, el relleno y las adivinanzas.
- Microsoft Sentinel lanza optimizaciones de SOC para proporcionar instrucciones personalizadas para ayudar a administrar los costos, aumentar el valor de los datos ingeridos y mejorar la cobertura contra las técnicas de ataque comunes.
Integración ampliada de Microsoft Copilot for Security
Cuando se trata de dar soporte a los equipos de seguridad y aliviar la complejidad, Microsoft Copilot for Security ofrece una gran ventaja. Una mayor integración de Copilot en toda la cartera de seguridad de Microsoft y más allá, proporciona experiencias integradas más ricas y capacidades de Copilot de productos conocidos y de confianza. Estamos orgullosos de anunciar las nuevas integraciones de Microsoft Copilot for Security, que incluyen Purview, nuevos complementos de socios, Azure Firewall y Azure Web Application Firewall. Estas integraciones proporcionan a sus equipos de seguridad orientación en tiempo real, información de investigación más profunda y acceso ampliado a los datos de todo su entorno.
Seguridad para la era de la IA
Una plataforma de seguridad de extremo a extremo será un factor determinante en la transformación de cada organización y desempeñará un papel fundamental en la durabilidad de la innovación impulsada por la IA. Las organizaciones que se centren en proteger la IA e inviertan en el uso de la IA para reforzar la seguridad serán los líderes duraderos en sus sectores y mercados. Microsoft se compromete a empoderar a estos líderes de la industria y del mercado con soluciones de seguridad que puedan ayudarlos a lograr más. Reunimos cuatro ventajas críticas: datos a gran escala e inteligencia de amenazas; la plataforma end-to-end más completa; IA responsable y líder en la industria; y herramientas para ayudarles a proteger y gobernar la IA.
Con la disponibilidad general de Copilot for Security, Microsoft ha cumplido su promesa de poner la IA generativa líder del sector en manos de profesionales de TI y seguridad de todos los niveles de experiencia. Ahora, con el lanzamiento de hoy de nuevas funcionalidades en Defender for Cloud y Microsoft Purview, también cumplimos con nuestro compromiso de capacitar a los equipos de TI y seguridad con las herramientas que necesitan para aprovechar la IA de forma segura, responsable y protegida.
Por último, y lo que es más importante, la seguridad es un deporte de equipo. Esperamos trabajar junto con la industria y nuestros socios en el avance de la seguridad cibernética para todos.
Espero que se conecten con nosotros en RSAC esta semana, donde demostraremos nuestra cartera de seguridad integral y cómo los ayuda a proteger su entorno desde todos los ángulos para prepararse y adoptar e implementar IA con confianza.
Conozcan más
Para obtener más información sobre las soluciones de seguridad de Microsoft, visiten nuestro sitio web. Agreguen a Favoritos el blog de seguridad para mantenerse al día con nuestra cobertura experta en asuntos de seguridad. Además, síganos en LinkedIn (Microsoft Security) y X (@MSFTSecurity) para conocer las últimas noticias y actualizaciones sobre ciberseguridad.