Por: Microsoft 365 Defender Research Team
Todos los días, en el panorama tecnológico en constante cambio, vemos que los límites cambian a medida que las nuevas ideas desafían el antiguo status quo. Este cambio constante se observa en las herramientas, productos y servicios cada vez más sofisticados y conectados que las personas y las organizaciones utilizan a diario, pero también en la seguridad que debe integrarse en estas tecnologías para protegerlos contra los adversarios que intentan abusar de las mismas tecnologías para propósitos nefastos.
En Microsoft, estamos comprometidos a aprovechar el inmenso potencial de la IA para ayudar a resolver muchas de nuestras inquietudes tecnológicas en la actualidad. Creemos que trabajar en la “vanguardia” ofrece una de las mejores formas de servir a nuestros clientes y al ecosistema en general, y la IA es clave para avanzar en nuestra comprensión y capacidades técnicas en muchas áreas complejas de ciberseguridad.
También valoramos trabajar con la comunidad de expertos, investigadores y científicos de datos para resolver diversos desafíos de tecnología y seguridad y construir defensas sólidas contra escenarios de amenazas de seguridad actuales y futuras. Siempre hemos defendido y apoyado nuevas investigaciones sobre el uso de la tecnología de la manera más segura posible, y hemos tenido un gran éxito en la colaboración con universidades y el patrocinio de investigaciones académicas.
En abril de 2021, con el objetivo de apoyar la exploración académica de nuevos conocimientos y capacidades para beneficiar a la comunidad en general, solicitamos propuestas para la investigación académica de IA sobre la amenaza del phishing y los enfoques para defenderse. El alcance de esta solicitud de propuestas (RFP, por sus siglas en inglés) incluyó ampliar la comprensión existente del gráfico de comunicación, el correo electrónico y el contenido web, la economía del phishing y generar innovación para proteger a las organizaciones frente a ataques cada vez más sofisticados, al tiempo que brinda garantías de equidad y privacidad.
Es por eso que ahora es un gran placer anunciar a los ganadores de la RFP de inteligencia artificial de seguridad de Microsoft:
Amin Kharraz
Universidad Internacional de Florida
Título: WEBHASH: Un enfoque de aprendizaje profundo espacio-temporal para detectar ataques de ingeniería social
Resumen: Los ataques de ingeniería social se mantienen como una de las principales amenazas para la seguridad. El impacto de estos ataques suele ser profundo y consecuente. Los ataques de ingeniería social modernos han evolucionado para ofrecer diferentes clases de código malicioso al tiempo que recopilan una amplia información financiera y personal. Por desgracia, los mecanismos actuales son lamentablemente inadecuados para identificar y razonar sobre tales operaciones adversas, lo que deja a las organizaciones y los usuarios finales expuestos a una variedad de ataques consecuentes. El objetivo de este proyecto es diseñar principios que guiarán el desarrollo de un enfoque no supervisado para identificar de manera automática las desviaciones temporales y detectar tendencias emergentes en el panorama de ataques de ingeniería social. La idea central de nuestra investigación es que la mayoría de las campañas de ingeniería social rara vez cambian las técnicas de desarrollo de software subyacentes para construir sus páginas de ataque y tienden a reutilizar patrones de desarrollo web específicos para generar un conjunto diverso de páginas de ataque. En esta propuesta, desarrollamos un novedoso mecanismo de hash de similitud, llamado WEBHASH, que tiene en cuenta las características espacio-temporales de un sitio web de destino y las convierte en un vector que facilita una atribución de bajo costo y pruebas de similitud a escala. Aprovecharemos los avances en el aprendizaje automático e incorporaremos redes neuronales siamesas (SNN, por sus siglas en inglés) para realizar pruebas de similitud sin supervisión en los datos vectorizados. Postulamos que se pueden realizar una serie de actividades útiles con WEBHASH. Al desarrollar plataformas de detección y mitigación de baja latencia para ataques de ingeniería social, podemos proteger mejor a las organizaciones e instituciones de las filtraciones de datos y reducir la exposición de los usuarios a los ataques de ingeniería social modernos. WEBHASH también permite aproximar la prevalencia de una amenaza emergente de ingeniería social o la adopción de nuevas técnicas de ataque en diferentes campañas con una mínima intervención humana.
Zhou Li y Yanning Shen
Universidad de California en Irvine
Título: Aprendizaje de gráficos escalables para la detección automática de spearphishing
Resumen: En este proyecto, abordaremos el problema de la detección automática de spearphishing. El spearphishing se ha convertido en un vector de ataque principal para perpetuar las entidades en los sectores público y privado, lo que genera miles de millones de dólares perdidos cada año. Debido a los trucos avanzados de ingeniería social realizados por los atacantes, los correos electrónicos de spearphishing a menudo son evasivos, difíciles de capturar con los enfoques existentes basados en la detección de malware, listas negras de remitentes / dominios y más. Para abordar esta amenaza urgente, exploraremos cómo adaptar algoritmos de aprendizaje de gráficos de última generación. En particular, primero investigaremos cómo modelar los datos del correo electrónico como un gráfico, de modo que se puedan distinguir los imitadores de spearphishing. Luego, construiremos un sistema de detección con aprendizaje multi-kernel para capturar la compleja relación entre los usuarios de correo electrónico y sus comportamientos de envío. Para una detección oportuna, examinaremos cómo el clasificador entrenado se puede actualizar en línea con la estimación de funciones basada en características aleatorias. Por último, derivaremos la relación entre diferentes estimadores de funciones y los niveles de privacidad. Esperamos que este proyecto tenga un impacto profundo en la seguridad del correo electrónico y la investigación en el aprendizaje de gráficos.
Este anuncio marca el comienzo de nuevas oportunidades para la investigación académica colaborativa sobre el complejo y dinámico espacio de problemas asociados con el phishing. Sigan a @MsftSecIntel para seguir el progreso de estos proyectos de investigación.
Como parte de nuestro compromiso de contribuir al conocimiento de la industria, la propiedad intelectual (IP) nueva resultante de este programa se pondrá a disposición del público para que cualquier investigador, desarrollador o parte interesada pueda acceder.
¡Felicitaciones a los ganadores! Estamos ansiosos por trabajar con ustedes para inventar juntos el futuro de la seguridad.
