Por: Courtney Gregoire, directora de seguridad digital.
La explotación infantil en línea es un horroroso crimen que requiere un enfoque de toda la sociedad. Microsoft tiene un largo compromiso con la protección infantil en línea. Primero que nada, como empresa tecnológica, tenemos la responsabilidad de crear software, dispositivos y servicios que tengan funciones de seguridad integradas desde cero. Aprovechamos la tecnología en nuestros servicios para detectar, interrumpir y reportar contenido ilegal, incluida la explotación sexual infantil. Y también innovamos e invertimos en herramientas, tecnología y asociaciones para apoyar la lucha global necesaria para hacer frente a la explotación sexual infantil en línea.
Para promover esos compromisos, hoy Microsoft comparte una técnica de detección de grooming, con el nombre clave “Project Artemis”, a través de la cual los depredadores en línea que intenten atraer a los niños para propósitos sexuales puedan ser detectados, abordados y reportados. Desarrollada en colaboración con The Meet Group, Roblox, Kik y Thorn, esta técnica se basa en la tecnología patentada de Microsoft y estará disponible de manera gratuita a través de Thorn para compañías calificadas de servicios en línea que ofrezcan una función de chat. Thorn es una organización tecnológica no lucrativa que construye tecnología para defender a los niños del abuso sexual.
El desarrollo de esta nueva técnica comenzó en noviembre de 2018 en un “360 Cross-Industry Hackathon” de Microsoft, que fue patrocinado en conjunto con WePROTECT Global Alliance en conjunto con Child Dignity Alliance. Estos hackathons “360” son multifacéticos, enfocados no sólo en la tecnología y la ingeniería sino también en aspectos legales y de leyes, así como también en operaciones e implementación de políticas. El anuncio de este día marca el progreso técnico y de ingeniería en los últimos 14 meses de un equipo de toda la industria de parte de Microsoft, The Meet Group, Roblox, Kik, Thorn y otros, para ayudar a identificar instancias potenciales de grooming infantil en línea para propósitos sexuales y para poner en operación una respuesta efectiva. Los equipos fueron liderados por el doctor Hany Farid, un líder académico quien, en 2009, se asoció con Microsoft y el Colegio Dartmouth para el desarrollo de PhotoDNA, una herramienta gratuita que ha asistido en la detección, interrupción y reporte de millones de imágenes de explotación sexual infantil y es utilizada por más de 150 compañías y organizaciones alrededor del mundo.
Basada en la patente de Microsoft, la técnica es aplicada a conversaciones históricas de chat basadas en texto. Evalúa y “califica” las características de la conversación y asigna una calificación general de probabilidad. Esta calificación puede ser usada luego como un determinante, establecido por compañías individuales que implementen la técnica, para cuándo una conversación marcada debería ser enviada a revisión por parte de moderadores humanos. Luego, los moderadores humanos deberían ser capaces de identificar amenazas inminentes para derivarlas a las fuerzas de la ley, así como incidentes de sospecha de explotación sexual infantil al Centro Nacional para Niños Extraviados y Explotados (NCMEC, por sus siglas en inglés). El NCMEC, junto con ECPAT International, INHOPE e Internet Watch Foundation (IWF), brindaron valiosos comentarios durante el proceso colaborativo.
A partir del 10 de enero de 2020, el licenciamiento y la adopción de la técnica serán llevadas por Thorn. Las compañías y los servicios que quieran probar y adoptar la técnica pueden contactar a Thorn de manera directa en [email protected]. Microsoft ha aprovechado la técnica en programas en nuestra plataforma Xbox por varios años y explora su uso en servicios de chat, incluido Skype.
“Project Artemis” es un significativo paso adelante, pero no es una panacea. La explotación y abuso sexual infantil en línea y la detección de grooming infantil en línea son problemas de peso. Pero no nos desalienta la complejidad y lo intrincado que son estos problemas. Por el contrario, ponemos la herramienta a disposición en este momento para invitar a más contribuciones e involucramiento de otras compañías tecnológicas y organizaciones con la meta de tener una mejora y refinamiento continuos.
En Microsoft, adoptamos un modelo de múltiples personas interesadas para combatir la explotación sexual infantil, que incluye a sobrevivientes y sus defensores, gobierno, compañías tecnológicas y la sociedad civil para que trabajen en conjunto. Combatir la explotación infantil en línea debería y debe ser un llamado universal a la acción.
Aprendan cómo detectar, eliminar y reportar materiales de abuso sexual infantil en PhotoDNA o contacten a [email protected]. Sigan @MSFTissues en Twitter.
