Por: Mike Jackson, director de Seguridad Digital, y Cari Benn, directora de Privacidad de Microsoft.
Microsoft comparte nuestro Marco de Participación Segura (Safe Participation Framework), que se centra en diseñar y habilitar experiencias seguras, que preserven la privacidad y sean adecuadas para la edad de los jóvenes en línea. Los miembros de nuestro Consejo de Futuros Juveniles de IA han transmitido un mensaje claro: quieren aprender, crear y prepararse para un futuro con la IA. Proteger su privacidad, garantizar su seguridad y preservar su oportunidad de participar debe ir de la mano.
Tienen razón. Los niños y las familias no deberían tener que elegir entre las protecciones que necesitan y las oportunidades que puede ofrecer la tecnología.
Las empresas tecnológicas tienen la responsabilidad tanto de proteger a los jóvenes del daño como de garantizar que puedan beneficiarse de la tecnología mediante experiencias diseñadas de manera cuidadosa, protecciones adecuadas a la edad y salvaguardas demostrables. El Marco de Participación Segura de Microsoft sirve como base para nuestro trabajo actual, y esperamos que siga su evolución a medida que cambien las expectativas tecnológicas, de investigación y sociales. No afirmamos tener todas las respuestas, pero creemos que es importante compartir nuestro enfoque y nuestros aprendizajes para ayudar a informar los marcos regulatorios emergentes y avanzar juntos en la protección y las oportunidades.
Pilar uno: Seguridad desde el diseño
Microsoft reconoce nuestra responsabilidad de ayudar a crear experiencias más seguras para todos los usuarios, en especial para los niños y aquellos más vulnerables al daño. Nuestro enfoque de seguridad desde el diseño busca integrar la protección desde el principio: identificar riesgos previsibles, examinar el impacto de las características del producto y la experiencia del usuario, e implementar salvaguardas proporcionadas. A medida que evolucionan los riesgos, seguimos con el aprendizaje de la investigación emergente, la ciencia y también de clientes, gobiernos y otros actores implicados.
Durante más de una década, Microsoft ha invertido en tecnologías diseñadas para proteger a las personas en línea, empezó por PhotoDNA en 2009 y continúa a través de nuestro trabajo para crear salvaguardas para las experiencias de IA y abordar daños emergentes como imágenes íntimas sintéticas y no consensuadas. También hemos aprendido que las familias quieren herramientas más simples, intuitivas y fáciles de usar. Por eso, a principios de esta semana, anunciamos nuevas protecciones y predeterminaciones para niños, adolescentes y familias que usan Windows Family Safety. Consideramos estos cambios como un paso importante hacia adelante, aunque reconocemos que ganar y mantener la confianza requiere una inversión continua, aprendizaje e iteración.
Bing también ha reforzado las protecciones contra el material abusivo sexual infantil (CSAM, por sus siglas en inglés) en sus experiencias de IA generativa. También hemos ampliado SafeSearch a nivel global para cubrir categorías adicionales de contenido dañino, para ayudar a reducir el riesgo de exposición a material perjudicial. Seguiremos con nuestro avance, escucharemos a nuestros usuarios y partes interesadas, y aprenderemos mientras trabajamos con otros para reforzar la seguridad.
Nuestro objetivo es ayudar a niños y adolescentes a participar con confianza en experiencias digitales adecuadas que refuercen el acceso a las oportunidades educativas, sociales y económicas significativas que la tecnología puede ofrecer. Alcanzar ese objetivo requiere protecciones reales que sean proporcionales al riesgo e implementadas de manera que respeten la privacidad de los usuarios. Los riesgos no son uniformes entre diferentes tecnologías y servicios, y las salvaguardas deben reflejar y abordar esas diferencias.
Pilar dos: Experiencias diferenciadas por edad
Reconocemos que los jóvenes no forman un solo grupo. Sus necesidades, capacidades y expectativas evolucionan con la edad, el desarrollo y el contexto. Por eso, el diseño adecuado a la edad es un elemento importante para crear experiencias digitales más seguras y complementa la seguridad por diseño. El diseño adecuado a la edad garantiza que las protecciones y experiencias respondan a las necesidades de los usuarios en diferentes etapas de desarrollo. Este enfoque informa las experiencias en todo el ecosistema de consumo de Microsoft.
En XBOX, aprovechamos herramientas de seguridad familiar y privacidad diseñadas en específico para ayudar a gestionar interacciones en línea, acceso a contenidos, gastos, tiempo de pantalla y configuración de privacidad. Estas funciones están pensadas para ofrecer experiencias más seguras y ofrecer a las familias flexibilidad para tomar decisiones. Aplicamos muchas de estas mismas aprendizajes a Copilot. Ahora todos los usuarios deben iniciar sesión para usar Copilot, y el acceso está restringido para menores de 13 años (o mayores cuando lo exige la ley local). También hemos implementado medidas para reducir la exposición a contenido dañino, dirigimos a los usuarios a recursos de apoyo en crisis cuando se detectan riesgos de autolesión, y fomentamos un uso saludable mediante transparencia, recordatorios de pausas, herramientas de reporte y barreras de seguridad para proteger contra resultados delirantes.
Microsoft también ha ampliado ahora las protecciones a nivel de plataforma. A través de nuestra nueva interfaz de programación de aplicaciones (API, por sus siglas en inglés) Windows Age, capacidades ampliadas de garantía de edad y herramientas de seguridad familiar mejoradas, Microsoft ayuda a establecer una base más coherente y respetuosa con la privacidad para experiencias apropiadas a cada edad en todo el ecosistema. Estas capacidades están destinadas a proporcionar a los desarrolladores señales de edad fiables para apoyar protecciones apropiadas a cada edad, lo que hace que la experiencia sea al final más fácil de entender y gestionar para las familias en el futuro.
Las señales de edad fiables juegan un papel importante para facilitar experiencias apropiadas a cada edad. Innovaciones como la API de Windows Age ayudan a proporcionar señales de edad que preservan la privacidad, lo que minimiza la recopilación y el intercambio de datos personales. Los jóvenes comparten esta expectativa. Los participantes en el Consejo de Futuros Juveniles de la IA de Microsoft han insistido de manera constante en la importancia de comprender cómo se recopila, utiliza y protege su información.
Pilar tres: Educación y empoderamiento
La tecnología por sí sola no puede ofrecer una participación segura. Los jóvenes y sus familias deben tener la oportunidad de proporcionar retroalimentación directa, y deben tener fácil acceso a herramientas y recursos que apoyen y amplían sus conocimientos mientras navegan por experiencias digitales, evalúan lo que encuentran y deciden cuándo buscar ayuda. Por tanto, la alfabetización digital es un componente fundamental de la seguridad infantil.
Microsoft ha invertido durante años en alfabetización digital y educación sobre seguridad a través de recursos y asociaciones que llegan a comunidades de todo el mundo. A principios de este año, lanzamos Behind the Chat: A Human Guide to Safe AI Conversations, diseñado en específico para ayudar a los jóvenes a comprender las oportunidades y riesgos asociados a la compañía con IA. Este kit de herramientas está respaldado por recursos para el aula para educadores y materiales para padres y adultos de confianza, lo que refleja nuestra convicción de que apoyar a los jóvenes requiere un enfoque ecosistémico. A partir de este otoño, ampliaremos estos recursos por Europa, Asia y América. También seguiremos con el trabajo de manera estrecha con los educadores para garantizar la seguridad y la privacidad.
Durante el próximo año, profundizaremos las alianzas con investigadores, Institutos de Seguridad de IA (AISIs, por sus siglas en inglés), gobiernos y la sociedad civil para avanzar en la investigación, evaluaciones y referencias necesarias para experiencias digitales y de IA más seguras. Al trabajar juntos, aprenderemos y ayudaremos a sentar las bases para la próxima generación de tecnología de confianza.
Un marco para el futuro
Nuestro trabajo está lejos de terminar. A medida que la tecnología evoluciona, nuestra comprensión de cómo apoyar a los jóvenes de manera segura y responsable debe seguir su evolución junto con ella. Este marco refleja nuestro enfoque actual, informado por la evidencia, moldeado por los jóvenes y sus familias, y basado en el aprendizaje continuo. Reconocemos que no tenemos todas las respuestas y que construir experiencias digitales más seguras requerirá continuidad de experimentación, humildad y colaboración. Ninguna organización puede lograrlo sola. El progreso dependerá de alianzas profundas entre gobierno, industria, sociedad civil, educadores y familias de todo el mundo. Juntos, podemos ayudar a construir un futuro en el que cada joven tenga la oportunidad de participar, crear, aprender y prosperar.