Por: Courtney Gregoire – directora de seguridad digital.
Tuve el placer de unirme a una variedad de líderes para debates oportunos e impactantes sobre el bienestar infantil en la era de la IA en el Vaticano, basándose en conversaciones reflexivas mantenidas durante la Asamblea General de las Naciones Unidas. Estos temas están presentes en la mente a nivel mundial, desde padres hasta responsables políticos y médicos.
En Microsoft, seguimos centrados en nuestro objetivo de empoderar a los jóvenes para que utilicen la tecnología de forma segura, consciente y en busca de oportunidades sociales, educativas y económicas. Eso implica tomar nuevos pasos impulsados por la regulación, como nuevas medidas de verificación de edad para nuestros usuarios de Xbox en el Reino Unido, así como adaptar nuestros compromisos de larga data con la IA responsable y la seguridad y privacidad en línea de los niños para generar confianza en la era de la IA. En esta ocasión, compartimos nuevas investigaciones sobre perspectivas juveniles, anunciamos el AI Futures Youth Council para amplificar las voces adolescentes y ofrecemos recomendaciones de políticas para ayudar a las familias a navegar el mundo digital con confianza.
Centrar las voces de los jóvenes: Anunciamos el Consejo Juvenil de AI Futures y la investigación sobre la garantía de nueva era
En 2017, Microsoft lideró la industria con nuestro primer Council for Digital Good, un foro donde pudimos escuchar de manera directa a jóvenes sobre sus experiencias y percepciones del riesgo en línea. En 2025, con la IA que remodela nuestro mundo —y su futuro— necesitamos volver a centrar las voces de los jóvenes mientras pensamos en el diseño responsable de la IA y en cómo preparamos a los estudiantes para el futuro. Trabajamos de manera activa con adolescentes de la región Asia-Pacífico para desarrollar nuestra primera guía «para adolescentes, por adolescentes» sobre chatbots de IA. Hoy, me complace anunciar el próximo lanzamiento de nuestro primer «AI Futures Youth Council», que reúne a adolescentes de Estados Unidos y Europa para que den su opinión sobre su futuro. Pronto contaremos más sobre el proceso de solicitud.
Sabemos que un paso clave para ofrecer a los jóvenes experiencias online positivas y productivas es entender qué usuarios son jóvenes. En todo el mundo, el debate sobre cómo lograr la garantía de edad online continúa sin freno. Hemos estado agradecidos de trabajar con CIPL y la WeProtect Global Alliance durante el último año para explorar cómo lograr una mejora de la garantía de edad que sea coherente con los derechos fundamentales de privacidad y acceso a la información. Como con cualquier otra intervención de seguridad, nuestro objetivo es ser proporcionados y reflexivos al dar nuevos pasos, por eso nos hemos centrado en el gaming en primer lugar, para reflejar las responsabilidades que tenemos con nuestros usuarios más jóvenes y nuestro compromiso continuo con la seguridad de los jugadores.
Para informar nuestra estrategia y la conversación política más amplia, nos asociamos con Praesidio Safeguarding para comprender mejor las perspectivas juveniles sobre los enfoques de aseguramiento de la edad en Reino Unido, Ghana e Indonesia. Nos complace compartir esa investigación hoy. Los hallazgos refuerzan la importancia de la transparencia, la elección y la confianza: los adolescentes quieren explicaciones claras sobre cómo se utilizan sus datos, expresan preocupaciones sobre la exclusión cuando no hay pruebas formales de edad y muestran distintos niveles de comodidad con el uso de datos biométricos y conductuales. Cabe destacar que los jóvenes valoran la implicación de los padres, pero también destacan la necesidad de independencia y privacidad a medida que maduran. Los resultados también ponen de relieve algunas de las diferencias importantes entre geografías. Por ejemplo, los adolescentes en Ghana a menudo no solo comparten dispositivos con sus familias, sino que también pueden compartir una cuenta, lo que subraya la necesidad de enfoques globales matizados en múltiples capas de la pila tecnológica.
Estas ideas subrayan nuestra convicción de que la proporcionalidad —ajustar las salvaguardas a los riesgos reales— es esencial para generar confianza y empoderar a los jóvenes en línea. También destacan la necesidad de modelos de aseguramiento de la edad que sean inclusivos, flexibles y respetuosos con la autonomía juvenil, en especial en contextos globales donde el intercambio de dispositivos y cuentas es común. Seguimos comprometidos con el diálogo y la innovación continuos, para asegurar que nuestras soluciones evolucionen junto con las necesidades y expectativas de los niños, las familias y la sociedad en general.
Nuestras recomendaciones políticas: Empoderar a los jóvenes para que utilicen la tecnología de forma segura
Creemos que la tecnología debe empoderar a los jóvenes, no ponerlos en riesgo. Dada la diversidad de servicios online, es importante recordar que no existe un único «cinturón de seguridad digital» que proteja y empodere a los jóvenes en Internet.
Por ello, ofrecemos las siguientes recomendaciones mientras responsables políticos, reguladores y expertos continúan el debate estos temas, ampliamos nuestro blog de 2024:
- Evitar restricciones generales de acceso. Los requisitos de garantía de edad que bloquean el acceso total a un servicio—salvo en casos limitados como sitios dedicados a contenido restringido por edad (por ejemplo, pornografía)—pueden limitar de manera involuntaria los derechos de los niños, como el acceso a la información. En su lugar, la garantía de edad debe aplicarse a nivel de servicio, centrarse en características específicas de diseño que supongan mayores riesgos y permitir experiencias personalizadas para los niños.
- Centrarse en los mayores riesgos de impacto, como el contenido y características asociadas con daños documentados a niños, y según se determine mediante procesos democráticos. Los proveedores deben tomar medidas para evaluar y mitigar los riesgos para los niños en sus servicios, asegurándose al tiempo que los requisitos de documentación o las obligaciones de cumplimiento no comprometan inadvertidamente la seguridad. Un enfoque basado en el riesgo y proporcionado—fundamentado en criterios claros y respaldado por estándares interoperables—también puede ayudar a garantizar que la garantía de edad se aplique donde más se necesite, sin introducir fricciones innecesarias. Los proveedores de servicios de alto riesgo deben asumir la responsabilidad de la garantía de edad.
- Reforzar las salvaguardas para los compañeros controlados por la IA. Los recientes trágicos acontecimientos han puesto de manifiesto la necesidad de continuar con el cuidado en el desarrollo de compañeros de IA, en especial cuando estos pueden ser utilizados por los jóvenes. En Microsoft, desarrollamos servicios de IA para el empoderamiento y queremos las barreras adecuadas para proteger a todos los usuarios, pero damos la bienvenida a nuevas medidas de sentido común, como las implementadas en California y Australia para reducir los posibles daños relacionados con los riesgos de suicidio y autolesión, así como con contenido sexualizado o violento. Seguiremos con el trabajo cercano con investigadores y expertos para comprender y mitigar los riesgos potenciales para los jóvenes en este campo en rápida evolución.
- Incentivar el diseño adecuado a la edad. Prohibir a los niños acceder a servicios online no es la solución, pero lo que constituye una experiencia «adecuada a la edad» variará. Hemos apoyado un enfoque de deber de cuidado para la seguridad infantil, donde el deber puede implementarse de forma flexible, guiado por una guía regulatoria reflexiva y basada en la evidencia. Se necesita investigación continua y la participación de expertos para entender cómo avanzar en la seguridad y los derechos de los niños en diversos servicios, no solo en las redes sociales.
- Proteger la privacidad y la seguridad de todos los usuarios. Adaptar los requisitos de garantía de edad ayudará a permitir enfoques proporcionados en el procesamiento de datos. Las propuestas actuales de verificación de edad por parte de las tiendas de aplicaciones corren el riesgo de crear riesgos significativos para la privacidad al recopilar información sensible y compartir datos de edad innecesarios con una amplia variedad de servicios, sin resolver los desafíos que los legisladores quieren abordar. Seguimos con el apoyo a la legislación federal de privacidad en Estados Unidos y fomentamos los esfuerzos globales para desarrollar estándares y certificaciones para los proveedores de garantía de edad. El intercambio de credenciales de confianza también puede ser cada vez más posible gracias a los ecosistemas emergentes de identidad digital —incluidos los documentos de identidad emitidos por el gobierno y modelos basados en carteras— que preservan la privacidad mutua entre emisores y partes de confianza.
- Apoyar, no abrumar. Los resultados de nuestra Encuesta Global de Seguridad en Internet muestran que, aunque los padres puedan subestimar los riesgos que enfrentan los adolescentes en Internet, los adolescentes son los que con más probabilidad acuden a un padre en busca de ayuda. Los padres no deberían recibir una avalancha de notificaciones ni asumir la responsabilidad exclusiva de la seguridad, sino tener acceso, concienciación y educación sobre herramientas de seguridad familiar que les ayuden a tomar decisiones informadas adecuadas para su familia y sus valores.
- Fomentar la colaboración multiactor. Creemos que es esencial dar voz y perspectivas a los jóvenes, así como que los reguladores y la industria se comprometan con la sociedad civil y colaboren para avanzar en soluciones prácticas. A medida que entren en vigor las normativas de seguridad infantil, también será importante obtener opiniones de las comunidades afectadas sobre dónde la regulación puede tener impactos adversos en los derechos, así como entender dónde se pudo evitar el daño. La educación pública será necesaria para ayudar a todos los usuarios a entender por qué sus experiencias online podrían estar cambiando.
Vamos a continuar con el aprendizaje, la escucha y la colaboración, en especial con nuestro nuevo Consejo, y esperamos compartir nuestras ideas.