Por Natasha Crampton, directora de IA Responsable de Microsoft.
A finales del año pasado, cuando nuestro Microsoft AI Tour llegó a Bruselas, París y Berlín, nos reunimos con organizaciones europeas que se sintieron motivadas por las posibilidades de nuestras últimas tecnologías de IA y participaron en proyectos de implementación. También estaban atentos al hecho de que 2025 es el año en que entran en vigor las obligaciones clave en virtud de la Ley de IA de la Unión Europea, lo que abre un nuevo capítulo en la regulación digital a medida que la primera ley de IA integral del mundo se convierte en realidad.
En Microsoft, estamos listos para ayudar a nuestros clientes a hacer dos cosas a la vez: innovar con IA y cumplir con la Ley de IA de la UE. Construimos nuestros productos y servicios para cumplir con nuestras obligaciones en virtud de la Ley de IA de la UE y trabajamos con nuestros clientes para ayudarles a implementar y utilizar la tecnología de manera compatible. También colaboramos con los responsables políticos europeos para apoyar el desarrollo de prácticas de implementación eficientes y efectivas en el marco de la Ley de IA de la UE que estén alineadas con las normas internacionales emergentes.
A continuación, entramos en más detalles sobre estos esfuerzos. Dado que las fechas para el cumplimiento de la Ley de IA de la UE son escalonadas y los detalles clave de la implementación aún no se han finalizado, publicaremos información y herramientas de forma continua. Pueden consultar nuestra documentación de la Ley de IA de la UE en el Centro de confianza de Microsoft para mantenerse actualizados.
Creación de productos y servicios de Microsoft que cumplan con la Ley de IA de la UE
Organizaciones de todo el mundo utilizan los productos y servicios de Microsoft para obtener soluciones de IA innovadoras que les permitan lograr más. Para estos clientes, en particular aquellos que operan a nivel mundial y en diferentes jurisdicciones, el cumplimiento normativo es de suma importancia. Es por eso que, en cada contrato con el cliente, Microsoft se ha comprometido a cumplir con todas las leyes y regulaciones aplicables a Microsoft. Esto incluye la Ley de Inteligencia Artificial de la UE. También es la razón por la que tomamos decisiones tempranas para construir y continuar con las inversiones en nuestro programa de gobernanza de IA.
Como se indica en nuestro Informe de transparencia inaugural, hemos adoptado un enfoque de gestión de riesgos que abarca todo el ciclo de vida del desarrollo de la IA. Utilizamos prácticas como las evaluaciones de impacto y el red-teaming para ayudarnos a identificar riesgos potenciales y garantizar que los equipos que crean los modelos y sistemas de mayor riesgo reciban supervisión y apoyo adicionales a través de procesos de gobernanza, como nuestro programa de Usos Sensibles. Después de mapear los riesgos, utilizamos la medición sistemática para evaluar la prevalencia y la gravedad de los riesgos en comparación con métricas definidas. Gestionamos los riesgos al implementar mitigaciones, como los clasificadores que forman parte de Azure AI Content Safety, y garantizar la supervisión continua y la respuesta a incidentes.
Nuestro marco para guiar a los equipos de ingeniería que crean soluciones de IA de Microsoft, el Estándar de IA Responsable, se redactó con una primera versión de la Ley de IA de la UE en mente.
Sobre la base de estos componentes fundamentales de nuestro programa, hemos dedicado importantes recursos a la implementación de la Ley de IA de la UE en Microsoft. Los grupos de trabajo multifuncionales que combinan expertos en gobernanza, ingeniería, derecho y políticas públicas en IA han trabajado durante meses para determinar si nuestras normas y prácticas internas deben actualizarse para reflejar el texto final de la Ley de IA de la UE, así como las primeras indicaciones de los detalles de implementación. También han identificado cualquier trabajo de ingeniería adicional necesario para garantizar la preparación.
Por ejemplo, las disposiciones sobre prácticas prohibidas de la Ley de IA de la UE se encuentran entre las primeras disposiciones que entrarán en vigor en febrero de 2025. Antes de que la recién creada Oficina de IA de la Comisión Europea proporcione orientación adicional, hemos adoptado un enfoque proactivo y estratificado para el cumplimiento. Esto incluye:
- Llevar a cabo una revisión exhaustiva de los sistemas propiedad de Microsoft que ya están en el mercado para identificar cualquier lugar en el que podamos necesitar ajustar nuestro enfoque, incluso mediante la actualización de la documentación o la implementación de mitigaciones técnicas. Para ello, desarrollamos una serie de preguntas diseñadas para averiguar si un sistema de IA podría implicar una práctica prohibida y enviamos esta encuesta a nuestros equipos de ingeniería a través de nuestras herramientas centrales. Los expertos pertinentes revisaron las respuestas y realizaron un seguimiento directo con los equipos en los casos en que fue necesaria una mayor claridad o medidas adicionales. Estas preguntas de selección permanecen en nuestra herramienta central de flujo de trabajo de IA responsable de forma continua, para que los equipos que trabajan en nuevos sistemas de IA las respondan e interactúen en el flujo de trabajo de revisión según sea necesario.
- Crear nuevos usos restringidos en nuestra política interna de la empresa para garantizar que Microsoft no diseñe ni implemente sistemas de IA para usos prohibidos por la Ley de IA de la UE. También hemos desarrollado una guía específica de marketing y ventas para garantizar que nuestras tecnologías de IA de propósito general no se comercialicen ni se vendan para usos que puedan implicar las prácticas prohibidas de la Ley de IA de la UE.
- Actualizar nuestros contratos, incluido nuestro Código de Conducta de IA Generativa, para que nuestros clientes entiendan con claridad que no pueden participar en ninguna práctica prohibida. Por ejemplo, el Código de Conducta de la IA Generativa ahora tiene una prohibición expresa sobre el uso de los servicios para la puntuación social.
También fuimos de las primeras organizaciones en firmar los tres compromisos principales del Pacto por la IA, un conjunto de compromisos voluntarios desarrollados por la Oficina de IA para apoyar la preparación regulatoria antes de algunos de los próximos plazos de cumplimiento de la Ley de IA de la UE. Además de nuestro ritmo regular de publicación anual de Informes de Transparencia de IA Responsable, pueden encontrar una descripción general de nuestro enfoque de la Ley de IA de la UE y un resumen más detallado de cómo implementamos las disposiciones de prácticas prohibidas en el Centro de confianza de Microsoft.
Trabajar con los clientes para ayudarles a implementar y usar los productos y servicios de Microsoft de conformidad con la Ley de IA de la UE
Uno de los conceptos fundamentales de la Ley de IA de la UE es que las obligaciones deben asignarse a lo largo de la cadena de suministro de IA. Esto significa que un actor regulado ascendente, como Microsoft en su calidad de proveedor de herramientas, servicios y componentes de IA, debe apoyar a los actores regulados posteriores, como nuestros clientes empresariales, cuando integran una herramienta de Microsoft en un sistema de IA de alto riesgo. Adoptamos este concepto de responsabilidad compartida y nuestro objetivo es apoyar a nuestros clientes con sus actividades de desarrollo e implementación de IA al compartir nuestro conocimiento, proporcionar documentación y ofrecer herramientas. Todo esto se suma a los compromisos con los clientes de IA que asumimos en junio del año pasado para apoyar a nuestros clientes en sus viajes responsables de IA.
Continuaremos con la publicación de documentación y recursos relacionados con la Ley de IA de la UE en el Centro de confianza de Microsoft para proporcionar actualizaciones y abordar las preguntas de los clientes. Nuestro sitio de Recursos de IA Responsable también es una rica fuente de herramientas, prácticas, plantillas e información que creemos que ayudarán a muchos de nuestros clientes a establecer las bases de la buena gobernanza para respaldar el cumplimiento de la Ley de IA de la UE.
En cuanto a la documentación, las 33 notas de transparencia que hemos publicado desde 2019 proporcionan información esencial sobre las capacidades y limitaciones de nuestras herramientas, componentes y servicios de IA en los que confían nuestros clientes como implementadores posteriores de los servicios de la plataforma de IA de Microsoft. También hemos publicado documentación para nuestros sistemas de IA, como respuestas a preguntas frecuentes. Nuestra nota de transparencia para el servicio Azure OpenAI, un servicio de plataforma de IA, y las preguntas frecuentes sobre Copilot, un sistema de IA, son ejemplos de nuestro enfoque.
Esperamos que varios de los esfuerzos regulatorios secundarios en virtud de la Ley de IA de la UE proporcionen orientación adicional sobre la documentación a nivel de modelo y sistema. Estas normas de documentación y transparencia aún están en proceso de maduración y se beneficiarían de una definición más detallada en consonancia con esfuerzos como el Marco de presentación de informes para el proceso de IA de Hiroshima, Código de conducta internacional para organizaciones que desarrollan sistemas avanzados de IA. Microsoft ha tenido el placer de contribuir a este marco de presentación de informes a través de un proceso convocado por la OCDE y espera con interés su próximo lanzamiento público.
Por último, debido a que las herramientas son necesarias para lograr un cumplimiento consistente y eficiente, ponemos a disposición de nuestros clientes versiones de las herramientas que utilizamos para nuestros propios fines internos. Estas herramientas incluyen Microsoft Purview Compliance Manager, que ayuda a los clientes a comprender y tomar medidas para mejorar las capacidades de cumplimiento en muchos dominios normativos, incluida la Ley de IA de la UE; Seguridad de contenido de Azure AI para ayudar a mitigar los daños basados en el contenido; Azure AI Foundry para ayudar con las evaluaciones de aplicaciones de IA generativa; y Python Risk Identification Tool o PyRIT, un marco de innovación abierta que nuestro equipo rojo de IA independiente usa para ayudar a identificar los daños potenciales asociados con nuestros modelos y sistemas de IA de mayor riesgo.
Ayudar a desarrollar prácticas de implementación eficientes, efectivas e interoperables
Una característica única de la Ley de IA de la UE es que hay más de 60 esfuerzos regulatorios secundarios que tendrán un impacto material en la definición de las expectativas de implementación y la dirección del cumplimiento organizacional. Dado que muchos de estos esfuerzos están en curso o aún no se han puesto en marcha, nos encontramos en una ventana de oportunidad clave para ayudar a establecer prácticas de implementación que sean eficientes, efectivas y alineadas con las normas internacionales emergentes.
Microsoft colabora con el regulador central de la UE, la Oficina de IA y otras autoridades pertinentes de los Estados miembros de la UE para compartir información sobre nuestra experiencia en el desarrollo, la gobernanza y el cumplimiento de la IA, buscar claridad sobre las preguntas abiertas y abogar por resultados prácticos. También participamos en el desarrollo del Código de Buenas Prácticas para los proveedores de modelos de IA de propósito general, y contribuimos desde hace mucho tiempo a las normas técnicas que desarrollan las organizaciones europeas de normalización, como CEN y CENELEC, para abordar los requisitos de los sistemas de IA de alto riesgo en la Ley de IA de la UE.
Nuestros clientes también tienen un papel clave que desempeñar en estos esfuerzos de implementación. Al colaborar con los responsables políticos y los grupos de la industria para comprender la evolución de los requisitos y opinar sobre ellos, nuestros clientes tienen la oportunidad de aportar sus valiosos conocimientos y ayudar a dar forma a las prácticas de implementación que reflejen mejor sus circunstancias y necesidades, al reconocer la amplia gama de organizaciones en Europa que se ven impulsadas por la oportunidad de innovar y crecer con la IA. En los próximos meses, una pregunta clave que se resolverá es cuándo las organizaciones que ajustan de manera sustancial los modelos de IA se convierten en proveedores posteriores para cumplir con las obligaciones de los modelos de IA de propósito general en agosto.
De cara al futuro
Microsoft realizará importantes inversiones en productos, herramientas y gobernanza para ayudar a nuestros clientes a innovar con IA en línea con nuevas leyes como la Ley de IA de la UE. Las prácticas de implementación que sean eficientes, efectivas e interoperables a nivel internacional serán clave para respaldar la innovación útil y confiable a escala global, por lo que continuaremos apoyándonos en los procesos regulatorios en Europa y en todo el mundo. Estamos entusiasmados de ver que los proyectos que animaron nuestros eventos de Microsoft AI Tour en Bruselas, París y Berlín mejoran la vida de las personas y se ganan su confianza, y agradecemos los comentarios sobre cómo podemos seguir con el apoyo a nuestros clientes en sus esfuerzos por cumplir con nuevas leyes como la Ley de IA de la UE.
