Signature : Teresa Hutson et Natasha Crampton
En mai 2024, nous avons publié notre premier rapport sur la transparence de l’IA responsable. Nous sommes reconnaissants des commentaires que nous avons reçus de nos parties prenantes du monde entier. Leurs idées ont éclairé ce deuxième rapport annuel sur la transparence de l’IA responsable, qui souligne notre engagement continu à créer des technologies d’IA auxquelles les gens font confiance. Notre rapport met en évidence les nouveaux développements liés à la façon dont nous construisons et déployons des systèmes d’IA de manière responsable, à la façon dont nous soutenons nos clients et l’écosystème au sens large, ainsi qu’à la façon dont nous apprenons et évoluons.
L’année dernière a été marquée par une vague d’adoption de l’IA par des organisations de toutes tailles, ce qui a suscité un regain d’intérêt pour une gouvernance efficace de l’IA dans la pratique. Nos clients et partenaires sont impatients d’en savoir plus sur la façon dont nous avons mis à l’échelle notre programme chez Microsoft et développé des outils et des pratiques qui mettent en œuvre des normes de haut niveau.
Comme nous, ils ont constaté que la création d’une IA digne de confiance est bonne pour les affaires et qu’une bonne gouvernance ouvre des opportunités en matière d’IA. Selon le sondage Microsoft sur l’IA responsable d’IDC , plus de 30% des répondants considèrent que le manque de solutions de gouvernance et de gestion des risques est le principal obstacle à l’adoption et à la mise à l’échelle de l’IA. À l’inverse, plus de 75% des répondants qui utilisent des outils d’IA responsable pour la gestion des risques disent avoir contribué à la confidentialité des données, à l’expérience client, aux décisions commerciales en toute confiance, à la réputation de la marque et à la confiance.
Nous avons également vu émerger de nouveaux efforts réglementaires et de nouvelles lois au cours de la dernière année. Parce que nous investissons dans l’opérationnalisation des pratiques d’IA responsables chez Microsoft depuis près d’une décennie, nous sommes bien préparés à nous conformer à ces réglementations et à donner à nos clients les moyens de faire de même. Cependant, notre travail ici n’est pas terminé. Comme nous le détaillons dans le rapport, des pratiques de réglementation et de mise en œuvre efficientes et efficaces qui soutiennent l’adoption de la technologie de l’IA au-delà des frontières sont encore en cours de définition. Nous continuons de nous concentrer sur l’apport de nos idées pratiques aux efforts de normalisation à l’échelle mondiale.
Dans toutes ces facettes de la gouvernance, il est important de rester agile dans notre approche, d’appliquer les leçons tirées de nos déploiements réels, de mettre à jour nos pratiques pour refléter les progrès et de nous assurer que nous sommes réceptifs aux commentaires de nos parties prenantes. Les leçons tirées de notre approche itérative et fondée sur des principes sont reflétées dans les pages du présent rapport. Au fur et à mesure que nos pratiques de gouvernance continuent d’évoluer, nous partagerons de manière proactive nos nouvelles idées avec nos parties prenantes, tant dans les prochains rapports annuels de transparence que dans d’autres contextes publics.
Principaux points à retenir de notre Rapport sur la transparence 2025
En 2024, nous avons fait des investissements clés dans nos outils, politiques et pratiques d’IA responsable pour avancer à la vitesse de l’innovation en IA.
- Nous avons amélioré nos outils d’IA responsable afin d’élargir la mesure et l’atténuation des risques pour les modalités au-delà du texte, comme les images, l’audio et la vidéo, ainsi qu’un soutien supplémentaire pour les systèmes agentiques, les systèmes semi-autonomes qui, selon nous, représenteront un domaine important d’investissement et d’innovation en IA en 2025 et au-delà.
- Nous avons adopté une approche proactive et multidimensionnelle pour nous conformer aux nouvelles exigences réglementaires, y compris la Loi sur l’IA de l’Union européenne, et avons fourni à nos clients des ressources et du matériel qui leur permettent d’innover conformément aux réglementations pertinentes. Nos premiers investissements dans la création d’un programme d’IA responsable complet et de pointe nous ont bien positionnés pour accélérer nos efforts de préparation à la réglementation de l’IA en 2024.
- Nous avons continué d’appliquer une approche uniforme de gestion des risques dans toutes les versions grâce à notre examen préalable au déploiement et à nos efforts d’équipe rouge. Cela comprenait la supervision et l’examen des utilisations à fort impact et à haut risque de l’IA et des versions génératives de l’IA, y compris chaque modèle phare ajouté au service Azure OpenAI et chaque version du modèle PHI. Afin de soutenir davantage la documentation sur l’IA responsable dans le cadre de ces examens, nous avons lancé un outil de flux de travail interne conçu pour centraliser les diverses exigences en matière d’IA responsable décrites dans la Norme sur l’IA responsable.
- Nous avons continué à fournir des conseils pratiques sur les utilisations à fort impact et à risque élevé de l’IA par l’entremise de notre équipe des utilisations sensibles et des technologies émergentes. Les applications d’IA générative, en particulier dans des domaines comme les soins de santé et les sciences, ont connu une croissance notable en 2024. En glanant des informations sur les cas et en mobilisant les chercheurs, l’équipe a fourni des conseils anticipés sur les nouveaux risques et les capacités émergentes en matière d’IA, favorisant l’innovation et incubant de nouvelles politiques et lignes directrices internes.
- Nous avons continué de nous appuyer sur les connaissances de la recherche pour éclairer notre compréhension des questions sociotechniques liées aux dernières avancées en IA. Nous avons créé l’AI Frontiers Lab pour investir dans les technologies de base qui repoussent les limites de ce que les systèmes d’IA peuvent faire en termes de capacité, d’efficacité et de sécurité.
- Nous avons travaillé avec des parties prenantes du monde entier pour progresser vers l’élaboration d’approches de gouvernance cohérentes afin d’accélérer l’adoption et de permettre aux organisations de toutes sortes d’innover et d’utiliser l’IA au-delà des frontières. Cela comprenait la publication d’un livre explorant la gouvernance dans divers domaines et contribuant à faire progresser des normes cohérentes pour tester les systèmes d’IA.
Regard vers le deuxième semestre de 2025 et au-delà
Alors que l’innovation et l’adoption de l’IA continuent de progresser, notre objectif principal reste le même : gagner la confiance que nous considérons comme fondamentale pour favoriser une adoption large et bénéfique de l’IA dans le monde entier. Au cours de la prochaine année, nous nous concentrerons sur trois domaines pour faire progresser notre engagement indéfectible envers la gouvernance de l’IA tout en veillant à ce que nos efforts répondent à un paysage en constante évolution :
1. Développer des outils et des pratiques de gestion des risques plus flexibles et plus agiles, tout en favorisant le développement des compétences pour anticiper et s’adapter aux progrès de l’IA. Pour que les personnes et les organisations du monde entier puissent tirer parti du potentiel de transformation de l’IA, notre capacité à anticiper et à gérer les risques de l’IA doit suivre le rythme de l’innovation. Cela nous oblige à créer des outils et des pratiques capables de s’adapter rapidement aux progrès des capacités d’IA et à la diversité croissante des scénarios de déploiement qui ont chacun des profils de risque uniques. Pour ce faire, nous investirons davantage dans nos systèmes de gestion des risques afin de fournir des outils et des pratiques pour les risques les plus courants dans les scénarios de déploiement, et de permettre le partage d’ensembles de tests, d’atténuations et d’autres pratiques exemplaires entre les équipes de Microsoft.
2. Soutenir une gouvernance efficace dans l’ensemble de la chaîne d’approvisionnement de l’IA. Construire, gagner et maintenir la confiance dans l’IA est un effort collaboratif qui exige que les développeurs de modèles, les créateurs d’applications et les utilisateurs de systèmes contribuent chacun à la conception, au développement et aux opérations dignes de confiance. Les réglementations sur l’IA, y compris la loi sur l’IA de l’UE, reflètent ce besoin de circulation de l’information entre les acteurs de la chaîne d’approvisionnement. Bien que nous adoptions ce concept de responsabilité partagée chez Microsoft, nous reconnaissons également qu’il est complexe de déterminer comment les responsabilités s’emboîtent, surtout dans un écosystème d’IA en évolution rapide. Pour aider à faire progresser la compréhension commune de la façon dont cela peut fonctionner dans la pratique, nous approfondissons notre travail à l’interne et à l’externe pour clarifier les rôles et les attentes.
3. Faire progresser un écosystème dynamique grâce à des normes communes et à des outils efficaces, en particulier pour la mesure et l’évaluation des risques liés à l’IA. La science de la mesure et de l’évaluation des risques liés à l’IA est un domaine en pleine croissance, mais encore naissant. Nous nous engageons à soutenir la maturation de ce domaine en continuant d’investir au sein de Microsoft, y compris dans la recherche qui repousse les frontières de la mesure et de l’évaluation des risques liés à l’IA et les outils pour les opérationnaliser à grande échelle. Nous restons déterminés à partager nos dernières avancées en matière d’outils et de pratiques exemplaires avec l’écosystème élargi afin de soutenir l’avancement de normes et de normes communes pour la mesure et l’évaluation des risques liés à l’IA.
Nous avons hâte d’entendre vos commentaires sur les progrès que nous avons réalisés et les occasions de collaborer sur tout ce qui reste à faire. Ensemble, nous pouvons faire progresser la gouvernance de l’IA de manière efficiente et efficace, en favorisant la confiance dans les systèmes d’IA à un rythme qui correspond aux opportunités à venir.
Explorez le Rapport sur la transparence de l’IA responsable 2025.