Por: Dana Huang, vicepresidenta corporativa, Seguridad de Windows.
A medida que los agentes impulsados por IA se convierten en parte integral de la forma en que trabajamos y creamos, Windows se compromete a hacer que estas experiencias sean más productivas y seguras para las personas y las empresas.
Hoy, anunciamos nuevas experiencias agénticas y de Copilot que facilitan la IA en Windows 11. Una de las nuevas experiencias que presentamos es una característica experimental llamada Copilot Actions. Copilot Actions en Windows 11 se basa en nuestro anuncio de mayo, donde anunciamos Copilot Actions en la web – que permiten que Copilot tome medidas reales en su nombre, como reservar una mesa en su restaurante favorito o pedir comestibles.
Más adelante para Windows Insiders en Copilot Labs, previsualizamos un modo experimental para Copilot Actions que permite expandirse más allá del navegador y realizar acciones directo en archivos locales en Windows.
En este blog se compartirá cómo Copilot Actions en Windows usa nuestro nuevo espacio de trabajo de agente experimental para completar tareas en un entorno independiente y contenido, a la vez que los mantiene informados y en control.
¿Qué es Copilot Actions?
Copilot Actions es un Agente de IA que completa las tareas por ustedes al interactuar con sus aplicaciones y archivos, por medio de la visión y el razonamiento avanzado para hacer clic, escribir y desplazarse como lo haría un humano.
Esto transforma a los agentes de asistentes pasivos en colaboradores digitales activos que pueden llevar a cabo tareas complejas para mejorar la eficiencia y la productividad, como actualizar documentos, organizar archivos, reservar boletos o enviar correos electrónicos. Una vez que hayan concedido acceso al agente, cuando se integra con Windows, el agente puede aprovechar lo que ya tienen en su PC, como sus aplicaciones y datos, para completar tareas por ustedes.
Por qué es importante la seguridad
La IA agéntica tiene capacidades poderosas en la actualidad, por ejemplo, puede completar muchas tareas complejas en respuesta a los prompts del usuario, para transformar la manera en que los usuarios interactúan con sus PC. A medida que se introducen estas capacidades, los modelos de IA aún enfrentan limitaciones funcionales en términos de cómo se comportan y, de manera ocasional, pueden alucinar y producir resultados inesperados. Además, las aplicaciones de IA agéntica introducen nuevos riesgos de seguridad, como la inyección cruzada de prompt (XPIA), donde el contenido malicioso incrustado en elementos o documentos de la interfaz de usuario puede anular las instrucciones del agente, lo que lleva a acciones no deseadas como la exfiltración de datos o la instalación de malware. Ver Asegurar el Protocolo de contexto de modelo: Creación de un futuro agencial más seguro en Windows para obtener más información.
A medida que comenzamos a crear capacidades agénticas en Windows, nuestro compromiso es incluir controles sólidos de seguridad y privacidad que permitan a los clientes explorar su potencial con confianza con el apoyo de instrucciones claras y barreras de protección adecuadas.
Principios de seguridad y privacidad agéntica
Abordar los desafíos de seguridad de los agentes de IA requiere el cumplimiento de un sólido conjunto de principios de seguridad para garantizar que los agentes actúen en consonancia con la intención del usuario y protejan su información confidencial. Hemos establecido un conjunto de principios duraderos de seguridad y privacidad que deben cumplirse para hacer uso de las nuevas capacidades de agente en Windows:
- Cuentas de agente distintas: Creamos la capacidad para que los agentes de Windows operen con cuentas de agente dedicadas distintas de la cuenta de usuario en su dispositivo. Esto facilita la aplicación de políticas específicas del agente que pueden ser diferentes de las reglas aplicadas a otras cuentas, como las de los usuarios humanos. Ustedes pueden compartir el acceso a archivos y otros recursos a estas cuentas de agente dedicadas de la misma manera que lo hacen con otros usuarios en su dispositivo, como familiares o compañeros de trabajo.
- Privilegios de agente limitados: Un agente comenzará con permisos limitados y solo obtendrá acceso a los recursos a los que ustedes proporcionen permiso de manera explícita, como sus archivos locales. Existe un límite bien definido para las acciones del agente y no tiene la capacidad de realizar cambios en el dispositivo sin su intervención. Este acceso puede ser revocado en cualquier momento.
- Confianza operativa: Los agentes que se integran con Windows deben estar firmados por una fuente de confianza para que los agentes que se comportan de forma malintencionada o deficiente puedan ser revocados y bloqueados con una serie de medidas de defensa en profundidad, como la validación de certificados y el antivirus.
- Diseño que preserva la privacidad: Windows está diseñado para ayudar a los agentes a cumplir con los compromisos de Microsoft realizados en la Declaración de privacidad de Microsoft y el Estándar de IA Responsable. Windows ayudará a los agentes a recopilar y procesar datos solo para fines bien definidos, lo que garantiza la transparencia y la confianza. Consulten el Informe de privacidad de Microsoft para obtener más información sobre nuestros compromisos para promover la IA de manera responsable al tiempo que salvaguardamos la privacidad y otros derechos fundamentales.
El desarrollo de agentes y la seguridad relacionada con la IA siguen como un campo de investigación en rápido movimiento con la participación activa de Microsoft en asociación con la comunidad de seguridad en general. Como parte del compromiso de la Iniciativa de Futuro Seguro de Microsoft, ayudar a los usuarios, empresas y desarrolladores a abordar estos desafíos es nuestra principal prioridad a medida que las personas comienzan a interactuar con los agentes como parte de sus flujos de trabajo diarios.
Controles de seguridad
Copilot Actions pondrá en práctica nuestros principios de seguridad y privacidad, y aprenderemos y perfeccionaremos de manera continua nuestro enfoque a medida que recopilemos comentarios del mundo real de la vista previa cuando esté disponible. Se han agregado cuatro nuevos bloques de construcción a Windows 11 para respaldar esta exploración. Durante el período de versión preliminar, continuaremos con la adición de controles de seguridad y privacidad más detallados antes de que estas características estén disponibles de manera amplia:
- Control de usuario: Copilot Actions estarán deshabilitadas de forma predeterminada y solo se habilitarán cuando el usuario active la siguiente configuración de Windows en Configuración > Componentes de IA > del sistema > Herramientas de agente > Funciones de agente experimentales.
- Cuentas de agente: se proporciona una cuenta estándar separada en su dispositivo a los agentes cuando actúan en su nombre, lo que permite la autorización y el control de acceso a nivel de agente.
- Espacio de trabajo del agente: un entorno contenido donde los agentes pueden trabajar en paralelo con un usuario humano, lo que permite el aislamiento en tiempo de ejecución y los permisos granulares. Esto proporciona al agente capacidades como su propio escritorio al tiempo que limita la visibilidad y el acceso que el agente tiene a la actividad del escritorio del usuario. El área de trabajo del agente se basa en límites de seguridad reconocidos que Microsoft defenderá de acuerdo con nuestros criterios de mantenimiento de seguridad de larga data. Para obtener más información sobre los espacios de trabajo de los agentes, consulten Funciones agénticas experimentales: más información.
- Transparencia del usuario: una forma para que los usuarios autoricen, supervisen y controlen las acciones del agente en el espacio de trabajo del agente.
Pronto vendrán más bloques de construcción, como Entra y soporte de identidad MSA.
Las aplicaciones y acciones impulsadas por Copilot Actions se ejecutan en la cuenta del agente en lugar de en la cuenta del usuario de PC que ha iniciado sesión, lo que distingue con claridad el trabajo realizado por el agente de otras acciones en el sistema, como las realizadas por el usuario de PC. Las cuentas de agente solo se aprovisionan cuando los usuarios habilitan el espacio de trabajo del agente.
Durante la vista previa experimental de Copilot Actions, el agente tendrá acceso a un conjunto limitado de carpetas locales conocidas del usuario, como Documentos, Descargas, Escritorio o Imágenes, y otros recursos a los que pueden acceder todas las cuentas del sistema. Solo cuando el usuario proporciona autorización, Copilot Actions puede acceder a los datos fuera de estas carpetas. Los mecanismos de seguridad estándar de Windows, como las listas de control de acceso (ACL, por sus siglas en inglés), ayudan a evitar el uso no autorizado.
Mientras Copilot Actions está en funcionamiento, los usuarios pueden monitorear su progreso, mantenerse informados en cada paso y tomar el control en cualquier momento. Cuando se trata de acciones delicadas o decisiones importantes, Copilot Actions puede solicitar la aprobación adicional del usuario para tomar esas medidas específicas, lo que asegura su consentimiento y los pone a cargo antes de que ocurra algo crítico.
Mirar hacia el futuro
La seguridad es un compromiso continuo. A medida que expandamos las capacidades de los agentes en Windows, continuaremos con la evolución de nuestras defensas. Con la próxima versión preliminar de Copilot Actions para Windows Insiders en Copilot Labs, esperamos recopilar comentarios valiosos que nos ayudarán a dar forma a la experiencia antes de un lanzamiento más amplio. Además, la plataforma Windows y sus controles de seguridad estarán disponibles para otros desarrolladores en versión preliminar privada pronto para probar y proporcionar información.
Windows 11 es la versión más segura de Windows jamás creada, y a medida que entramos en esta nueva era de agentes, nuestro compromiso es claro: Windows será la plataforma más segura, confiable y centrada en el usuario para la computación agéntica.
Esperamos compartir más en Microsoft Ignite 2025 en noviembre.