Atualização sobre a arquitetura de segurança e privacidade do Recall

Por David Weston, vice-presidente de Entreprise e Segurança de SO na Microsoft

À medida que a inteligência artificial se torna mais parte do Windows, a Microsoft está fazendo mais coisas com a IA na ponta com o poder de uma Unidade de Processamento Neural 40+ TOPS nos Copilot+ PCs. Isso permite menor latência, melhor duração da bateria para tarefas intensas de IA, uso de experiências de IA sem conexão com a Internet e melhor privacidade ao reter informações localmente.

Deslocar modelos e processamento de dados relacionados à IA para o PC também cria desafios de segurança exclusivos que precisam ser levados em consideração no design do produto. Este blog descreve os modelos de segurança e privacidade, a arquitetura de segurança e os controles técnicos implementados no Recall (versão prévia), uma experiência exclusiva totalmente nova que chega aos Copilot+ PCs. O Recall foi projetado para ajudá-lo a encontrar instantaneamente e com segurança o que você viu em seu PC.

Princípios de design de segurança e privacidade

1. O Recall foi projetado com segurança e privacidade em mente e construído com base em quatro princípios alinhados às atualizações anunciadas em junho:
   O usuário está sempre no controle.
   • O Recall é uma experiência opcional. Durante a experiência de configuração para Copilot+ PCs, os usuários têm uma opção clara de optar por salvar instantâneos usando o Recall. Se um usuário não optar por ativá-lo proativamente, ele será desativado e os instantâneos não serão tirados ou salvos. Os usuários também podem remover o Recall inteiramente usando as configurações de recursos opcionais no Windows.
2. Os dados confidenciais no Recall são sempre criptografados e as chaves são protegidas.
   • Os instantâneos e todas as informações associadas no banco de dados vetorial são sempre criptografados. As chaves de criptografia são protegidas por meio do TPM (Trusted Platform Module), vinculado à identidade de Segurança de Entrada Aprimorada do Windows Hello de um usuário e só podem ser usadas por operações em um ambiente seguro chamado Enclave de Segurança Baseada em Virtualização (VBS Enclave, em inglês). Isso significa que outros usuários não podem acessar essas chaves e, portanto, não podem descriptografar essas informações.
3. Os serviços de recall que operam em instantâneos e dados associados são isolados.
   • No Recall, os serviços que operam em capturas de tela e dados associados ou executam operações de descriptografia residem em um Enclave VBS seguro. A única informação que sai do Enclave VBS é o que é solicitado pelo usuário ao usar ativamente o Recall.
4. Os usuários são presentes e intencionais sobre o uso do Recall.
   • O Recall aproveita a Segurança de Entrada Aprimorada do Windows Hello para autorizar operações relacionadas à funcionalidade. Isso inclui ações como alterar as configurações de Recall e autorização em tempo de execução de acesso à interface do usuário (UI) de Recall. O Recall também protege contra malware por meio de medidas de limitação de taxa e anti-hammering . Atualmente, o Recall oferece suporte ao PIN como um método de fallback somente após a configuração do Recall, e isso é para evitar a perda de dados se um sensor seguro for danificado.

Modelo de Segurança do Recall

Os instantâneos do Recall e os dados associados são protegidos por enclaves VBS seguros. Os enclaves VBS usam o mesmo hipervisor que o Azure para segmentar a memória do computador em uma área protegida especial onde as informações podem ser processadas. Usando princípios de Zero Trust, o código nesses enclaves pode usar protocolos de atestado criptográfico para proteger se o ambiente é seguro antes de executar operações confidenciais, como processamento de instantâneo. Essa área funciona como uma caixa bloqueada que só pode ser acessada após a permissão concedida pelo usuário por meio do Windows Hello. Os enclaves VBS oferecem um limite de isolamento dos usuários do kernel e administrativos.

Os instantâneos do Recall estão disponíveis somente depois que você autentica usando credenciais do Windows Hello. Especificamente, as credenciais biométricas da Segurança de Entrada Aprimorada do Windows Hello protegem sua privacidade e autenticam você ativamente para consultar seus índices semânticos e exibir instantâneos associados.

As credenciais biométricas devem ser registradas para pesquisar o conteúdo do Recall. O uso de enclaves VBS com a Segurança de Entrada Aprimorada do Windows Hello permite que os dados sejam descriptografados brevemente enquanto você usa o recurso Recall para pesquisar. A autorização atingirá o tempo limite e exigirá que o usuário autorize o acesso para sessões futuras. Isso restringe as tentativas de malware latente que tentam “acompanhar” uma autenticação de usuário para roubar dados.

Controles de privacidade do Recall

O Recall é sempre opcional. Os instantâneos não são tirados ou salvos, a menos que você opte por usar o Recall. Os instantâneos e os dados associados são armazenados localmente no dispositivo. O Recall não compartilha instantâneos ou dados associados com a Microsoft ou terceiros, nem é compartilhado entre diferentes usuários do Windows no mesmo dispositivo. O Windows solicitará sua permissão antes de salvar instantâneos. Você está sempre no controle e pode excluir instantâneos, pausar ou desativá-los a qualquer momento. Quaisquer opções futuras para o usuário compartilhar dados exigirão uma ação explícita totalmente informada do usuário.

O Windows oferece um conjunto avançado de ferramentas para ajudá-lo a controlar sua privacidade e personalizar o que é salvo para você encontrar mais tarde no Recall.

• A navegação privada em navegadores compatíveis nunca é salva.
• Os usuários podem filtrar aplicativos ou sites específicos visualizados em navegadores compatíveis.
• Os usuários podem controlar por quanto tempo o conteúdo do Recall é retido e quanto espaço em disco é alocado para snapshots.
• A filtragem de conteúdo confidencial está ativada por padrão e ajuda a reduzir o armazenamento de senhas, números de identificação nacional e números de cartão de crédito no Recall. A mesma biblioteca alimenta o produto de proteção de informações Purview da Microsoft, que é implantado em empresas em todo o mundo.
• Encontrou algo que você não queria salvar? Você pode excluir um intervalo de tempo, todo o conteúdo de um aplicativo ou site ou tudo e qualquer coisa encontrada na pesquisa de Recall.
• Um ícone na bandeja do sistema ajudará você a saber quando os instantâneos estão sendo salvos e facilitará a pausa rápida do salvamento de instantâneos.

Com os controles do Recall, um usuário pode armazenar o quanto quiser e permanecer no controle. Observação: como qualquer recurso do Windows, alguns dados de diagnóstico podem ser fornecidos com base nas configurações de privacidade do usuário.

Arquitetura do Recall

Os principais componentes da arquitetura Recall são os seguintes:

Configurações seguras

Um armazenamento de dados protegido usado no Enclave VBS, que armazena dados de configuração de segurança para Recall. Para fazer alterações nas configurações confidenciais de segurança, um usuário deve autorizar as ações executadas no enclave para evitar adulterações mal-intencionadas. Além disso, as configurações são seguras por padrão, o que significa que, se for detectada adulteração, elas serão revertidas para padrões seguros.

Índice semântico

O índice semântico converte imagens e texto em vetores para pesquisa posterior. Esses vetores podem fazer referência a informações privadas extraídas de instantâneos, portanto, esses vetores são criptografados por chaves protegidas no VBS Enclave. Todas as operações de consulta são executadas no Enclave VBS.

Repositório de Instantâneos

Contém os snapshots salvos e os metadados associados, incluindo todos os URIs de inicialização fornecidos por aplicativos que se integram à API Recall User Activity, bem como dados como a hora do snapshot, a string da barra de título, os tempos de permanência do aplicativo etc. Cada snapshot é criptografado por chaves individuais e essas chaves são protegidas no VBS Enclave.

Experiência do usuário no Recall

A experiência de interface do usuário que os usuários aproveitam para encontrar coisas que fizeram em seu PC, incluindo linha do tempo, pesquisa e exibição de instantâneos específicos.

Serviço de instantâneo

Processo em segundo plano que fornece o tempo de execução para salvar novos instantâneos, bem como consultar e processar dados retornados pelo Enclave VBS.

Os serviços de armazenamento da Recall residem em um enclave VBS para proteger dados, chaves e adulteração contra malware ou invasores que operam na máquina. Os componentes de recall, como a interface do usuário de recall, operam fora dos enclaves VBS e não são confiáveis nessa arquitetura.

Como o Snapshot Service deve liberar informações solicitadas por um usuário por design, um princípio fundamental do design é reduzir o potencial de exfiltração de dados fora do uso normal do sistema de recall.

Os processos fora dos enclaves VBS nunca recebem acesso direto a instantâneos ou chaves de criptografia e só recebem dados retornados do enclave após a autorização. O período de autorização tem um tempo limite e proteção anti-hammering que limitam o impacto de consultas maliciosas. O Serviço de Instantâneo é um processo protegido que limita ainda mais o acesso mal-intencionado à memória que contém os dados retornados da consulta fora do Enclave VBS. Os processos protegidos são a mesma tecnologia usada para proteger o antimalware e o host LSA do Windows contra-ataques.

Por fim, o Recall VBS Enclave aproveita a proteção contra simultaneidade e contadores monotônicos para impedir que usuários mal-intencionados sobrecarreguem o sistema fazendo muitas solicitações.

Propriedades arquitetônicas adicionais que são essenciais para a segurança do Recall:

Enclaves VBS vinculados e verificados

• As chaves de criptografia usadas pelo Recall são criptograficamente vinculadas à identidade do usuário final, seladas por uma chave derivada do TPM da plataforma de hardware e são executadas inteiramente dentro do limite confiável do Nível de Confiança Virtual 1 (VTL1).
• Segurança baseada em virtualização (VBS) – o hipervisor fornece o ambiente de enclave seguro, que carrega o código verificado por integridade em um TEE confidencial e isolado.

A Recall opera apenas em Copilot+ PCs

O Recall opera apenas em Copilot+ PCs que atendem ao padrão Secured-core e incluem os seguintes recursos por padrão, que são verificados pelo Recall:

• BitLocker (Windows 11 Pro) e Criptografia de Dispositivo (Windows 11 Home) TPM (Trusted Platform Module) 2.0 – o TPM fornece raiz de confiança para a plataforma segura, gerenciamento de chaves usadas pelo Secure Enclave TEE e primitivos adicionais de proteção de plataforma, como contadores monotônicos não falsificáveis.
• Segurança baseada em virtualização e integridade de código imposta pelo hipervisor.
• Inicialização medida e inicialização segura do System Guard – Se uma máquina não for inicializada com segurança, ela não poderá atestar o estado de segurança do sistema e as chaves de versão, o que pode abrir o lacre do conteúdo protegido anteriormente, mitigando assim os ataques de inicialização antecipada.
• Proteção DMA do kernel contra-ataques periféricos.

Revisões de segurança no Recall

Além de projetar e arquitetar o Recall com segurança, privacidade e IA responsável em mente, também realizamos um conjunto de avaliações de segurança completas do recurso.
Isso inclui os seguintes esforços para garantir uma abordagem cuidadosa e segura:

• A equipe de Pesquisa Ofensiva e Engenharia de Segurança da Microsoft (MORSE) realizou meses de revisões de design e testes de penetração no Recall.
• Um fornecedor de segurança terceirizado foi contratado para realizar uma revisão independente do design de segurança e um teste de penetração.
• Uma Avaliação de Impacto de IA Responsável (RAI) foi concluída, abrangendo a análise de riscos, danos e mitigações em nossos seis princípios RAI (Justiça, Confiabilidade e Segurança, Privacidade e Segurança, Inclusão, Transparência, Responsabilidade). Um documento coeso de aprendizado e suporte da RAI foi desenvolvido para aumentar a conscientização interna, e o conteúdo da RAI voltado para o exterior foi publicado para gerar confiança e transparência com nossos clientes.

Conclusão

O design e a implementação seguros do Recall fornecem um conjunto robusto de controles contra ameaças conhecidas. A Microsoft está comprometida em disponibilizar o poder da IA para todos, mantendo a segurança e a privacidade até mesmo contra os ataques mais sofisticados.

Nós realmente acreditamos que a segurança é um esforço de equipe. Ao fazer parceria com OEMs, desenvolvedores de aplicativos e outros no ecossistema, além de ajudar as pessoas a se protegerem melhor, estamos oferecendo uma experiência do Windows mais segura por design e segura por padrão. O Livro de Segurança do Windows 11 (em inglês) está disponível para ajudá-lo a saber mais sobre o que torna mais fácil para os usuários permanecerem seguros com o Windows.

Para saber mais sobre as soluções de segurança da Microsoft, visite nosso site. Marque o Blog de Segurança da Microsoft para acompanhar nossa cobertura especializada em questões de segurança. Além disso, siga-nos no LinkedIn (Microsoft Security) para obter as últimas notícias e atualizações sobre segurança cibernética.