​​Cyber ​​Signals 9ª Edição | Enganação impulsionada por IA: Ameaças emergentes de fraude e contramedidas

Um gráfico mostrando uma loja com uma vitrine e números.

A Microsoft mantém um esforço contínuo para proteger suas plataformas e clientes contra fraudes e abusos. Desde bloquear impostores no Azure e adicionar recursos antifraude ao Edge, até combater fraudes de suporte técnico com novos recursos na Assistência Rápida do Windows, esta edição do Cyber Signals apresenta marcos importantes alcançados que protegem os clientes.

Somos todos defensores.

Fotografia de Segurança

Entre abril de 2024 e abril de 2025, a Microsoft:

  • Impediu US$ 4 bilhões em tentativas de fraude
  • Rejeitou 49 mil inscrições fraudulentas de parceria
  • Bloqueou cerca de 1,6 milhão de tentativas de cadastro de bot por hora

Briefing de ameaças

A Evolução dos Golpes Cibernéticos Aprimorados por IA

A inteligência artificial (IA) começou a baixar a barreira técnica para agentes de fraudes e crimes cibernéticos em busca de suas próprias ferramentas de produtividade, tornando mais fácil e barato gerar conteúdo convincente para ataques em um ritmo cada vez mais rápido. O software de IA usado em tentativas de fraude varia de aplicativos legítimos utilizados de forma maliciosa a ferramentas voltadas para fraudes usadas por atores mal-intencionados no submundo do crime cibernético.

As ferramentas de IA podem escanear e extrair dados da web para obter informações de empresas, ajudando os invasores a construir perfis detalhados de funcionários ou outros alvos para criar iscas de engenharia social altamente convincentes. Em alguns casos, atores mal-intencionados estão atraindo vítimas para esquemas fraudulentos cada vez mais complexos, usando avaliações de produtos aprimoradas por IA e lojas online geradas por IA, nos quais golpistas criam sites inteiros e marcas de comércio eletrônico, completos com históricos de negócios e depoimentos de clientes falsos. Usando deepfakes, clonagem de voz, e-mails de phishing e sites falsos com aparência autêntica, os atores de ameaças buscam parecer legítimos em maior escala.

Segundo a Equipe Anti-Fraude da Microsoft, os ataques fradulentos orientados por IA estão acontecendo globalmente, com grande parte da atividade vindo da China e Europa, especificamente da Alemanha, devido em partes ao status da Alemanha como um dos maiores mercados de comércio eletrônico e serviços online da União Europeia (UE). Quanto maior o mercado digital, mais provável é que ocorra um grau proporcional de tentativa de fraude.

Fraude em Comércio Eletrônico

Sites fraudulentos de comércio eletrônico podem ser configurados em minutos usando IA e outras ferramentas que requerem conhecimento técnico mínimo. Anteriormente, levaria dias ou semanas para atores de ameaças criarem sites convincentes. Esses sites fraudulentos frequentemente imitam sites legítimos, tornando difícil para os consumidores identificá-los como falsos.

Usando descrições de produtos geradas por IA, imagens e avaliações de clientes, os consumidores são enganados a acreditar que estão interagindo com um comerciante genuíno, explorando a confiança do consumidor em marcas familiares.

Chatbots de atendimento com suporte de IA adicionam outra camada de engano ao interagir de forma convincente com os clientes. Esses bots podem atrasar reembolsos, postergando os clientes com desculpas roteirizadas e manipulando reclamações com respostas geradas por IA que fazem os sites fraudulentos parecerem profissionais.

Em uma abordagem multifacetada, a Microsoft implementou defesas robustas em nossos produtos e serviços para proteger os clientes contra fraudes alimentadas por IA. O Microsoft Defender for Cloud fornece proteção abrangente contra ameaças para recursos do Azure, incluindo avaliações de vulnerabilidade e detecção de ameaças para máquinas virtuais, imagens de contêiner e endpoints.

O Microsoft Edge apresenta proteção contra erros de digitação em sites e contra personificação de domínio, usando tecnologia de aprendizado profundo para ajudar os usuários a evitar sites fraudulentos. O Edge também implementou um Bloqueador de “Scareware” baseado em aprendizado de máquina para identificar e bloquear páginas de golpe em potencial e telas pop-up enganosas com avisos alarmantes alegando que um computador foi comprometido. Esses ataques tentam assustar os usuários a ligar para números de suporte fraudulentos ou baixar software prejudicial.

Fraude de Emprego e Contratação

O rápido avanço da IA generativa facilitou para golpistas criarem listas falsas em várias plataformas de emprego. Eles geram perfis falsos com credenciais roubadas, anúncios de emprego fraudulentos com descrições geradas automaticamente e campanhas de e-mail direcionadas por IA para phishing de candidatos a emprego. Entrevistas impulsionadas por IA e e-mails automatizados aumentam a credibilidade dos golpes de emprego, tornando mais difícil para os candidatos identificarem ofertas fraudulentas.

Para prevenir isso, plataformas de emprego devem introduzir autenticação multifator (MFA) para contas de empregadores, dificultando para atores mal-intencionados assumirem listas de empregadores legítimos e usar tecnologias de detecção de fraudes disponíveis para capturar conteúdo suspeito.

Os golpistas frequentemente pedem informações pessoais, como currículos ou até detalhes da conta bancária, sob o pretexto de verificar as informações do candidato. Além disso, mensagens de SMS e e-mails não solicitados oferecendo oportunidades de emprego com promessas de pagamento alto para qualificações mínimas são tipicamente um indicador de fraude.

Ofertas de emprego que incluem solicitações de pagamento, ofertas que parecem boas demais para ser verdade, ofertas não solicitadas ou pedidos de entrevista via SMS e a falta de plataformas de comunicação formal podem ser indicadores de fraude.

Golpes de Suporte Técnico

Os golpes de suporte técnico são um tipo de fraude no qual golpistas enganam as vítimas para serviços de suporte técnico desnecessários para corrigir problemas de dispositivo ou software que não existem.

Os golpes de suporte técnico são um caso no qual há riscos elevados de fraude, mesmo que a IA não desempenhe um papel. Por exemplo, em meados de abril de 2024, a Microsoft Threat Intelligence observou o grupo cibercriminoso focado em ransomware Storm-1811 abusando do software Microsoft Assitência Rápida ao se passar por suporte técnico. A Microsoft não observou o uso de IA nesses ataques; em vez disso, o Storm-1811 se posicionou como organizações legítimas através de phishing por voz (vishing) como uma forma de engenharia social, convencendo as vítimas a conceder-lhes acesso ao dispositivo via Assistência Rápida.

O Assistência Rápida é uma ferramenta que permite aos usuários compartilhar seus dispositivos Windows ou macOS com outra pessoa por meio de uma conexão remota. Golpistas de suporte técnico frequentemente se passam por profissionais de suporte de TI legítimos de empresas renomadas e usam táticas de engenharia social para ganhar a confiança de seus alvos. Em seguida, tentam usar ferramentas como o Assistência Rapida para se conectar ao dispositivo do alvo.

O Assistência Rápida e a Microsoft não são comprometidos nesses cenários de ataque; no entanto, o abuso de software legítimo apresenta riscos que a Microsoft está focada em mitigar. Informada pela compreensão da Microsoft sobre técnicas de ataque em evolução, as equipes de produtos e anti-fraude da Microsoft trabalham estreitamente para melhorar a transparência para os usuários e aprimorar as técnicas de detecção de fraudes.

Os ciberataques da Storm-1811 destacam a capacidade da engenharia social de contornar as defesas de segurança. A engenharia social envolve a coleta de informações relevantes sobre as vítimas e sua organização em iscas confiáveis, entregues por telefone, e-mail, mensagem de texto ou outros meios. Diversas ferramentas de IA podem encontrar, organizar e gerar informações rapidamente, atuando como ferramentas de produtividade para ciberataques. Embora a IA seja um desenvolvimento recente, medidas duradouras para combater ataques de engenharia social permanecem altamente eficazes. Essas medidas incluem aumentar a conscientização dos funcionários sobre os procedimentos legítimos de contato e suporte do helpdesk e aplicar os princípios de Zero Trust para impor o privilégio mínimo nas contas e dispositivos dos funcionários, limitando assim o impacto de quaisquer ativos comprometidos enquanto eles estão sendo tratados.

A Microsoft tomou medidas para mitigar ataques do Storm-1811 e outros grupos suspendendo contas e inquilinos identificados associados a comportamento inautêntico. Se você receber uma oferta de suporte técnico não solicitada, é provavelmente um golpe. Sempre contate fontes confiáveis para suporte técnico. Se os golpistas afirmarem ser da Microsoft, encorajamos você a relatar isso diretamente em https://www.microsoft.com/reportascam.

Com base na Iniciativa Futuro Seguro (Secure Future Initiative – SFI), a Microsoft está adotando uma abordagem proativa para garantir que nossos produtos e serviços sejam “Resistentes a Fraudes por Design”. Em janeiro de 2025, uma nova política de prevenção de fraudes foi introduzida: as equipes de produtos da Microsoft agora devem realizar avaliações de prevenção de fraudes e implementar controles de fraude como parte do processo de design.

Recomendações

  • Reforçar a autenticação do empregador: Os golpistas frequentemente sequestram perfis de empresas legítimas ou criam recrutadores falsos para enganar candidatos a emprego. Para evitar isso, as plataformas de emprego devem introduzir MFA (Autenticação Multifator) e ID verificado como parte do Entra ID para contas de empregadores, tornando mais difícil para usuários não autorizados ganharem controle.
  • Monitorar golpes de recrutamento baseados em IA: As empresas devem implantar algoritmos de detecção de deepfake para identificar entrevistas geradas por IA onde expressões faciais e padrões de fala podem não se alinhar naturalmente.
  • Ser cauteloso com websites e listagens de Emprego que parecem boas demais para ser verdade: Verifique a legitimidade dos sites conferindo se as conexões são seguras (https) e usando ferramentas como a proteção contra erros de digitação do Microsoft Edge.
  • Evitar vornecer informações pessoais ou detalhes de pagamento para fontes não verificadas: Procure sinais de alerta em listagens de empregos, como solicitações de pagamento ou comunicação através de plataformas informais como SMS, WhatsApp, contas pessoais de Gmail ou pedidos para contatar alguém em um dispositivo pessoal para mais informações.

Defendendo-se dos ataques

Usando o sinal de segurança da Microsoft para combater fraudes

A Microsoft está trabalhando ativamente para impedir tentativas de fraude usando IA e outras tecnologias, evoluindo modelos de detecção em larga escala baseados em IA, como aprendizado de máquina, para mitigar tentativas de fraude. O aprendizado de máquina é o processo que ajuda um computador a aprender sem instrução direta, usando algoritmos para descobrir padrões em grandes conjuntos de dados. Esses padrões são, então, usados para criar um modelo de IA abrangente, permitindo previsões com alta precisão.

Desenvolvemos controles de segurança no produto que alertam os usuários sobre atividades potencialmente maliciosas e integram detecção e prevenção rápida de novos tipos de ataques.

Nossa equipe de fraude desenvolveu proteção contra personificação de domínio usando tecnologia de aprendizado profundo na fase da criação de domínio, para ajudar a combater sites fraudulentos de comércio eletrônico e listagens de emprego falsas. O Microsoft Edge incorporou proteção contra erros de digitação em sites, e desenvolvemos sistemas de detecção de anúncios de empregos falsos alimentados por IA para o LinkedIn.

O Microsoft Defender Smartscreen é um recurso de segurança baseado em nuvem que visa prevenir hábitos de navegação inseguros analisando sites, arquivos e aplicativos com base em sua reputação e comportamento. Está integrado no Windows e no navegador Edge para ajudar a proteger os usuários contra-ataques de phishing, sites maliciosos e downloads potencialmente prejudiciais.

Além disso, a Unidade de Crimes Digitais (DCU) da Microsoft faz parceria com outros setores privados e públicos para interromper a infraestrutura maliciosa usada por criminosos que perpetuam fraudes cibernéticas. A colaboração de longa data da equipe com a aplicação da lei em todo os países para combater fraudes de suporte técnico resultou em centenas de prisões e sentenças cada vez mais severas em todo o mundo. A DCU está aplicando lições chave de ações passadas para interromper aqueles que buscam abusar da tecnologia de IA generativa para fins maliciosos ou fraudulentos.

Recursos do Assistência Rápida e Ajuda Remota Combatem Fraudes de Suporte Técnico

Para ajudar a combater fraudes de suporte técnico, incorporamos mensagens de aviso para alertar os usuários sobre possíveis golpes de suporte técnico no Assistência Rápida do Windows antes que eles concedam acesso a alguém que se apresenta como um departamento de TI autorizado ou outro recurso de suporte.

Os usuários do Windows devem ler e clicar na caixa para reconhecer o risco de segurança de conceder acesso remoto ao dispositivo.

A Microsoft aprimorou significativamente a proteção do Assistência Rápida para usuários aproveitarem seu sinal de segurança. Em resposta a golpes de suporte técnico e outras ameaças, a Microsoft agora bloqueia uma média de 4.415 tentativas de conexão suspeitas do Assistência Rápida diariamente, representando aproximadamente 5,46% das tentativas de conexão globais. Esses bloqueios visam conexões que exibem atributos suspeitos, como associações com atores mal-intencionados ou conexões não verificadas.

O foco contínuo da Microsoft em avançar as salvaguardas do Assistência Rápida busca combater cibercriminosos adaptativos, que anteriormente visavam indivíduos oportunisticamente com tentativas de conexão fraudulentas, mas mais recentemente buscaram atingir empresas com campanhas de crime cibernético mais organizadas que as ações da Microsoft ajudaram a interromper.

Nossa capacidade de Impressão Digital, que aproveita IA e aprendizado de máquina, direciona essas salvaguardas fornecendo sinais de fraude e risco para detectar atividades fraudulentas. Se nossos sinais de risco detectarem um possível golpe, a sessão do Assistência Rápida é automaticamente encerrada. A Impressão Digital funciona coletando vários sinais para detectar e prevenir fraudes.

Para empresas combatendo fraudes de suporte técnico, o Ajuda Remota é outro recurso valioso para os funcionários. A ferramenta é projetada para uso interno dentro de uma organização e inclui recursos que a tornam ideal para empresas.

Reduzindo golpes e fraudes, a Microsoft visa melhorar a segurança geral de seus produtos e proteger seus usuários contra atividades maliciosas.

Dicas de Proteção ao Consumidor

Os golpistas exploram gatilhos psicológicos como urgência, escassez e confiança na prova social. Os consumidores devem ter cautela com:

  • Compras por impulso – Os golpistas criam um senso de urgência com ofertas de “tempo limitado” e cronômetros de contagem regressiva.
  • Confiar em provas sociais falsas – A IA gera avaliações falsas, endossos de influenciadores e depoimentos para parecer legítimo.
  • Clicar em anúncios sem verificação – Muitos sites fraudulentos se espalham por meio de anúncios otimizados por IA nas mídias sociais. Os consumidores devem verificar nomes de domínio e avaliações antes de comprar.
  • Ignorar a segurança do pagamento – Evite transferências bancárias diretas ou pagamentos em criptomoeda, que não possuem proteções contra fraudes.

Os candidatos a emprego devem verificar a legitimidade do empregador, estar atentos aos sinais comuns de fraude de emprego e evitar compartilhar informações pessoais ou financeiras com empregadores não verificados.

  • Verifique a legitimidade do empregador – verifique os detalhes da empresa no LinkedIn, Glassdoor e sites oficiais para verificar a legitimidade.
  • Observe os sinais comuns de fraude de emprego – Se um emprego exigir pagamentos antecipados para materiais de treinamento, certificações ou verificações de antecedentes, é provavelmente um golpe. Salários irreais ou posições remotas que não exigem experiência devem ser abordadas com ceticismo. E-mails de domínios gratuitos (por exemplo, [email protected] em vez de [email protected]) também são normalmente indicadores de atividade fraudulenta.
  • Tenha cautela com entrevistas e comunicações geradas por IA – Se uma entrevista em vídeo parecer não natural, com atrasos na sincronização dos lábios, fala robótica ou expressões faciais estranhas, pode ser tecnologia deepfake em ação. Os candidatos a emprego devem sempre verificar as credenciais do recrutador através do site oficial da empresa antes de envolver-se em qualquer discussão adicional.
  • Evite compartilhar informações pessoais ou financeiras – Em nenhuma circunstância deve-se fornecer um número de Seguro Social, detalhes bancários ou senhas para um empregador não verificado.

A Microsoft também é membro da Global Anti-Scam Alliance (GASA), que visa reunir governos, órgãos de aplicação da lei, organizações de proteção ao consumidor, autoridades e provedores financeiros, agências de proteção de marcas, mídias sociais, provedores de serviços de internet e empresas de cibersegurança para compartilhar conhecimento e proteger os consumidores de golpes.

Recomendações

  • Ajuda Remota: A Microsoft recomenda usar o Ajuda Remota em vez do Assistência Rápida para suporte técnico interno. O Ajuda Remota é projetado para uso interno dentro de uma organização e inclui recursos que o tornam imune a hacks de suporte técnico. Ele é projetado para ser usado apenas dentro do perfil de uma organização, fornecendo uma alternativa mais segura ao Assistência Rápida.
  • Impressão Digital: Nossa capacidade de impressão digital identifica comportamentos maliciosos e os vincula a indivíduos específicos. Isso ajuda a monitorar e prevenir o acesso não autorizado.
  • Bloqueio de Solicitações de Controle Total: O Assistência Rápida agora inclui avisos e exige que os usuários marquem uma caixa reconhecendo as implicações de segurança de compartilhar sua tela. Isso adiciona uma camada útil de “atrito de segurança”, alertando os usuários que podem estar multitarefas ou ocupados para pausar e concluir uma etapa de autorização.

Perfil do Especialista

Kelly Bissell: Um Pioneiro em Cibersegurança Combatendo Fraudes na Nova Era da IA

Kelly Bissell iniciou sua jornada na cibersegurança inesperadamente em 1990. Inicialmente trabalhando em ciência da computação, Kelly estava envolvido na construção de software para contabilidade de pacientes e sistemas operacionais na Medaphis e Bellsouth, agora AT&T.

Seu interesse em cibersegurança foi despertado quando percebeu alguém logado em um comutador telefônico tentando obter chamadas de longa distância gratuitas e rastreou o invasor até a Romênia. Esse incidente marcou o início da carreira de Kelly na cibersegurança.

Anteriormente, Kelly gerenciou o Microsoft Detection and Response Team (DART) e criou o Global Hunting, Oversight, and Strategic Triage (GHOST) team que detectou e respondeu a atacantes como Storm-0558 e Midnight Blizzard.

Antes da Microsoft, durante seu tempo na Accenture e Deloitte, Kelly colaborou com empresas e trabalhou extensivamente com agências governamentais como a Agência de Cibersegurança e Infraestrutura do Departamento de Segurança Interna (CISA) e o FBI, onde ajudou a construir sistemas de segurança dentro de suas operações.

Sua experiência como Diretor de Segurança da Informação (CISO) em um banco o expôs tanto à cibersegurança quanto à fraude, levando à sua participação na definição de diretrizes regulatórias para proteger bancos e eventualmente a Microsoft.

Kelly também desempenhou um papel significativo na definição de regulamentações ao redor do National Institute of Standards and Technology (NIST), compliance do Payment Card Industry (PCI), que ajuda a garantir a segurança das transações com cartão de crédito das empresas, entre outros.

Internacionalmente, Kelly desempenhou um papel crucial na ajuda para estabelecer agências e melhorar medidas de cibersegurança. Como consultor em Londres, ele ajudou a criar o Centro Nacional de Cibersegurança do Reino Unido (NCSC), que faz parte do Government Communications Headquarters (GCHQ), equivalente à Agência de Segurança e Infraestrutura Cibernética dos EUA (CISA). Os esforços de Kelly na moderação de conteúdo com várias empresas de mídia social, incluindo YouTube, foram essenciais na remoção de conteúdo prejudicial.

É por isso que ele está animado com a parceria da Microsoft com a GASA. A GASA reúne governos, agências de aplicação da lei, organizações de proteção ao consumidor, autoridades financeiras, provedores de serviços de internet, empresas de cibersegurança e outros para compartilhar conhecimento e definir ações conjuntas para proteger os consumidores contra golpes.

“Se eu proteger a Microsoft, isso é bom, mas não é suficiente. Da mesma forma, se a Apple fizer a sua parte, e o Google fizer a sua parte, mas não estivermos trabalhando juntos, todos nós perdemos a maior oportunidade. Precisamos compartilhar informações sobre crimes cibernéticos entre nós e educar o público. Se pudermos ter uma abordagem tripla de empresas de tecnologia construindo segurança e proteção contra fraudes em seus produtos, conscientização pública e compartilhamento de informações sobre crimes cibernéticos e fraudadores com a aplicação da lei, acredito que podemos fazer uma grande diferença.”, ele diz.

Próximos passos com o Microsoft Security

Para saber mais sobre as soluções de segurança da Microsoft, visite nosso site. Adicione o blog de Security aos seus favoritos para acompanhar nossa cobertura especializada em questões de segurança. Siga-nos também no LinkedIn (Microsoft Security) e no X (@MSFTSecurity) para as últimas notícias e atualizações sobre segurança cibernética.

_____________________________________

Metodologia: Plataformas e serviços da Microsoft, incluindo Azure, Microsoft Defender para Office, Microsoft Threat Intelligence e Microsoft Digital Crimes Unit (DCU), forneceram dados anonimizados sobre a atividade e as tendências dos agentes de ameaças. Além disso, o Microsoft Entra ID forneceu dados anonimizados sobre a atividade de ameaças, como contas de e-mail maliciosas, e-mails de phishing e movimentação de invasores nas redes. Insights adicionais são obtidos a partir dos sinais diários de segurança coletados em toda a Microsoft, incluindo a nuvem, endpoints, Intelligent Edge e telemetria das plataformas e serviços da Microsoft. O valor de US$ 4 bilhões representa um total agregado de tentativas de fraude e golpes contra a Microsoft e nossos clientes nos segmentos de consumo e corporativo (em 12 meses).