Por Courtney Gregoire – Diretora de Segurança Digital
Todos os anos, o Dia da Internet Segura oferece uma oportunidade para fazer uma pausa e refletir sobre o nível da segurança on-line – até onde chegamos e como podemos continuar melhorando. Por quase uma década, a Microsoft marcou a ocasião lançando pesquisas sobre como indivíduos de todas as idades percebem e vivenciam o risco online. No ano passado, destacamos a crescente importância da IA. Este ano, em nossa nona Pesquisa Global de Segurança Online, nos aprofundamos em entender como as pessoas veem e estão usando essa tecnologia, e como podem identificar conteúdos gerados por IA.
Nossas descobertas mostram que, embora tenha havido um aumento global de usuários ativos de IA (51% em comparação com 38% em 2023) as preocupações com a tecnologia também aumentaram: 88% das pessoas estavam preocupadas com a IA generativa, em comparação com 83% no ano passado. Além disso, nossos dados confirmam que as pessoas têm dificuldade em identificar conteúdo gerado por IA, o que pode amplificar os riscos abusivos desse tipo de conteúdo.
Anunciando novos recursos para empoderar o uso responsável da IA
Na Microsoft, estamos comprometidos em avançar a IA de forma responsável para concretizar seus benefícios. Para isso, é fundamental o trabalho que fazemos para construir uma arquitetura de segurança forte e proteger nossos serviços contra abusos. Infelizmente, sabemos que a criação de conteúdo nocivo é uma das maneiras pelas quais a IA pode estar sujeita a abusos, e é por isso que estamos adotando uma abordagem abrangente para essa questão. Essa abordagem inclui conscientização e educação pública – e a pesquisa deste ano ressaltou a necessidade de alfabetização sobre mídias e a orientação sobre o uso responsável da IA. Com base no lançamento do nosso Family Safety Toolkit no ano passado, temos o prazer de anunciar novos recursos:
- Parceria com a Childnet: Estamos orgulhosos da parceria com a Childnet, uma organização líder do Reino Unido dedicada a tornar a Internet um lugar mais seguro para as crianças. Juntos, estamos desenvolvendo materiais educacionais destinados a prevenir o uso indevido da IA, como a criação de deepfakes. Esses recursos estarão disponíveis para escolas e famílias, fornecendo informações valiosas sobre como proteger as crianças dos riscos online. Essa parceria ressalta nossa abordagem abrangente para lidar com os riscos de imagens íntimas não consensuais (NCI, em inglês), inclusive por meio da educação para adolescentes.
- Minecraft “CyberSafe AI: Dig Deeper”: Temos o prazer de anunciar o lançamento de “CyberSafe AI: Dig Deeper“, um novo jogo educacional no Minecraft e Minecraft Education que se concentra no uso responsável da IA. Este jogo foi projetado para engajar mentes jovens e estimular a curiosidade enquanto ensina lições importantes sobre IA em um ambiente de jogos seguro e controlado. Os jogadores embarcarão em aventuras emocionantes, resolvendo quebra-cabeças e desafios que destacam as considerações éticas da IA e prepará-los para navegar em cenários reais de segurança digital em casa e na escola. Embora o jogador não se envolva com a tecnologia de IA generativa diretamente por meio do jogo, ele trabalhará em desafios e cenários que simulam o uso de IA e aprenderá a usá-la de forma responsável. “Dig Deeper” é a quarta entrada de uma série de mundos CyberSafe do Minecraft criados em parceria com o Xbox Family Safety que foram baixados mais de 80 milhões de vezes.
- Guia de IA para Adultos acima de 50 anos: Temos também o orgulho de fazer uma parceria com a Older Adults Technology Services (OATS) da AARP, cujos programas e parceiros envolvem coletivamente mais de 500 mil adultos a cada ano com tecnologia gratuita e treinamento em IA. Como parte da parceria, a OATS lançou um Guia de IA para adultos acima de 50 anos que ajuda pessoas a partir desta faixa etária a entender os benefícios e riscos da IA incluindo orientação sobre como permanecer seguro. O treinamento para a equipe do call center da OATS para lidar com questões relacionadas à IA também está ajudando a aumentar a confiança dos adultos em sua capacidade de usar a tecnologia e identificar golpes.
Recursos adicionais para que educadores ajudem os alunos a navegar no mundo digital podem ser encontrados aqui.
Um mergulho mais profundo nos resultados da Pesquisa Global de Segurança Online deste ano
À medida que o cenário digital evolui, adaptamos nossa pesquisa global para refletir essas mudanças. Este ano, identificamos uma oportunidade para questionar as pessoas sobre sua capacidade de identificar conteúdo gerado por IA usando imagens do questionário “Real or Not” da Microsoft. Perguntamos aos entrevistados sobre sua confiança em detectar deepfakes antes e depois de ver uma série de imagens. Descobrimos que 73% dos entrevistados admitiram que detectar imagens geradas por IA é difícil e apenas 38% das imagens foram identificadas corretamente. Também perguntamos às pessoas sobre suas preocupações sobre IA generativa: golpes (73%), abuso sexual ou online (73%) e deepfakes (72%).
Gráfico superior: Antes de ver imagens (% concordo ou em discordo da afirmação “Posso notar a diferença [entre imagens reais e criadas por IA]”)
Concordo (46%) | Neutro (25%) | Discordo (29%)
Gráfico inferior: Depois de ver imagens (% quão difícil é notar a diferença)
Fácil (9%) | Um pouco difícil (18%) | Difícil (73%)
Nossa pesquisa também mostra que as pessoas em todo o mundo continuam expostas a uma variedade de riscos online, com 66% expostas a pelo menos um risco no ano passado. Você pode encontrar os resultados completos, incluindo dados adicionais sobre experiências de adolescentes e pais e percepções da vida online, aqui.
Reafirmando nosso compromisso com a segurança online
Nossa abordagem na Microsoft está centrada em capacitar os usuários, promovendo a segurança e os direitos humanos. Sabemos que temos a responsabilidade de tomar medidas para proteger nossos usuários de conteúdo e conduta online ilegais e prejudiciais, bem como contribuir para um ecossistema online mais seguro. Também temos a responsabilidade de proteger os direitos humanos, incluindo valores críticos como liberdade de expressão, privacidade e acesso à informação. Na Microsoft, alcançamos esse equilíbrio adaptando cuidadosamente nossas intervenções de segurança em nossos diferentes serviços ao consumidor, dependendo da natureza do serviço e do dano.
Nossa abordagem para promover a segurança online sempre foi baseada na privacidade e na liberdade de expressão. Defendemos regulamentações de segurança proporcionais e personalizadas, apoiando abordagens baseadas em risco e alertando contramedidas excessivamente amplas que prejudicam a privacidade ou a liberdade de expressão. Continuaremos a nos envolver estreitamente com formuladores de políticas e reguladores em todo o mundo sobre maneiras de lidar com os maiores riscos, especialmente para crianças, de maneira ponderada: software de produtividade como o Microsoft Word, por exemplo, não deve estar sujeito aos mesmos requisitos que um serviço de mídia social. E, finalmente, continuaremos nossa defesa de uma legislação modernizada para proteger o público de conteúdo abusivo gerado por IA em apoio a um ambiente digital mais seguro para todos.
Metodologia da Pesquisa Global de Segurança Online
A Microsoft publica uma pesquisa anual desde 2016 sobre como pessoas de várias idades usam e veem a tecnologia online. Este último relatório é baseado em uma pesquisa com quase 15 mil adolescentes (13-17 anos) e adultos que foi realizada no verão passado em 15 países, incluindo o Brasil, examinando as atitudes e percepções das pessoas sobre ferramentas e interações de segurança online. As respostas à segurança online diferem dependendo do país. Os resultados completos podem ser acessados aqui.
