Die wichtigsten Neuigkeiten im Überblick:
- Neue Forschungsergebnisse zur Online-Sicherheit: Die Global Online Safety Survey 2025 zeigt, dass 88 % der Befragten Bedenken gegenüber generativer KI haben – ein Anstieg gegenüber 83 % im Vorjahr. Bei deutschen Eltern lag die Sorge bei Szenarien, in denen KI zum Einsatz kommt, bei 70% oder mehr. Zu den zentralen Risiken, denen Kinder in Deutschland ausgesetzt sind, gehören Fehl- und Desinformation (47%), persönliche Risiken wie Mobbing (42%) und gewalttätige Inhalte (28%).
- Schulungsmaterialien gegen KI-Missbrauch: Microsoft arbeitet mit der britischen Organisation Childnet zusammen, um neue Lernressourcen zu entwickeln. Diese sollen Kinder und Familien dabei unterstützen, sich vor Risiken wie Deepfakes und nicht einvernehmlichen intimen Bildern (NCII) zu schützen.
- „Dig Deeper“ in Minecraft: Mit dem neuen interaktiven Lernspiel vermittelt Microsoft Kindern spielerisch den sicheren Umgang mit KI. Durch spannende Rätsel und Herausforderungen lernen sie, ethische Fragen zu KI-Technologien zu verstehen.
Der folgende Beitrag ist eine Übersetzung des Blog-Artikels von Courtney Gregoire, Chief Digital Safety Officer, den Sie hier im Original lesen können: Safer Internet Day 2025: Tackling abusive AI-generated content risks through education and empowerment – Microsoft On the Issues
Der Safer Internet Day bietet jedes Jahr einen guten Anlass, um über den aktuellen Stand der Sicherheit im Internet nachzudenken – darüber, wie weit wir gekommen sind und was wir weiter verbessern können. Microsoft nutzt dieses Datum seit fast einem Jahrzehnt dazu, Forschungsergebnisse darüber zu veröffentlichen, wie Menschen aller Altersgruppen Online-Risiken im Internet wahrnehmen.
Letztes Jahr haben wir den wachsenden Einfluss von KI hervorgehoben. Dieses Jahr, in unserem neunten Global Online Safety Survey, sind wir tiefer in diese Materie eingetaucht, um zu verstehen, wie Menschen diese Technologie sehen, sie einsetzen und wie sicher sie KI-generierte Inhalte identifizieren können.
Unsere Ergebnisse zeigen, dass einerseits die Zahl aktiver KI-Nutzer*innen weltweit gestiegen ist, dass aber andererseits auch die Bedenken gegen diese Technologie zugenommen haben: 88 Prozent der Befragten hatten Bedenken gegenüber generativer KI, verglichen mit 83 Prozent im vergangenen Jahr. Darüber hinaus zeigen unsere Daten, dass viele es schwierig finden, KI-generierte Inhalte zu erkennen, was das mit ihnen verbundene Risiko erhöht.
Neue Ressourcen zur Förderung verantwortungsvoller KI-Nutzung angekündigt
Microsoft will sicherstellen, dass KI ethisch und sicher eingesetzt wird: Unsere Bemühungen um verantwortungsvolle KI zielen darauf ab, dass KI der Menschheit zugutekommt, während unsere Bemühungen um Vertrauen und Sicherheit darauf abzielen, unsere Nutzerinnen und Nutzer zu schützen. Leider wissen wir, dass KI missbraucht werden kann, um schädliche Inhalte zu erstellen. Wir versuchen, dieses Problem zu lösen. Das fängt damit an, dass wir die Öffentlichkeit für das Thema sensibilisieren und Wissengrundlagen vermitteln, denn unser diesjähriger Bericht zeigt den Bedarf an Medienkompetenz und das Interesse am verantwortungsvollen Einsatz von KI. Wir freuen uns deshalb, zwei neue Ressourcen anzukündigen, die auf unserem im vergangenen Jahr eingeführten Family Safety Toolkit basieren:
- Partnerschaft mit Childnet: Wir sind stolz auf unsere Zusammenarbeit mit Childnet, einer britischen Organisation, die sich dafür einsetzt, das Internet zu einem sichereren Ort für Kinder zu machen. Gemeinsam entwickeln wir Schulungsmaterialien, die darauf abzielen, den Missbrauch von KI, wie die Erstellung von Deepfakes, zu verhindern. Diese Ressourcen werden Schulen und Familien zur Verfügung stehen und enthalten wertvolle Informationen, um Kinder vor Online-Risiken zu schützen.
- Minecraft „Dig Deeper”: Wir freuen uns, die Veröffentlichung von „Dig Deeper“ anzukündigen, einem neuen Lernspiel in Minecraft, das sich auf den verantwortungsvollen Umgang mit KI veranschaulicht. Das Spiel soll junge Köpfe anregen und Neugier wecken, während es wichtige Lektionen über KI vermittelt. Die Spieler*innen erleben spannende Abenteuer, lösen Rätsel und meistern Herausforderungen, die ethische Fragestellungen von KI thematisieren. „Dig Deeper“ ist nicht nur ein Spiel – es ist ein interaktives Lernerlebnis, das Kinder dazu befähigt, KI in einer sicheren und kontrollierten Umgebung zu entdecken.
- KI-Leitfaden für ältere Menschen: Wir arbeiten mit den Older Adults Technology Services (OATS) von AARP zusammen, deren Programme und Partner jährlich über 500.000 ältere Menschen mit kostenlosem Technologie- und KI-Training erreichen. Im Rahmen der Partnerschaft hat OATS einen KI-Leitfaden für Ältere veröffentlicht, der Menschen ab 50 Jahren hilft, die Vorteile und Risiken von KI zu verstehen, darunter Anleitungen zur Sicherheit. Schulungen für das OATS-Callcenter-Personal zur Bearbeitung von KI-bezogenen Fragen tragen ebenfalls dazu bei, das Vertrauen älterer Menschen in ihre Fähigkeit zu stärken, die Technologie zu nutzen und Betrügereien zu erkennen.
Ein tieferer Einblick in die Ergebnisse des diesjährigen Global Online Safety Survey
Da sich die digitale Landschaft ständig weiterentwickelt, passen wir ebenso unsere Forschungsfragen laufend an. Generative KI wird immer mehr genutzt, weshalb wir Menschen gefragt haben, ob sie in der Lage sind, KI-generierte Inhalte zu identifizieren. Für diesen Test haben wir Bilder aus Microsofts „Real or Not“-Quiz verwendet.
Wir fragten vor und nach dem Betrachten einer Reihe von Bildern, wie gut die Befragten glauben, Deepfakes erkennen zu können. 73 Prozent der Befragten gaben zu, dass es schwierig sei, KI-generierte Bilder zu erkennen. Nur 38 Prozent der Bilder wurden korrekt identifiziert. Wir fragten die Menschen auch nach ihren Bedenken: Zu den häufigsten Sorgen hinsichtlich generativer KI gehörten Betrug (73 Prozent), sexueller oder Online-Missbrauch (73 Prozent) und Deepfakes (72 Prozent).
Unsere Forschung zeigt auch, dass Menschen weltweit weiterhin einer Vielzahl von Online-Risiken ausgesetzt sind, wobei 66 Prozent im letzten Jahr mindestens einem Risiko ausgesetzt waren. Die vollständigen Ergebnisse, einschließlich zusätzlicher Daten, wie Jugendliche und Eltern das Leben online wahrnehmen, finden Sie hier.
Bekräftigung unseres Engagements für Online-Sicherheit
Wir wollen die Sicherheit unserer Nutzerinnen und Nutzer stärken und ihre Menschenrechte schützen. Wir wissen, dass wir Verantwortung dafür tragen, unsere Nutzer und Nutzerinnen vor illegalen und schädlichen Online-Inhalten und -Verhaltensweisen durch entsprechende Maßnahmen zu schützen und zu einem sichereren Online-Ökosystem beizutragen. Gleichzeitig tragen wir Verantwortung, Menschenrechte zu bewahren, einschließlich wichtiger Werte wie Meinungsfreiheit, Privatsphäre und Zugang zu Informationen. Bei Microsoft stellen wir dieses Gleichgewicht her, indem wir unsere Sicherheitsmaßnahmen sorgfältig auf unsere einzelnen Dienste für Verbraucher*innen abstimmen – je nach Art des Dienstes und der möglichen Risiken.
Unser Ansatz zur Förderung von Sicherheit im Internet basiert schon immer auf den Prinzipien der Privatsphäre und Meinungsfreiheit. Wir setzen uns für verhältnismäßige und maßgeschneiderte Sicherheitsvorschriften ein und unterstützen risikobasierte Ansätze, während wir vor zu weitreichenden Maßnahmen warnen, die die Privatsphäre oder die Freiheit der Meinungsäußerung behindern könnten. Wir werden weiterhin eng mit politischen Entscheidungsträger*innen und Aufsichtsbehörden weltweit zusammenarbeiten, um die größten Risiken, insbesondere für Kinder, durchdacht anzugehen: Produktivitätssoftware wie Microsoft Word sollte beispielsweise nicht denselben Anforderungen unterliegen wie ein Social-Media-Dienst. Außerdem werden wir uns weiterhin für modernisierte Gesetze einsetzen, um die Öffentlichkeit vor schädlichen KI-generierten Inhalten zu schützen und ein sichereres digitales Umfeld für alle zu ermöglichen.
Methodik der Global Online Safety Survey
Microsoft veröffentlicht seit 2016 jährlich Forschungsergebnisse, die untersuchen, wie Menschen unterschiedlichen Alters Online-Technologien nutzen und wahrnehmen. Der neueste auf Verbraucher*innen bezogene Bericht basiert auf einer Umfrage, die im vergangenen Sommer in 15 Ländern unter fast 15.000 Jugendlichen (13-17 Jahre) und Erwachsenen durchgeführt wurde. Dabei wurden die Einstellungen und Wahrnehmungen der Menschen zu Online-Sicherheitstools und digitalen Interaktionen untersucht. Die Antworten zu Online-Sicherheit sind je nach Land unterschiedlich. Die vollständigen Ergebnisse finden Sie hier.
