Sicherheit für das Zeitalter der KI neu gedacht

Von Hayete Gallot, Executive Vice President, Microsoft Security

Warum Sicherheit einen neuen Cyber Stack braucht – Wir präsentieren Project Perception

Die Physik der Cybersicherheit verändert sich. Autonome Systeme können heute schlussfolgern, sind anpassungsfähig und können alleine agieren. Die Kosten für Angriffe sinken, während gleichzeitig das, was geschützt werden muss, in Umfang und Komplexität zunimmt. Angreifer können Exploits schneller generieren, Attacken skalieren und mit beispielloser Effizienz agieren. Ansätze der Verteidigung, die für eine Welt menschlicher Akteure entwickelt wurden, können in einer Welt der KI, KI-Agenten und Angriffe in Maschinengeschwindigkeit nicht mehr Schritt halten.

Sicherheit braucht einen neuen Cyber Stack. Ein neuer Cyber Stack muss Risiken über die gesamte digitale Umgebung hinweg kontinuierlich beobachten können, sich auch dann Urteile bilden, wenn ein enormer Kontextbereich mit in die Überlegungen einbezogen werden muss, und in Maschinengeschwindigkeit handeln. Er muss lernen und sich anpassen, wenn sich Umgebungen weiterentwickeln, und er muss Organisationen dabei helfen, den Bedrohungen immer einen Schritt voraus zu sein. Weil Sicherheit letztlich eine Aufgabe für Menschen ist, muss er Cybersicherheitsprofis zudem unterstützen, indem er bessere Erkenntnisse liefert und wirkungsvollere Handlungsmöglichkeiten aufzeigt. Das prägende Merkmal der nächsten Generation von Sicherheitssystemen wird nicht sein, dass sie mehr Warnmeldungen erzeugt – sondern viel mehr ihre Fähigkeit, Bedrohungen und Risiken kontinuierlich zu beobachten, Schlussfolgerungen abzuleiten und zu handeln.

Diese Vision hat uns dazu veranlasst, Project Perception zu entwickeln, ein neues agentisches Sicherheitssystem, das für die KI-Ära konzipiert wurde. Project Perception verwandelt Signale in Echtzeit in Schutzmaßnahmen und nutzt KI, um vor KI-gestützten Bedrohungen zu schützen.

Project Perception führt Signale, Kontext, Modelle und spezialisierte Agenten in einem kontinuierlich lernenden Verteidigungssystem zusammen. Es kann in Maschinengeschwindigkeit schlussfolgern, priorisieren und handeln, während der Mensch die Kontrolle behält und durch leistungsfähige neue Workflows unterstützt wird.

Project Perception basiert auf einer einfachen Idee: Wirksame Verteidigung erfordert ein kontinuierliches Verständnis dafür, wie ein Angreifer die Welt sieht, wie ein Verteidiger Risiken bewertet und wie Schutzmaßnahmen im Laufe der Zeit verbessert werden. Diesem Verständnis folgend, koordiniert Perception drei Klassen spezialisierter Agenten:

• Red-Team-Agenten identifizieren potenzielle Angriffsvektoren, bevor ein Angreifer sie ausnutzen kann.
• Blue-Team-Agenten analysieren, schlussfolgern unter Berücksichtigung des Kontexts und bestimmen, was ein relevantes Risiko darstellt.
• Green-Team-Agenten ergreifen Korrekturmaßnahmen und stärken die Abwehr in der gesamten Umgebung.

Gemeinsam bilden diese Agenten ein geschlossenes System, das den Sicherheitsstatus einer Organisation kontinuierlich beobachtet, bewertet und verbessert.

Ein System wie Project Perception ist nur so wirksam wie die Einblicke, über die es verfügt, die Maßnahmen, die es ergreifen kann, die Erfahrung der Teams, die es entwickelt, und die Modelle, die es nutzen kann. Microsoft führt diese vier Elemente zusammen.

Wir „sehen“ Identitäten, Endpunkte, Anwendungen, Daten, Clouds und KI-Systeme und haben damit die Übersicht über die gesamte digitale Umgebung. Mittels unserer Sicherheitsprodukte können Kunden in dieser digitalen Umgebung Maßnahmen ergreifen. Wie Perception dabei schlussfolgert, priorisiert und reagiert stützt sich auf unsere jahrzehntelange Sicherheitsforschung, unsere Threat Intelligence und unsere Erfahrungen beim Schutz von Organisationen.

Sicherheit ist eine 24/7-Aufgabe. Organisationen benötigen Schutz, der hochwirksam, kontinuierlich verfügbar und bezahlbar ist. Dafür reicht der Zugriff auf das leistungsfähigste Modell allein nicht aus. Entscheidend ist, das richtige Modell für die richtige Aufgabe einzusetzen. Project Perception setzt auf eine Multi-Modell-Architektur, die Frontier-Modelle und spezialisierte Cybermodelle kombiniert und sowohl Qualität als auch Kosten optimiert.

Im Rahmen dieser Multi-Modell-Strategie stellen wir Kunden die besten Modelle für jede Sicherheitsaufgabe bereit, einschließlich unserer eigenen innovativen und spezialisierten Modelle.

Ein erstes Einsatzszenario ist das Schwachstellenmanagement: Hier kommt MAI-Cyber-1-Flash in MDASH zum Einsatz, unser Multi-Modell-System aus spezialisierten Agenten für die Analyse von Softwareschwachstellen. MDASH mit MAI-Cyber-1-Flash erreicht 96 Prozent auf CyberGym, einem führenden Branchenbenchmark, und liegt damit 12 Punkte vor Mythos. Gleichzeitig ermöglicht die Konfiguration nahezu 50 Prozent Kosteneinsparungen gegenüber der heute verfügbaren MDASH-Konfiguration. Das zeigt die Stärke eines optimal abgestimmten Multi-Modell-Systems mit Zugriff auf besonders umfangreiche historische Trainingsdaten. Künftig wird Project Perception MAI-Cyber-1-Flash auch für zahlreiche weitere Sicherheits-Workflows über das Schwachstellenmanagement hinaus nutzen.

Wir bringen diese Vision mit Project Perception zu Kunden auf der ganzen Welt. Project Perception geht am 3. August in die Public Preview.

Click here to load media

Ein Cyber Stack für agentische Sicherheit

Agentische Sicherheit erfordert mehr, als Agenten zu bestehenden Workflows hinzuzufügen. Sie erfordert einen neuen Cyber Stack, der von Grund auf dafür entwickelt wurde.

Der Stack baut auf Signalen und Sensoren auf, die Transparenz hinsichtlich der digitalen Umgebung schaffen. Der zugehörige Sicherheitskontext verwandelt diese Signale in relevante Informationen, die Agenten token-effizient nutzen können. Modelle liefern die Intelligenz und die Fähigkeit, Schlussfolgerungen abzuleiten. Ein Harness koordiniert Modelle und Agenten über Sicherheits-Workflows hinweg. Agenten wenden die Intelligenz über Sicherheits-Workflows hinweg an, und „Aktuatoren“ oder „Umsetzer“ übersetzen Entscheidungen in Schutzmaßnahmen. Zusammen schaffen diese Ebenen ein kontinuierlich lernendes System, das Risiken verstehen, sich an veränderte Bedingungen anpassen und Sicherheitsergebnisse im Laufe der Zeit verbessern kann.

Während jede Ebene wichtige Fähigkeiten bereitstellt, entsteht der Mehrwert von Project Perception vor allem daraus, wie alle Ebenen zusammenwirken.

Sicherheitskontext für KI

Wirksames Schlussfolgern erfordert mehr als Signale. Agenten brauchen Kontext.

Microsoft verwandelt seine umfassenden Einblicke, seine Threat Intelligence und die eigene Sicherheitsexpertise in einen Sicherheitskontext, der Sicherheitsdaten, Wissen und Semantik über die gesamte digitale Umgebung hinweg verbindet. Das Ergebnis ist eine kontinuierlich aktualisierte Darstellung der Assets, Identitäten, Beziehungen, Risiken und Aktivitäten einer Organisation, die Agenten ein gemeinsames, nahezu in Echtzeit verfügbares Verständnis der Umgebung gibt, die sie zu schützen helfen.

Dieses gemeinsame Verständnis ist grundlegend dafür, wie Project Perception arbeitet. Statt Agenten dazu zu zwingen, Kontext kontinuierlich aus Rohsignalen zu sammeln, zu korrelieren und neu zu konstruieren, bietet es ihnen unmittelbaren und token-effizienten Zugriff auf die Informationen, die sie benötigen, um über Risiken zu schlussfolgern, Maßnahmen zu priorisieren und Entscheidungen zu treffen. Indem jede Interaktion in diesem umfassenden Sicherheitskontext verankert wird, verbessert Project Perception die Genauigkeit und Konsistenz des Schlussfolgerns und reduziert zugleich Zeit, Rechenaufwand und Kosten, die für den Betrieb in großem Maßstab erforderlich sind.

Eine Multi-Modell-Architektur für Sicherheit

Kein einzelnes Modell ist für jede einzelne Sicherheitsaufgabe optimal. Wirksame Cyberabwehr erfordert es, zum richtigen Zeitpunkt das richtige Modell auf das richtige Problem anzuwenden.

Für Project Perception wird das richtige Modell durch die Kombination aus Qualität, Zuverlässigkeit, Latenz und Kosten bestimmt. Statt sich auf ein einzelnes Modell zu stützen, nutzt Project Perception eine Multi-Modell-Architektur, die kontinuierlich die Fähigkeiten auswählt, die für die jeweilige Aufgabe notwendig sind, und die auf diese Weise sowohl Wirksamkeit als auch Wirtschaftlichkeit optimiert. Da Sicherheit eine Always-on-Aufgabe ist, sind nachhaltige wirtschaftliche Rahmenbedingungen entscheidend, um Schutz in großem Maßstab betreiben zu können.

Dieser Ansatz wird durch laufende Forschung, Benchmarking und Evaluation über Frontier-Modelle und spezialisierte Modelle hinweg geprägt. Unsere Sicherheitsforscherinnen und -forscher bewerten Modelle kontinuierlich anhand realer Sicherheits-Workflows. So finden wir für jede Aufgabe das Modell, das das beste Ergebnis liefert. Kunden profitieren so von Fortschritten in der KI, ohne an ein einzelnes Modell gebunden zu sein.

Aktuatoren – von Erkenntnissen zu Maßnahmen

Sicherheitsteams brauchen nicht mehr Informationen. Sie brauchen bessere Ergebnisse.

Deshalb sind Aktuatoren ein entscheidender Bestandteil des Cyber Stack. Project Perception ist tief in Microsoft-Sicherheitsprodukte integriert und ermöglicht Agenten, Erkenntnisse in Maßnahmen zu überführen. Organisationen können damit Risiken kontinuierlich reduzieren, statt sie lediglich zu identifizieren. Verteidigerinnen und Verteidiger erhöhen ihre Sicherheit und behalten zugleich die Kontrolle.

Sicherheit an erster Stelle

Jede Ebene des Cyber Stack ruht auf einem Fundament des Vertrauens. Project Perception wurde im Einklang mit den Microsoft-Prinzipien für verantwortungsvolle KI entwickelt und übernimmt die Sicherheits-, Compliance-, Governance- und Betriebskontrollen, auf die sich unsere Kunden bereits verlassen. So wird sichergestellt, dass diese Fähigkeiten mit derselben Sorgfalt, Verantwortlichkeit und Enterprise-Readiness bereitgestellt werden, die Kunden erwarten.

Die Zukunft der Sicherheit

Sicherheit war schon immer ein Wettlauf zwischen Angreifern und Verteidigern. KI verändert Geschwindigkeit, Skalierung und Ökonomie dieses Wettlaufs. Verteidigerinnen und Verteidiger brauchen Systeme, die an ihrer Seite kontinuierlich beobachten, schlussfolgern und handeln können.

Project Perception ist der Weg, auf dem wir beginnen, diese Zukunft zu bauen.

Weitere Informationen zu Microsoft-Sicherheitslösungen finden Sie auf unserer Website. Speichern Sie außerdem den Security Blog als Lesezeichen, um die Beiträge unserer Expertinnen und Experten zu Sicherheitsthemen zu verfolgen. Folgen Sie uns auch auf LinkedIn (Microsoft Security), um die neuesten Nachrichten und Updates rund um Cybersicherheit zu erhalten.