Cyber Signals: Paradigma umělé inteligence

Svět kybernetické bezpečnosti prochází rozsáhlou proměnou. V čele těchto změn stojí umělá inteligence (AI), která má potenciál umožnit organizacím porážet kybernetické útoky strojovou rychlostí, řešit nedostatek kybernetických talentů a podpořit inovace a efektivitu v oblasti kybernetické bezpečnosti. Protivníci však mohou AI využívat jako součást svých útoků a nikdy nebylo tak důležité, abychom zabezpečili náš svět pomocí AI i AI pro náš svět. Proto jsme vydali šesté vydání Cyber Signals, která upozorňuje na způsoby, kterými chráníme platformy umělé inteligence před novými hrozbami souvisejícími s aktéry hrozeb z řad národních států.

Ve spolupráci s OpenAI sdílíme poznatky o aktérech hrozeb spojených se státem, které společnost Microsoft sleduje jako Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon a Salmon Typhoon, již se snažili využít velké jazykové modely (LLM) k rozšíření svých probíhajících útočných operací. Tento důležitý výzkum odhaluje postupné počáteční kroky, které pozorujeme u těchto známých aktérů hrozeb v souvislosti s umělou inteligencí, a zaznamenává, jak jsme jejich činnost zablokovali, abychom ochránili platformy a uživatele umělé inteligence.

Zveřejňujeme také zásady společnosti Microsoft, jimiž se řídí naše kroky zmírňující rizika národních pokročilých trvalých hrozeb, pokročilých trvalých panipulátorů a kyberzločineckých syndikátů využívajících platformy a rozhraní API AI. Tyto zásady zahrnují identifikaci a opatření proti využívání škodlivých hrozeb ze strany aktérů, oznamování ostatním poskytovatelům služeb AI, spolupráci s dalšími zúčastněnými stranami a transparentnost.

Kromě toho společnost Microsoft pomáhá širší bezpečnostní komunitě pochopit a odhalit vznikající vyhlídky LLM v útočné činnosti. Pokračujeme ve spolupráci se společností MITRE na začlenění těchto taktik, technik a postupů (TTP) s tématikou LLM do rámce MITRE ATT&CK® nebo do znalostní databáze MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems). Toto strategické rozšíření odráží závazek nejen sledovat a neutralizovat hrozby, ale také být průkopníkem ve vývoji protiopatření v rozvíjejícím se prostředí kybernetických operací poháněných umělou inteligencí.

Toto vydání Cyber Signals sdílí poznatky o tom, jak aktéři hrozeb využívají umělou inteligenci ke zdokonalování svých útoků a také jak my využíváme umělou inteligenci k ochraně společnosti Microsoft.

Kybernetičtí zločinci a státem sponzorovaní aktéři vyhledávají AI, včetně LLM, aby zvýšili svou produktivitu a využili platformy, které mohou podpořit jejich cíle a techniky útoků. Ačkoli se motivy a sofistikovanost aktérů hrozeb liší, při nasazování útoků mají společné úkoly. Patří mezi ně průzkum, například zkoumání odvětví, lokalit a vztahů potenciálních obětí, kódování, včetně zdokonalování softwarových skriptů a vývoje malwaru, a pomoc při učení a používání lidských i strojových jazyků. Náš výzkum s OpenAI neidentifikoval významné útoky využívající námi pečlivě sledované LLM.

Společnost Microsoft používá k ochraně před těmito typy kybernetických hrozeb několik metod, včetně detekce hrozeb s využitím umělé inteligence, která odhaluje změny ve způsobu využívání zdrojů nebo provozu v síti; behaviorální analýzy k odhalování rizikových přihlášení a anomálního chování; modelů strojového učení k odhalování rizikových přihlášení a malwaru; nulové důvěryhodnosti, kdy každý požadavek na přístup musí být plně ověřen, autorizován a zašifrován; a stavu zařízení, který se ověřuje před připojením zařízení k podnikové síti.

Generativní umělá inteligence má navíc neuvěřitelný potenciál pomoci všem obráncům chránit jejich organizace strojovou rychlostí. Úloha AI v kybernetické bezpečnosti je mnohostranná a podporuje inovace a efektivitu v různých oblastech. Schopnosti AI mění podobu kybernetické bezpečnosti – od zdokonalení detekce hrozeb až po zefektivnění reakce na incidenty. Využití LLM v kybernetické bezpečnosti je důkazem potenciálu AI. Tyto modely, mohou analyzovat obrovské množství dat a odhalovat vzory a trendy v kybernetických hrozbách, čímž přidávají cenný kontext k informacím o hrozbách. Pomáhají při technických úkolech, jako je reverzní inženýrství a analýza malwaru, a poskytují tak novou vrstvu obrany proti kybernetickým útokům. Například uživatelé Microsoft Copilot for Security vykázali 44% nárůst přesnosti ve všech úlohách a o 26 % rychlejší dokončení. Tato čísla zdůrazňují hmatatelné výhody integrace umělé inteligence do postupů kybernetické bezpečnosti.

Při zajišťování budoucnosti umělé inteligence si musíme uvědomit dvojí povahu technologie: přináší nové možnosti i nová rizika. Umělá inteligence není jen nástrojem, ale změnou paradigmatu v oblasti kybernetické bezpečnosti. Umožňuje nám bránit se proti sofistikovaným kybernetickým hrozbám a přizpůsobovat se dynamickému prostředí hrozeb. Přijetím AI můžeme zajistit bezpečnou budoucnost pro všechny.

Chcete-li se dozvědět více o řešeních Microsoft Security, navštivte naše webové stránky. Uložte si do záložek blog Security a sledujte naše odborné zpravodajství o bezpečnostních otázkách. Sledujte nás také na LinkedIn (Microsoft Security) a X (@MSFTSecurity), kde najdete nejnovější zprávy a aktualizace týkající se kybernetické bezpečnosti.