セキュリティ、コンプライアンス、アイデンティティ、マネジメント担当コーポレートバイスプレジデント
ヴァス ジャッカル (Vasu Jakkal)
※本ブログは、米国時間 2 月 14 日に公開された “Cyber Signals: How Microsoft protects AI platforms against cyberthreats” の抄訳を基に掲載しています。
サイバーセキュリティの世界は大きな変革期を迎えています。この変化の最前線にあるのは AI です。AI は、組織が機械のスピードでサイバー攻撃を撃退し、サイバー人材不足に対処し、サイバーセキュリティの革新と効率化を推進できるよう支援してくれます。しかし、私たちの敵側も AI を悪用する可能性があります。AI を利用した安全な世界の実現、そして、世界における安全な AI の実現の両方がかつてないほど重要になっています。
本日、マイクロソフトは、国家支援型サイバー脅威アクターによる AI プラットフォームに関連した新たな脅威に対する保護にフォーカスした Cyber Signals の第 6 版を発表しました。
OpenAI の協力のもと、マイクロソフトが追跡している Forest Blizzard、Emerald Sleet、Crimson Sandstorm、Charcoal Typhoon、Salmon Typhoon などの国家支援型脅威アクターが、大規模言語モデル(LLM) を使用して標準型攻撃を強化しようとしている状況に関するインサイトを共有しています。この重要な調査では、これらのよく知られた脅威アクターによる AI サービスを狙ったサイバー攻撃の初動を明らかにし、AI プラットフォームとユーザーを保護するために、マイクロソフトがどのようにしてこれらのアクターの活動を阻止したかを示しています。
また、AI プラットフォームや API を利用した国家支援型の Advanced Persistent Threat (標的型攻撃)、Advanced Persistent Manipulator、サイバー犯罪シンジケートのリスクを軽減するためのマイクロソフトの行動指針原則も発表します。これらの原則には、悪意のある脅威アクターの特定と対処、他の AI サービスプロバイダーへの通知、他の利害関係者との協力、透明性などが含まれます。
加えて、マイクロソフトは、攻撃活動における LLM の新たな観点を理解し、検出するために、セキュリティコミュニティを広範に支援しています。MITRE と協力し、これらの LLM に関連した戦術、技術、手順 (TTP) を MITRE ATT&CK® フレームワークや MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems) 知識ベースに統合していきます。この戦略的拡大は、脅威を追跡して無力化するだけでなく、AI を活用したサイバーオペレーションの進化への対策の先駆者となるコミットメントを反映したものです。
また、今回の Cyber Signals では、脅威アクターがどのように AI を使用して攻撃を洗練させているか、そして、マイクロソフトが自社を保護するためにどのように AI を使用しているかについてのインサイトも共有しています。
サイバー犯罪者や国家支援型アクターは、LLM などの AI テクノロジに注目し、自らの生産性を高め、目的や攻撃手法を拡張するためにプラットフォームを活用しています。脅威アクターの動機や洗練度はさまざまですが、攻撃を展開する際のタスクは共通しており、潜在的被害者の業種、場所、人間関係の調査といった偵察活動、ソフトウェアスクリプトの改良やマルウェアの開発などのコーディング作業、人間と機械両方の言語の学習と使用による支援などが含まれます。なお、OpenAI との共同調査では、マイクロソフトが注意深く監視している LLM を使用した重大な攻撃はまだ確認されていません。
マイクロソフトは、この種のサイバー脅威から自社を守るために複数の方法を用いています。たとえば、AI によりネットワーク上のリソースやトラフィックの使用方法の変化を検出する異常検知、危険なサインインや異常な動作を検出する行動分析、危険なサインインやマルウェアを検出する機械学習モデル、すべてのアクセス要求が完全に認証、承認、暗号化されなければならないとするゼロトラスト、企業ネットワークに接続する前のデバイスの健全性の検証などがあります。
サイバーセキュリティにおける AI の役割は多面的であり、さまざまな領域でイノベーションと効率化が推進されます。脅威検知の強化からインシデント対応の合理化まで、AI の能力はサイバーセキュリティの考え方を再構築しています。サイバーセキュリティにおける LLM の活用は、AI の可能性を証明するものです。これらのモデルを適切に使えば、膨大な量のデータを分析してサイバー脅威のパターンや傾向を明らかにし、脅威インテリジェンスに貴重な背景情報を加えることができます。そして、リバースエンジニアリングやマルウェア解析などの技術的作業が支援し、サイバー攻撃に対する新たな防御層が提供されます。たとえば、Microsoft Security Copilot のユーザーによると、全タスクの正確性が 44%、スピードが 26% 向上したことが示されています。これらの数字は、サイバーセキュリティの実践に AI を統合することの具体的なメリットを明らかにしています1。
AI の未来を安全なものにするために、私たちはテクノロジの両面性を認識する必要があります。AI は単なるツールではなく、サイバーセキュリティにおけるパラダイムシフトです。AI は、高度なサイバー脅威から身を守り、ダイナミックに広がる脅威に適応する力を与えてくれます。AIを取り入れることで、すべての人が安心できる未来を手に入れることができるでしょう。
マイクロソフトのセキュリティソリューションの詳細については、当社ウェブサイトをご覧ください。セキュリティブログでは、セキュリティ関連の専門情報が入手できます。また、LinkedIn (Microsoft Security) や X (@MSFTSecurity) でもサイバーセキュリティに関する最新ニュースや情報をお届けしています。
1Work Trend Index スペシャルレポート Copilot の初期ユーザーから学ぶ、生成 AI の職場での可能性、マイクロソフト、2023年 11 月 15 日
© 2024 The MITRE Corporation. 本著作物はThe MITRE Corporation の許諾を得て複製・配布されています。
—
本ページのすべての内容は、作成日時点でのものであり、予告なく変更される場合があります。正式な社内承認や各社との契約締結が必要な場合は、それまでは確定されるものではありません。また、様々な事由・背景により、一部または全部が変更、キャンセル、実現困難となる場合があります。予めご了承下さい。
