人工知能が脅威の状況をどう変えるか

2024.04.03

2024年3月21日、Christine Barry

以前に一度、生成 AI（人工知能）、機械学習（ML）、そしてほかのいくつかの AI のサブセットについて紹介しました。今回は、ほとんど不可能な質問に答えてみたいと思います。AI は脅威の状況をどのように変えたのか。これは、インターネットがネットワークをどう変えたかを問うようなものです。とっかかりとして、もう少し焦点を絞り込みたいと思います。

脅威の状況とは？

脅威の状況にはいくつかの特徴があります。物理的セキュリティや公衆衛生、環境、経済、そして地政学的な脅威はすべて、人工知能の影響を受けています。重なり合う部分もありますが、見るべき領域は明確です。また、次の表で明示されているとおり、テクノロジーの脅威とサイバーセキュリティの脅威は明確に区別できます。

	サイバーセキュリティの脅威	テクノロジーの脅威
主な焦点	デジタル情報と IT インフラのセキュリティ	さまざまな分野の新興技術に関連するリスク
脅威の種類	マルウェア、フィッシング、ランサムウェア、データ漏洩、DDoS 攻撃。	AI の悪用、バイオテクノロジーの倫理的懸念、ロボット工学の安全性、ディープフェイク
主な懸念事項	データプライバシー、ネットワークセキュリティ、情報の完全性	テクノロジーの倫理的使用、意図せざる結果、長期的影響
影響を受ける団体	デジタル技術に依存する企業、政府、個人	新興技術を活用する産業、公共政策領域を含む、より広い社会
緩和戦略	ファイアウォール、ウイルス対策ソフトウェア、セキュリティプロトコル、サイバーセキュリティ意識向上トレーニング	倫理指針、規制の枠組み、国民の意識、長期的影響に関する調査

今回はサイバーセキュリティに焦点を絞りましょう。

脅威ベクトルと攻撃対象領域

脅威ベクトルと攻撃対象は、脅威の主要な構成要素です。脅威ベクトルは攻撃ベクトルとも呼ばれ、システムに侵入するために使用される方法やメカニズムのことを指します。家のドアと窓のようなものだと考えるとよいでしょう。家はネットワークであり、玄関のドアはフィッシング攻撃が侵入する可能性のある E メールの脅威ベクトルです。もう１つのドアはネットワークの脅威ベクトルで、侵入者は脆弱なファイアウォールを突破する可能性があります。そして窓は、 Web アプリケーションの脅威のベクトル、といった具合です。これらは、攻撃がシステムに出入りするための経路です。

このたとえを使うなら、攻撃対象領域はドアと窓の状態ということになります。どちらも安全でしょうか。必要以上の数はないでしょうか。そのすべてを把握しているでしょうか。攻撃対象領域とは、ネットワークやシステムの内外に存在するすべてのアクセスポイントや既存の脆弱性の総和なのです。

人工知能は、企業や家庭における脅威のベクトルと攻撃対象領域の両方を拡大しています。

AI とサイバーセキュリティ

機械学習をはじめとする AI 機能は、あらゆる脅威ベクトルにおける攻撃対象領域の縮小と防御に利用されてきました。AI を活用したセキュリティツールは、不要なサービスや脆弱性、その他のセキュリティのギャップを探します。これらのツールは、問題を修正するか、IT チームに対策を講じるよう警告することができます。AI は、セキュリティ構成とシステム・アクティビティを監視することで、残りの攻撃対象領域を防御し続けます。先手を打つ脅威ハンティングは、この AI 防御システムの一部です。AI 機能により、セキュリティシステムは異常を特定し、対策を講じ、脅威そのものから学習することができるのです。これは強力な防御メカニズムといえます。

こうした防御とその効果の例をいくつか挙げてみましょう。

脅威のベクトル	AI の貢献	攻撃面への影響
電子メール	フィッシング、スパム、高度な攻撃の検知	フィッシングやスパムの脅威が減少
アプリケーションセキュリティ	脆弱性のコード解析	ソフトウェアの脆弱性の減少
ネットワークセキュリティ	ネットワークトラフィックの異常検知	違反の早期発見
API セキュリティ	APIの異常な使用パターンと脆弱性の特定	API関連攻撃の減少
Web ブラウザ	悪意のあるウェブサイトやフィッシングリンクの検出	より安全なブラウジング体験
ソーシャルメディア	フェイクニュース、ボットアカウント、ソーシャルエンジニアリングの検出	誤った情報の拡散の減少
IoT/ICS	デバイスの動作とトラフィックの異常を監視	機器のセキュリティ強化

AI とサイバー攻撃

サイバー犯罪とサイバーセキュリティは敵対する領域です。脅威アクターが作り出す攻撃は、AI の防御に挑戦し、そこから学習します。こうして改良された攻撃システムは、より簡単で、よりステルス性が高く、より速く、より優れたものになる可能性があるのです。

脅威のベクトル	AI の貢献	攻撃面への影響
電子メール	フィッシングメールの送信、脆弱性のスキャン、返信への対応プロセスの自動化	攻撃はよりスケーラブルで効率的
アプリケーションセキュリティ	リアルタイムで防御に動的に適応する	DDoS 攻撃やブルートフォース攻撃を軽減するのはより難しい
ネットワークセキュリティ	人間の攻撃者よりもはるかに速い速度で脆弱性をスキャンする	ゼロデイエクスプロイトやその他の脆弱性の迅速な実行
API セキュリティ	多様で複雑なリクエストを迅速に送信	API の過負荷や脆弱性の発見
Web ブラウザ	攻撃とクライアントの脆弱性のマッチング	カスタムマルウェアは人の手を介さずにインストールされる

AI とアプリケーションプログラミングインターフェース（API）

人工知能は、世界的な脅威の中で API の成長に大きく貢献しています。企業は AI を活用した自動化、意思決定、顧客サービスや患者ケアを取り入れています。インターネットと同様に、今後 AI は成熟し、新たなユースケースが開発されるでしょう。その結果、API が増え、カスタマイズが進み、API やアプリケーションのセキュリティを積極的に管理しない企業にとっては攻撃対象が拡大することになります。脅威の攻撃対象領域は拡大し続けるでしょう。

AI が武器になる

防御者も攻撃者も、機械学習と生成 AI を利用して各々の利益を守り、各々の行動をより良くしようとしています。次回は、脅威アクターがフィッシング攻撃を強化するためにいかに AIを使用しているかを詳しく見ていきます。

知っていますか

バラクーダと Ponemon Institute の最新レポートによると、IT プロフェッショナルの 50% は、AI の使用による攻撃の増加を予想しています。詳細やその他の情報については、当社の新しい e-Book『明日をセキュアにする（Securing tomorrow）：サイバーセキュリティにおける AIの役割に関する CISO の手引き』をご覧ください。この e-Book では、セキュリティリスクを探り、サイバー犯罪者が AI の助けを借りて悪用する脆弱性を明らかにしています。こうした脆弱性を通して、犯罪者は攻撃の規模を拡大し、成功率を向上させているのです。今すぐ無料の e-Book を入手して、最新の脅威、データ、分析、ソリューションのすべてを自身の目で確かめてください。