AIを使ったサイバー攻撃への対策として、企業のコンタクトセンターなどはセキュリティの強化が急務です。最近では、生成AIを悪用した攻撃の手口もあります。サイバー攻撃に対抗するには、AIを使ったセキュリティ対策を講じることが効果的です。
AIサイバー攻撃とは
AIサイバー攻撃とは、AIを悪用したサイバー攻撃です。多くのLLMにはインターネット上にある技術系の情報が多く入っています。攻撃者が質問を多少工夫し、LLMのガードレールを潜り抜けて質問をすることでその情報を悪用できることがあります。技術がない人でも容易に攻撃ができるのが特徴です。
また、AIはシステムの脆弱性を見つけやすく、さらにマルウェアを簡単に作れる点も問題です。専門的な知識がない攻撃者でもサイバー攻撃を行いやすいため、企業側ではセキュリティリスクへの備えを強固にしなければなりません。
AIによるサイバー攻撃の例
AIは、以下のようなさまざまな方法でサイバー攻撃を行います。
- ファジング
- マルウェア
- ランサムウェア
- DDoS攻撃
- ディープフェイク
- ポイズニング攻撃
ファジングによる脆弱性への攻撃
ファジングとは、システムなどに予測不能な入力データを与え、意図的に例外を起こす方法です。ソフトウェア用語のファズには、「異常データ」「不正データ」などの意味があります。
攻撃者はファジングによりソフトウェアの挙動を確認することで、脆弱性やバグがないかテストを行い、発見した脆弱性に対して最も効果的な攻撃を試みます。
マルウェア・ランサムウェアの生成
生成AIを悪用しマルウェアを作成させる手口もあり、2024年5月には不正指令電磁的記録作成の容疑で逮捕者が出ています。犯人は生成AIにランサムウェアのコードを作成させ、仮想通貨口座への送金や特定ファイルの暗号化を行いました。
専門家の間では、近い将来、生成AIにソフトウェアの脆弱性を見つけさせ自律的にサイバー攻撃する手口が出ると予想されています。
AIによる複雑なDDoS攻撃
DDoS（ディードス）攻撃は、ターゲット企業のサイトやサーバーに大量のデータを送信するDoS攻撃を、複数のコンピュータから行うことです。意図的に高負荷状態にさせることでサイトやサーバーのダウンを狙います。特に、ECサイトやオンラインサービスを提供する企業が攻撃された場合は、金銭面の損失だけではなく社会的な信頼性も失い、ダメージが大きくなります。
DDoS攻撃はサイバー攻撃の中でも防ぐのが難しいため、被害に遭いやすい点が特徴です。攻撃者は、生成AIを使用することで、効率的かつ巧妙にDDoS攻撃を行います。
ディープフェイクによる攻撃
生成AIを使用して画像や動画を作成し、個人になりすます手口もあります。たとえば、政治家のディープフェイクを作成し、プロパガンダに使用するなど、政治的混乱を巻き起こす手口です。
さらに、生成AIは画像・動画だけではなく音声も生成できることから、音声フィッシング（ビッシング）の危険性もあります。これは偽の音声で不正なWEBサイトへ誘導したり、電話の相手から聞き出したりして個人情報を抜き出し、詐欺を働くといった攻撃です。顧客の声になりすます手法で、企業の資金を流用することも可能です。
このほか、生成AIが作成したフィッシングメールは、従来のものより本物に近づけられるので受信者をクリックへと誘導しやすく、個人情報を抜き出されるおそれも高くなっています。
企業が保有するAI自体へのポイズニング攻撃
AIへのサイバー攻撃もあります。AIに間違った情報を与え続け、間違った情報で学習をさせる、機械学習ポイズニングという手法です。間違った情報を学習したAIは、予測不能な誤作動を起こす場合があるため、学習データの定期的なチェックをする必要があります。
ポイズニングを行うことで可能なのは、管理権限のはく奪、データ改ざん、盗聴などです。企業がコンタクトセンターの窓口に設置するAIチャットボットなど、ユーザーとの接触機会が多いAIは、特にポイズニング対策が欠かせません。セキュリティの脆弱性がないか常にチェックし、最新のセキュリティに保つ必要があります。
企業がセキュリティ対策を強化するには、自社でセキュリティ対策をしたチャットボットを開発するか、セキュリティ対策が備わったチャットボットを導入することが考えられます。また、セキュリティソフトの導入もセキュリティ強化に効果的です。
AIでのサイバー攻撃にはAIを駆使した対策が有効
従来のセキュリティ対策は一通り行った上で、生成AIでのサイバー攻撃にはさらに、AIを使ったセキュリティ対策もしましょう。
ログ監視
AIに通常時と異常時のセキュリティログの違いを学習させ、ログの監視と解析を行わせることで、異常値が検出しやすくなります。実害が生じる前に攻撃を防ぐことも可能です。
異常値はリアルタイムで発見できるため、異常値の原因が素早く特定できます。ログ監視は、特にコンタクトセンターなどに設置したAIチャットボットへのポイズニング対策として有効です。
トラフィック監視
ネットワークの通信状況（トラフィック）をAIでリアルタイム分析し、異常値を検知する方法もあります。
通常のネットワーク運用時の状態や、攻撃されるときの挙動を学習させることで精度が上がり、異常値の検出が素早くなります。内部からの情報流出などを早期発見し、報告を受けられるため、迅速な対応が可能です。
脆弱性診断とペネストレーションテストの実施
AIを用いて、システムの脆弱性を診断する方法も効果的です。企業側はセキュリティの課題がわかり、攻撃される前に脆弱性へ対応できます。脆弱性がある部分は、危険性などの観点でランク付けして評価し、報告・対応を行います。
その都度対応することで、脆弱性を悪用したサイバー攻撃の予防が可能です。また、AIを活用したペネストレーション（侵入）テスト（＝攻撃側視点でのテスト）によっても、脆弱性を発見できます。サイバー攻撃は日々手口が進化しているため、実際の手口を想定したペネストレーションテストは、企業の金銭面・信頼性の損失を防ぐのに効果的です。
マルウェアの検知
ディープラーニングによりAIにマルウェアを学習させることで、既知のものだけでなく、未知のマルウェアの検知までしやすくなります。サイバー攻撃は日々進化しているため、検知の精度を高めることが必要です。
AIにマルウェアを学習させることで、従来型のセキュリティソフトでは対応が難しかった変異型にも対応可能です。特に、AIを使用した自己変異型マルウェアは、検知されにくい特徴があります。しかし、マルウェアの行動パターンをAIに学習させれば、そうした自己変異型マルウェアも検知が可能です。
まとめ
攻撃者は生成AIを使い、ファジング、マルウェアの作成、DDoS攻撃、ディープフェイクなどの手段を通じて、企業や個人を攻撃します。そして企業の機密情報や個人情報を抜き出し、詐欺などの犯罪に悪用します。
生成AIによるサイバー攻撃には、企業がAIを使用したセキュリティ対策を講じるのが効果的です。AIがログやトラフィックを監視すれば、異常値を迅速に発見できます。また、AIが脆弱性診断とペネストレーションテストを行うことで、脆弱性を見つけやすくなるため、攻撃者の侵入も防げます。さらに、AIにマルウェアを学習させることで、未知・変異型のマルウェアや、日々進化する自己変異型マルウェアの検知も可能です。
サイバー攻撃に遭うと、企業は金銭面だけでなく、社会的な信頼も失って大きな損害を被ります。セキュリティ対策にもAIを活用し、安全性を高めましょう。
この記事の推奨者
