サイバー犯罪におけるAI活用を読み解く7つの原則
Key Takeaways
- 犯罪におけるAIの導入は、用途によって進み方が異なります。フィッシング、詐欺の支援、翻訳、コーディング支援、偵察、窃取データの選別など、処理量が多く、失敗を許容できる作業に活用が集中しています。状況に応じた判断を重ねる長い侵入工程は、比較的自動化が難しいままです。
- AIによって必要な人手は減りますが、犯罪を運用する人は引き続き必要です。小規模なチームでもコンテンツを増産し、より多くの言語でより多くの標的に対応し、データへのアクセスから収益化までの時間を短縮できます。これにより、技術水準の低い攻撃者の実行能力も底上げされます。
- AIエージェントによる侵入やAI活用型マルウェアは実際に確認されていますが、制約があります。現在の事例は、攻撃を許しやすい環境や外部公開された環境、人による監督、インフラへのアクセスに依存しています。こうした制約が緩和される前に、アイデンティティとアクセスの管理、振る舞いに基づく検知、ステージング(データ持ち出しの準備)の検知、防御の自動化を進める必要があります。
AIがサイバー犯罪をどう変えているかについて、詳しくは レポート全文 (日本語版)をご覧ください。
AIの能力と実際の活用
AIを利用したサイバー犯罪を論じる際は、ディープフェイク、フィッシングの自動化、マルウェア生成、自律型ハッキングなど、AIに何ができるかに注目が集まりがちです。犯罪者が技術を導入するのは、作戦の収益性が高まり、作業の手間が減り、既存の手順に組み込めるうえ、運用上のリスクが許容範囲に収まる場合です。2026年時点の証拠からは、サイバー犯罪全体が一様に変わるというより、用途を選んで導入が進んでいることが分かります。
| サイバー犯罪で定着したAIの用途 | サイバー犯罪で登場しつつあるAIの用途 |
|---|---|
| フィッシングコンテンツの作成、詐欺の支援、ローカライズ、コーディング支援、偵察、窃取データの処理 | AIエージェントによる侵入※、AI活用型マルウェア※(※ 信頼性、アクセスの可否、インフラへの依存、人による制御の必要性が制約になります) |
TrendAI™ Researchは、レポート「 サイバー犯罪におけるAI活用を読み解く7つの原則 」で、犯罪におけるAI活用の傾向を7つの原則に整理しました。AIは、作戦の収益性を高め、作業の手間を減らし、既存の手順に組み込める場面ですでに役立っています。一方、完全自律型の侵入や外部に依存せずに動作するAI活用型マルウェアは登場しつつあるものの、制約が残っています。詳細は レポート をご覧ください。
原則1 既存の犯罪活動の産業化が進む
AIによる自律型ハッキングは、実際の攻撃では確認されていません。犯罪者はAIを使って、誘導文の作成、詐欺メッセージの翻訳、窃取データの解析、コードの作成、詐欺のやり取りなど、従来の作業を速めています。その結果、作業量や成果物のバリエーションが増え、得られた兆候に応じて素早く対応を変えられるようになっています。こうした産業化は、AIが作業の手間を減らせる工程で進んでいます。
原則2 失敗の代償が小さい作業でAIは力を発揮する
AIの活用が最も速く広がるのは、出力を低コストで大量に生成、修正、破棄できる作業です。フィッシング文面の作成、サポートを装ったチャット、翻訳、認証情報ログの解析、窃取データの分類がこれに当たります。こうした用途では、出力が多少不完全でも役に立ちます。フィッシングコンテンツの文法や語調が改善し、地域に合わせた表現もより自然になったため、ユーザが詐欺を見抜くために使ってきた手がかりが減っています。
原則3 一貫した対応を要する作業ではAIの活用が難しい
ラテラルムーブメント、永続化、権限昇格、作戦全体の調整といった長い侵入工程には、状況の把握と判断が必要です。AIはこうした作業を安定してこなせるとは限りません。フィッシングの文案に誤りがあれば修正できますが、防御されたネットワーク内で誤れば、確保したアクセスを失いかねません。AnthropicのMythosクラスのように脆弱性の発見能力が向上したフロンティアモデルでも、アクセスは制限され、利用状況は監視されています。そのため、犯罪者による導入は、モデルの能力に加え、利用コストやアクセスを継続できるかどうかに左右されます。
原則4 AIは小規模な犯罪チームの生産性を高める
詐欺のやり取りを担当する人員、翻訳者、スクリプト作成者が分担していた作業を、AIによって少ない人手でこなせるようになります。担当者1人やエージェントでも、より多くのやり取りを同時に進め、複数の言語に対応しながらコードも作成できます。人の関与は引き続き必要ですが、技術水準の低い攻撃者でも活動を広げやすくなります。高度な侵入は、依然として経験を積んだ攻撃者に依存します。
原則5 窃取データの収益化が速まる
攻撃者はしばしば、人手では価値を判断しきれない量のデータを窃取します。AIは窃取ファイルを分類し、価値の高いアカウントを見つけ、アクセスの獲得から収益化までの時間を短縮します。これにより、暗号化を軸とする単一のランサムウェアモデルから、複数の収益化手段を組み合わせるモデルへの移行が加速しています。
原則6 アンダーグラウンドのAI市場では超知能よりサービスが売れる
アンダーグラウンドのAI市場を支えているのは、実用的なサービスです。WormGPT、Xanthorox、FraudGPT、DarkGPT、EvilGPTなどは制限なく使えると宣伝していますが、その多くは、商用モデルへのアクセスを自社サービスとして提供したり、ジェイルブレイクの仕組みを利用したりしています。サービスが定着するかどうかは、ブランドの知名度よりも、フィッシングキットや詐欺プラットフォームに組み込まれるかどうかで見極められます。
原則7 AIエージェントによる侵入は実際に起きているが、制約がある
AIエージェントは、実際の攻撃で偵察、認証情報へのアクセス、トンネリング、データの持ち出しを支援しています。TrendAI™ Researchが観測したSHADOW-AETHER-040とSHADOW-AETHER-064では、エージェントが作業を支援し、攻撃者が主導権を握っていました。JADEPUFFERでは、外部に公開されたLangflowインスタンスの悪用から、データベースの破壊を伴う恐喝へと至りました。一連の活動を可能にしたのは脆弱な設定であり、完全な自律性が実証されたわけではありません。AI活用型マルウェアのPromptLock、LAMEHUG、MalTerminalにも同様の段階的な進展が見られますが、外部に依存せずに作戦を完結できるエコシステムには至っていません。
AIがサイバー犯罪をどう変えているかについて、詳しくは レポート全文 (日本語版)をご覧ください。
防御の優先事項
| アイデンティティとアクセスの管理は、AIが侵害から選別、収益化までの時間を短縮するにつれ、さらに重要になります。 | 振る舞いに基づく検知は、AIによってコンテンツの質が高まるほど重要になります。フィッシング文面が自然でも、配信インフラが正当であるとは限りません。 |
| ステージングの検知は、AIで窃取データの選別が効率化されるほど重要になります。不自然なファイルの列挙、特定データの移動、一括アーカイブ化に注意します。 | 防御の自動化は、攻撃の速度が上がるほど重要になります。自動化によって、重要な局面で人が判断できるようになります。 |
AIがサイバー犯罪を変える度合いは、用途によって異なります。失敗の代償が小さく、反復が多い作業で特に力を発揮する一方、一貫した対応や状況に応じた判断が必要な作業では活用が難しくなります。AIエージェントによる侵入やAI活用型マルウェアは現実のものとなっていますが、現時点では信頼性、インフラへの依存、人の監督が制約になります。短期的に大きな影響をもたらすのは、既存の犯罪活動の産業化です。従来の作業をより速く、低コストで、少人数でも進めやすくなり、アクセスの獲得から収益化までの時間が短くなります。犯罪におけるAI活用の将来を左右するのは、最も強力なモデルの能力だけではありません。犯罪者が何を入手し、サービスとしてまとめ、既存の作業に組み込み、繰り返し使い、収益につなげられるかが、その行方を決めます。
AIがサイバー犯罪をどう変えているかについて、詳しくは レポート全文 (日本語版)をご覧ください。
参考記事:
Seven Principles Behind the Adoption of AI in Cybercrime
By: David Sancho , Salvatore Gariuolo , Vincenzo Ciancaglini
翻訳:与那城 務(Platform Marketing, TrendAI™ Research)