AIを悪用したなりすまし・フィッシングと企業の防御策

結論

AIはフィッシング攻撃を量と質の両面で強化した。大量の個別化されたメールを自動生成し、なりすましに使える偽音声・偽動画を低コストで作れるようになった。防御の中心は技術（メールフィルタリング・多要素認証）と、「不審な要求には必ず確認する」という組織ルールの組み合わせだ。

AI普及でフィッシングが変わった

2020年以前のフィッシングメールは、典型的なサインがあった。不自然な日本語・誤字・機械翻訳っぽい文体・汎用的な「お客様」という書き出しなどで、注意深ければ見分けられた。

生成AIが普及した現在は状況が変わった。攻撃者が受信者のSNS・会社サイト・LinkedIn・プレスリリースを収集し、その人の名前・役職・担当業務・取引先を盛り込んだ個別化されたメールを生成できる。

「○○部長、先ほどの会議でご確認いただいた件ですが、今日中に送金処理をお願いします」というメールが、自然な文体で届く状況だ。送信元アドレスを偽装する技術と組み合わさると、本物のメールとの区別が難しくなる。

攻撃の自動化も進んでいる。1人の攻撃者が1,000社の中小企業に対して、それぞれ担当者の名前と文脈を変えた個別化フィッシングメールを送ることが、AIを使えば数時間で実行できる。

企業が直面するAI悪用の手口

スピアフィッシング（標的型フィッシング）

特定の個人・組織を狙った高度なフィッシングだ。受信者の担当業務・使っているシステム・最近の会社のニュースなどを組み込んで、本物らしさを高める。

経営幹部の名前を使った偽メールで財務担当者に送金を指示する「BEC（ビジネスメール詐欺）」は、AIで文章精度が上がったことで被害件数が増加している。

ボイスクローニング（音声なりすまし）

YouTubeインタビュー・社内動画・SNSの音声から人物の声を学習し、その人物に似た音声を生成する技術だ。「社長の声で部下に電話する」詐欺が実際に報告されている。

「今すぐ○○万円を送金してほしい、詳細は後で説明する」という緊急性を装った電話が、上司の声に聞こえる状況だ。

ディープフェイク動画を使ったなりすまし

ビデオ通話で経営幹部のディープフェイク映像を使い、承認や指示を偽造する。香港での2,500万ドル詐欺はこの手口だった（詳細はディープフェイクのリスクと企業の備えを参照）。

QRコードフィッシング

メールではなく、会議の案内・請求書・社内文書に埋め込まれたQRコードから偽サイトに誘導する手口だ。メールセキュリティのフィルターをすり抜けやすく、スマートフォンからのスキャンで誘導されるためURLの確認がしにくい。

AIチャットボットを使った情報収集

企業のウェブサイトやSNSの問い合わせフォームに、AI操作のボットが接触して情報を収集するケースも出てきている。受付担当者を装って「御社のシステムはどれを使っていますか」「担当者は誰ですか」という情報を引き出す。

技術的な防御策

メールの認証設定（SPF・DKIM・DMARC）

送信元を偽装したメールをブロックするための設定だ。

• SPF：自社ドメインからのメール送信を許可するIPアドレスを定義する
• DKIM：メールに電子署名を付けて、改ざんを検知できるようにする
• DMARC：SPF・DKIMで認証に失敗したメールの処理方法を定義する（拒否・隔離・監視）

自社のドメインからのなりすましを防ぐ最初の技術的手段だ。設定状況は自社のDNS設定で確認でき、設定に問題があれば情シスに確認する。

多要素認証（MFA）

フィッシングでパスワードが盗まれても、MFAがあれば不正ログインを防げる場合が多い。特にSMSではなく、認証アプリ（Google Authenticator等）やハードウェアキー（YubiKey等）を使うMFAが推奨される。

フィッシング耐性が最も高いのはパスキーだ。サービスのドメインに紐づいた認証情報のため、偽サイトでは機能しない。

メールセキュリティゲートウェイ

Microsoft 365 Defender・Google Workspace・Proofpoint・Mimecastなどのサービスが、フィッシングリンク・悪意ある添付ファイル・なりすましドメインを検知してブロックする。完璧ではないが、明らかな脅威の多くをフィルタリングできる。

人的な防御策（最重要）

技術的な対策をすり抜けた攻撃を最終的に止めるのは人間の判断だ。

送金・情報開示は必ず確認を取る

「緊急」「秘密に」「今すぐ」という要求が重なったら、詐欺のシグナルとして認識する習慣を全員に持ってもらう。

メールや電話で送金・重要な情報開示を指示されたとき、依頼した人物に別の手段で確認を取るまで実行しない。電話での指示→メールで確認、メールでの指示→電話（既知の番号）で確認、という相互確認ルールを社内に定着させる。

疑わしいリンクのURL確認

リンクをクリックする前に、ホバーしてURLを確認する習慣が重要だ。正規サービスのURLとわずかに異なる（例：micros0ft.com、paypal-japan.net）ドメインへの誘導が多い。

スマートフォンでQRコードをスキャンした後のURLも、ブラウザに表示されたURLを確認してからログインする。

報告しやすい環境

フィッシングに「引っかかってしまった」と感じたとき、すぐに情シス・セキュリティ担当に報告できる環境が被害を最小化する。報告が遅れるほど、攻撃者がシステム内で動ける時間が増える。

「報告した人を責めない」という文化は、インシデント対応の速度に直結する。

定期的な訓練

フィッシングシミュレーション（訓練用のフィッシングメールを社内で送り、クリックした人を対象に教育する）は、実際の攻撃への反応速度を上げる効果がある。訓練後に「これが本物のフィッシングだったらどうなったか」を具体的に伝えることで、意識が定着する。

AIを使ったセキュリティリスクの全体像については生成AIのセキュリティリスク最新動向と企業の対策を、社員向けのセキュリティ教育については生成AIのセキュリティ教育・社員研修を参照してほしい。

まとめ

AIを使ったフィッシング・なりすまし攻撃は、文章の不自然さで見分けることが難しくなった。技術（メール認証・MFA・セキュリティゲートウェイ）と人的対策（確認ルール・報告文化・訓練）を組み合わせた多層防御が有効だ。最も重要なのは、「緊急の送金や情報開示の要求には必ず別の手段で本人確認する」という1つのルールを組織全体に浸透させることだ。