サイバー犯罪を助長するAI、巧妙化・大規模化するフィッシング

生成AIは猛烈な勢いで進化しています。そして、その恩恵を受けるのは善良なユーザーだけではありません。サイバー空間に潜む犯罪者もAIを活用して、より高度な攻撃手法を駆使するようになっています。

マルウェアに感染させる「フィッシング」は、狙ったユーザーに偽のメールを送り、個人情報をだまし取る手口が横行しており、AIによって特に大きく変化している脅威の1つです。その変化のペースは、私たちの想像を上回るかもしれません。

フィッシングメールが増加、背景に生成AI

メールやモバイル、ブラウザのセキュリティソリューションを提供する米スラシュネクスト社によると、2022年第4四半期以来、フィッシングの件数が1,265％増加。2023年は毎日3万1,000通のフィッシングメールがインターネットを行き交っていたといいます。

2022年第4四半期といえば、OpenAI社が「ChatGPT」を公開して世界に衝撃を与えた2022年11月を含む期間です。スラシュネクスト社は、「ChatGPTは、生成AIが支援する新しいサイバー犯罪の時代を示唆している」としています。

フィッシングは、実在する企業・団体や官公庁などを装ってメールやSMSを送り、偽のWebサイトに誘導して、アカウント情報やクレジット番号などを詐取しようとする詐欺です。1995年、米AOL社のユーザーを狙って偽のサポートページへ誘い込み、偽のリンクをクリックさせたのが始まりとされています。

フィッシングメールの歴史

1995年	AOL社の管理者を偽ってユーザーのパスワードを詐取する事件が発生。 「フィッシング」という言葉が誕生。
2000年	「ILOVEYOU」ウイルス（ワーム）がメールの連絡先リストを通じて拡散。フィッシング攻撃の新たな手口を示した。
2011年	RSAセキュリティ社への「標的型メール攻撃」で認証製品の情報が盗まれ、ロッキード・マーティン社に大規模な攻撃が仕掛けられた。
2013年	ランサムウェア「Cryptolocker」が登場。フィッシングメールを使ったランサムウェア攻撃の先駆けとなる。
2014年	銀行情報を狙うマルウェア「Dyre」を使った攻撃が発生。
	ソニー・ピクチャーズ社が、フィッシング攻撃で100テラバイト近いデータを盗まれる。被害額は1億ドル以上と推定される。
2017年	Facebook社（現メタ社）とグーグル社が2013年から2015年にかけ、取引先企業などをかたるフィッシングメールで、1億ドル以上をだまし取られていたことが発覚。
2020年	新型コロナ禍の下、景気刺激策に関する情報などでユーザーの関心を引く攻撃が増加。

生成AIが作り出した文章は、フィッシングメールにもっともらしい真実味を与えてしまいます。

生成AIがもたらす犯罪者へのメリットは、テキストの生成だけではありません。メールの作成や送信をAIが自動化して、従来よりもはるかに速く大量な攻撃を仕掛けることが可能になります。

このほか、偽サイトにAIチャットボットを置いておくことで、フィッシングサイトを合法的で信頼できるものにみせかけてしまいます。こうした偽サイトは、静的なフィッシングページに比べて、検知が難しいことも指摘されています。

クラウドベースのセキュリティ企業である米Zscaler社が、自社プラットフォーム上でブロックした20億件のフィッシングを分析したところ、生成AIを利用したスキームは前年比60％近く増加していたといいます。

その中には、テキストだけでなく、音声を使った「Vishing（Voice phishing）」やディープフェイク画像を使ったものもあったとのことです。

AIフィッシングメールを見分けるヒント

AIの悪用で、ますます巧妙になるフィッシングメールですが、見分けるためのヒントはあります。例えば、以下のようなものです。

送信者情報を確認する

フィッシングメールは、正規のものと少し異なるメールアドレスやドメインを使用していることが多くあります。また、名前の代わりに「ご契約者さま」など、一般的な呼称になっていることも見受けられます。

内容を分析する

AIフィッシングメールは誤字脱字が少ないので、そこから識別するのは難しいでしょう。しかし、特定の状況に言及しない、内容に人間味がないものはAI生成の可能性があります。

リンクや添付ファイルのチェック

リンクにカーソルを合わせて、URLとリンク先が一致しているかを確認しましょう。HTML表示をやめて、プレーンテキスト表示にすると、メール本文に記載されたものと別のURLに誘導していると分かることがあります。添付ファイルは、完全に信頼できる相手のもの以外は開かないでください。

直感を信じる

内容や相手、タイミングなど、疑わしい、あるいはできすぎていると感じたら、差出人に直接確認するなど慎重な対応をしてください。

AIベースの検知ツールを使う

メールプロバイダーの中には、疑わしいメールを特定できるAIを搭載したフィッシング検知機能を提供しているものがあるので、使用を検討してもいいでしょう。

とはいえ、サイバー犯罪の手口も日進月歩で進化しています。絶対に大丈夫と言い切れる対策はありません。英国のセキュリティ企業イグレス社が2023年10月に公開した報告書「フィッシング脅威トレンドレポート」によると、フィッシングメールを検知ツールで完全に排除するのは現状、不可能といいます。

また、フィッシング脅威トレンドレポートには、フィッシング検知ツールの精度はサンプルサイズが長くなるほど改善し、ほとんどの場合で最低250文字（英文）が必要と書かれています。ところが、フィッシングメールは一般的に短く、44.9％が250文字以下です。250文字を上回っていても500文字未満が26.5％で、検知のために十分な長さに達しません。

サイバー犯罪者たちと当局の対応

サイバー空間では、多くの犯罪グループが暗躍しています。闇の世界「ダークウェブ」では、こうした犯罪者のために、さまざまなツールが開発・販売されています。こうしたツールの中には、メッセージの作成だけでなく、マルウェアの作成、脆弱性の発見、さらにはハッキングテクニックのアドバイスまでするものがあります。

英国の「国家サイバーセキュリティセンター（National Cyber Security Centre：NCSC）」は、サイバー脅威に対するAIの短期的なインパクトとして、「2025年には、生成AIと大規模言語モデル（Large Language Models：LLM）によって、サイバーセキュリティへの理解度にかかわらず、電子メールやパスワードリセットの要求が本物かどうかを評価したり、フィッシングやなりすまし、ソーシャルエンジニアリングの試みを特定したりすることが困難になるだろう」と予想しています。

一方、防御にAIを活用する動きも活発になっています。ChatGPTなどの生成AIは、機能を悪用されないようブロックを設けています。フィッシングメールの作成を指示すると、拒否するといった機能が追加されています。

日本では警察庁がフィッシング対策にAIを用いることを検討しています。「敵がAIを使うなら、こちらもAIで武装する」というのは当然の流れでしょう。双方、AIの力を借りた知恵比べです。

プロフィール