トレンドはセキュリティへの生成AI活用！世界最大級のセキュリティイベント「RSA Conference 2024」参加レポート

AI技術部のザナシルです。

私が率いるAI技術部では、セキュリティ業務へのAI適用について研究・開発を行っています。そこで、最先端事例・技術に触れるため、2024年5月5日から5月9日に米国サンフランシスコで開催された、RSA Conference 2024（以下、RSAC2024）に参加してきました。RSAC2024は、130カ国から約4万人以上のセキュリティ関係者が集まる、世界最大級のセキュリティの祭典です。

本記事では、イベントの雰囲気とセキュリティ×AIに関する内容を紹介します。

RSAC2024会場の雰囲気

イベント開催期間中は、サンフランシスコの街中がサイバーセキュリティ一色に染まり、普段とは異なる特別な雰囲気でした。イベント会場の中だけでなく、サンフランシスコのあらゆる場所に、各セキュリティベンダーの宣伝広告があります。

会場内で提供されるフリーWi-Fiは、リアルタイムでSOC監視されており、実際にSOCで運用している様子と監視状況が、会場に設置されたダッシュボードで閲覧できます。イベントのインフラ自体を展示物にするというアイデアに大変驚きました。

RSAC2024のテーマと、ラックのパーパスの親和性

今年のRSAC2024のテーマは、「The Art of Possible」です。直訳すると「可能性の芸術」、意訳すると「可能性の探求」と捉えることもできます。

このテーマは、ラックのパーパスである「たしかなテクノロジーで『信じられる社会』を築く。」にも共通する部分があるように思います。デジタル世界の安心・安全を進化させるため、サイバーセキュリティと生成AIなどの最新技術の可能性を探究していると感じました。

サイバーセキュリティにおける「たしかなテクノロジー」を改めて理解するとともに、トレンドはまさに生成AIのセキュリティへの活用であり、私たちの取り組みの方向性は間違えていないと確信しました。

セキュリティ×AI

キーノートをはじめ、どの発表においても大規模言語モデル（Large Language Models：以下、LLM）による生成AIのセキュリティへの活用が取り上げられていました。

AI活用が急速に進む中、次なる課題としてAIのセキュリティと、その正しい使い方に関する議論が活発でした。今回のイベントは生成AI一色と言っても過言ではなく、どの発表でも必ず生成AIについて言及されていました。

これまでは生成AIは未知の領域であり、セキュリティ界隈では脅威だと感じる話が多くありました。今回のRSACでは、攻撃者側が生成AIを使用する脅威リスクについてはある程度整理され、防御側の生成AI活用の有用性と事例について多く紹介されました。また今後AIの活用が進む中で、AI自体のセキュリティの重要性も強調されていました。

以下はイベントで発表された内容について、私なりの理解と個人見解です。

セキュリティ運用におけるAI活用

生成AIの脅威

生成AIの脅威として、攻撃者による生成AIを活用したフィッシングメール作成、偽情報作成、マルウェア開発、武器製造作成への利用などが考えられます。特にフィッシングメールや偽情報の作成において、生成AIにより脅威のリスクが増大していると言えます。

防御側の生成AI活用事例として、セキュリティの専門家を補強する使い方

• コンテンツの理解と説明
  • -生成AIをフィッシングや偽情報、ユーザレポートなどのコンテンツの一次レビュアーとして活用することで、人間の専門家がレビューする時間を短縮できます。
  • -テキストだけでは判断が難しい内容は、画像情報とテキスト情報を組み合わせることで、メール添付ファイルなどのコンテンツをマルチモーダルで理解させ、より高い精度で悪意あるコンテンツを把握できます。
• コード生成
  • -セキュリティの現場では、コード生成能力がさまざまな場面で役に立つので、個人的にはこの能力が一番重宝しています。簡単なデモアプリや自動化アプリを作成する際のハードルが圧倒的に低くなります。
  • -生成AIによって、ホワイトハッカーが「疑似攻撃」のコードを生成できます。
  • -発表の中には、生成AIがコードの脆弱性を自動的に修正するパッチを作成できるという内容もありましたが、まだまだカバーできる脆弱性がシンプルものに限られており、精度も高くないという課題が残っています。
• レポート生成
  • -生成AIの真髄である文章生成能力によって、セキュリティの専門家の作業がより効率化されます。
  • -セキュリティのインシデント報告を生成AIによって補助することで、時間短縮に繋がります。

AIのセキュリティ

多くのキーノートでは、生成AIの活用が進む先にはAIのセキュリティが次のチャレンジになると発表されていました。AIがますます業務で活用されると、これまで以上のデータを入力値として受け取り、生成されるようになります。

AIシステムのライフサイクル全体から考えると、AIに関するセキュリティリスクは大きく3つに分類されます。

AIシステムとモデルのリスク

AIモデルとそのAIを使ったシステムのリスクです。従来のシステムのセキュリティに加えて、AI特有のデータ観点のセキュリティを意識する必要があります。こちらの内容に関しては、LAC Security Day 2024発表内容と、OWASP（Open Web Application Security Project）による情報をご参照ください。

※ OWASP Top 10 LLM Applications & Generative AI

データのリスク

AIで使用されるデータのセキュリティは非常に重要です。会場内では、多くのサイバーセキュリティ製品やサービスが展示されていました。ほぼ全てのサービスがAIを活用しており、今年は特にデータセキュリティのDSPM（Data Security Posture Management）関連の製品が目立ちました。

なぜ、データセキュリティが注目されているのかを考えると、AIの活用が進むにつれ自然とデータ活用が必要となり、データ整備がますます重要になってきていると思いました。

ガバナンスのリスク

AIは信頼性と安全性を保ち、適切に使われることが重要です。そのために、透明性、公平性、プライバシー保護、法規制の遵守、責任の明確化、倫理的配慮といった多岐の観点でのAIガバナンスに関するリスク管理が必要となります。これを実現するために、AIに関する法規制と安心・安全な使い方、ルール・ガイドラインとユーザのトレーニング等の対策が求められます。

さいごに

RSACイベント開催後も世の中には大きな動きがありました。まず、セキュリティ業界の動きとして、各種SIEMベンダーの買収や統合が報じられました。企業は特定の企業の技術に依存しないよう、セキュリティに必要なデータは自分たちでコントロールできるようにしていくモチベーションが高まると感じています。

攻撃側の生成AI利用に関するニュースもありました。これまではフィッシングメールや偽情報の生成での使用が確認されていましたが、2024年5月28日には生成AIを使用して、悪意のあるウイルスを作成していたと報じられました。

攻撃者側は生成AIなどの先端技術を使い、攻撃をより高度化させています。そのため、防御側も最新技術を早急に使いこなして対抗する必要があります。

生成AIはLLM中心に、セキュリティの脅威と対策をこれまで以上にスピーディにしました。今後は生成AIがLLMから生成AIエージェントやマルチモーダルなモデルに進化するにつれ、脅威も防御側も変化するでしょう。私たち防御側もデジタル環境の変化と脅威に対して、プロアクティブな姿勢でチャレンジしていかなければなりません。

ラックは生成AIを「たしかなテクノロジー」として活用し、あらゆるセキュリティサービスにAIを適用することに取り組んでいます。主な注力領域は以下の通りです。

• セキュリティ運用へのAI適用
  • -活動対象：脅威分析・監視/インシデントレスポンス/診断・脆弱性管理などのセキュリティ運用における運用効率化
  • -技術要素：自律型エージェント、マルチモーダルAI
• 脅威検知へのAI適用
  • -活動対象：ユーザ行動不正検知、サイバーセキュリティ脅威検知における検知
  • -技術要素：異常検知、合成データ生成

AI技術部は、今後もセキュリティ×AIをテーマに情報を発信して、セキュリティのコミュニティに貢献していきます。

プロフィール