AIインフルエンサーの実態「AIピンピング」とは何か

ネット上で、理想を絵に描いたような美しい異性を見かけたことはないでしょうか。もしかすると、それはAIでつくられた「AIインフルエンサー」かもしれません。

悪質なケースでは、他のユーザーの画像を無断で使用して架空の姿を作り上げ、性的なコンテンツを売りつけようとする者もいます。その行動は「AIピンピング（AI Pimping）」と呼ばれています。

理想の女性をAIで

インフルエンサーとは、SNSで得意分野の情報を発信し、生活の一部を披露することで多くの人に影響を与える存在です。例えば、イタリアのキアラ・フェラーニ氏は約2,900万人のフォロワーを持つ、世界的なファッションブロガーです。

インフルエンサーは自身の影響力を利用した宣伝活動で収入を得ますが、そのビジネスは巨大な市場へと成長しています。市場調査を手掛けるStatista社によると、2022年の世界の市場規模211億ドル（約3兆2,700億円）に達し、2019年から3倍以上に拡大しています。

そのような中、Instagramにアカウントを持つエミリー・ペレグリーニという女性も注目を集めています。ロサンゼルス出身の23歳で、欧州を旅行しては、エッフェル塔やサントリーニ島などの人気スポットを訪れ、美しい写真を投稿しています。長い茶色の髪と均整のとれたスタイルが特徴の彼女は、28万人のフォロワーを獲得しました。

ただし、ペレグリーニは実在しません。彼女は生成AIによって生み出された架空の人物、いわゆる「AIインフルエンサー」です。アカウントをよく見ると、「AI Influencer」と表示されています。

このアカウントを運用するのは、「プロフェッサーEP」と名乗る人物です。彼はChatGPTに「平均的な男性の理想の女性像」を尋ね、その回答に従ってペレグリーニをデザインしたと、取材した英デイリーメイルに答えています。

驚くことに、生身の人間ではないペレグリーニのもとには、サッカー選手や億万長者などの有名人からDMが届いていると、プロフェッサーEPは説明しています。ペレグリーニが魅力的な女性であると信じ、「ドバイに招待して高級レストランで食事をしよう」という誘いもあったそうです。プロフェッサーEPは立ち上げから6週間で1万ドル（約150万円）近い収入を得たといいます。

ペレグリーニが登場したのは2023年後半ですが、この頃からAIインフルエンサーは急増しました。

コンテンツ販売サイトに誘い込む

米国の独立系テックニュースサイト「404 Media」は、テクノロジーメディア「WIRED」と協力し、2024年11月の記事でInstagram上のAI生成インフルエンサーアカウント1,000以上を調査しました。その結果、約1割がモデルなど既存画像の顔の部分をAIで差し替えたディープフェイクコンテンツであることが判明しました。

また、残りの約9割にもAIが生成した画像が含まれていました。これには「バーチャルモデル＆インフルエンサー」や「すべての写真はAIとアプリで加工」と明記しているものもありましたが、記載のないものも多くあったといいます。

中でも問題視されたのが、17万人のフォロワーを持つ「クロエ・ジョンソン」という人気アカウントです。このアカウントは、他のインフルエンサーやモデルの画像や動画を素材として利用していました。フォロワーの少ないTikTokやInstagramのユーザーの画像から盗用したようです。

さらに、ジョンソンのアカウントは、特定のグラビア系コンテンツ販売サイトへのリンクが貼られており、アダルトコンテンツを購入できると説明していました。このアカウントは記事が掲載された時点で削除されています。最初に紹介したペレグリーニのアカウントも、このサイトにリンクされ、アダルトコンテンツを369ドル（約5万7,000円）で販売していたといいます。

このように、AIインフルエンサー（多くは女性キャラクター）が、ユーザーを有料コンテンツに誘導する行為をAIピンピングと呼びます。売春斡旋業者を意味する「pimp（ポン引き行為）」に由来しています。

オーストラリア公共放送のABCニュースは、AIピンピングを取り上げた調査報道で、画像盗用の被害に遭ったモデル、セリーヌ・ファラッチ氏の証言を紹介しています。彼女は、自身の画像が「しばらくの間」無断使用していることは知っていたとした上で、こう述べています。

「でも、それを止めることはできません。だまされている人たちを見るのは悲しく、危険なことだと感じています」

ツールはスマホのアプリストアにも

生成AIは新しいビジネスを次々と生んでいますが、ダークな世界ではプロフェッサーEPのように"目端の利く"者が、画像SNSを利用した巧妙な収益化手法を編み出しています。彼らはInstagramや前述の販売サイトだけでなく、さまざまなプラットフォームやツールを駆使し、AIを使った新手のマネタイズを推し進めています。

例えば、クリエーター向けプラットフォーム「OnlyFans」は、コンテンツを収益化するサービスとして人気があります。また、AIインフルエンサーの作成や収益化を支援するサービスとして、「Glambase」、「SynthLife」、「Genfluence」といったサイトもあります。

これらは、利用者の使い方が正しければ問題にはなりません。実際、OnlyFansは、「欺瞞的または不適切なコンテンツの禁止」「AIコンテンツである場合は『#AI』などのタグを付けることで明示するように」と定めています。

一方で、法的・倫理的に明確に問題のあるツールも存在し、それらを悪用しようとするユーザーが後を絶たないことも事実です。「市販のAIツールやアプリを使って、簡単にアカウントを作成して収益化できる。これらのアプリのいくつかは、App StoreやGoogle Play Storeで提供されている」（404 Media）という状況です。

実際に、あるディープフェイク系の顔入れ替えアプリは、スマホ上で簡単に動画内の顔をAI生成の顔と入れ替えることができ、大きな人気を集めました。しかし、悪用リスクの高さからApp StoreやGoogle Play Storeからは既に削除されています。

AIピンピングのエコシステム

こうしてAIピンピングへの一定の対抗策はとられているのですが、根本的な解決にまで至らないのが実情です。

まず、SNSやオンラインコミュニティが情報拡散の温床になっています。AIインフルエンサーの作成者らの多くは、特定のボイス・ビデオ・テキストコミュニケーションサービスのチャンネルを利用し、AIピンピングのコツや戦略を共有しているといいます。

そして、AIピンピングが拡大する最大の要因は、何より需要があるからだということも忘れてはいけません。404 Mediaによると、「一攫千金を狙う人々であふれかえって」おり、そうした人々に向けて指導するビジネスまで成立しています。まさに、エコシステムが誕生しているのです。

冒頭で紹介したプロフェッサーEPもこの流れを巧みに利用し、AIインフルエンサーで稼ぐためのハウツーガイドブックを販売していると404 Mediaは伝えています。具体的には、以下のような内容です。

• AIで魅力的な顔を生成する方法
• 実在する有名人の特徴を組み合わせた「ハイブリッド」な容姿の作り方
• フォロワーとの効果的なコミュニケーション方法
• 収益化の戦略

また、AIインフルエンサーのエージェンシーを運営するDigital Divasも、同様に有料のガイドブックも作成しており、その中でこのように解説しています。

「これは単なるアダルトビジネスではない。孤独ビジネスなのだ。ソーシャルメディアには何億人もの孤独な男性がいて、その寂しさから逃れるためならどんなことでもするのだ」

ある意味では、需要の中心を突いた指摘なのかもしれません。

「AIピンピング」の被害に遭わないための注意点

ユーザーが投稿の真偽を見極めるポイント

• プロフィール写真が不自然に完璧すぎる
• 不自然な背景や手の形
• 同じような場所での投稿が多い
• 機械的なやり取りが多い

クリエーター側の対策

• 作成した画像に電子透かしを入れる
• 類似したコンテンツが出回っていないか定期的に検索などにより巡回する
• 被害に遭ったら証拠を取得してプラットフォームに報告する

プロフィール