AI詐欺から消費者を守る、米連邦取引委員会の「Operation AI Comply」の取り組み

生成AIは革新的なテクノロジーですが、フェイクニュースやSNSの操作、スパムメールの作成など、悪用される例も増えています。犯罪者だけでなく、企業の生成AIの利用でも問題とされるものが出てきています。

そうした問題に対応するため、米連邦取引委員会（以下、FTC）は2024年9月に「Operation AI Comply」を発表し、悪質なAI利用を取り締まる方針を明確化しました。商品やサービスの説明、広告においてAIを使い、消費者を誤解させるような行為を防止することを目的としています。

AIの不正利用を取り締まる

FTCは、日本の公正取引委員会と消費者庁、個人情報保護委員会を合わせたような組織で、消費者保護や市場の公正性を守る役割を担っています。「Operation AI Comply」は、日本語で言うと「AI運用における法令順守作戦」といった意味となります。取り締まりの対象は「消費者に損害を与える不正または不公正な行為を助長する方法でAIを利用する」行為です。

この取り締まりの一環として、FTCはAIを使った誇大宣伝を利用したり、詐欺的あるいは不公正な方法で使用できるAIテクノロジーを販売したりする企業に対して訴訟を起こしました。

その代表的な事例が、「世界初のロボット弁護士」をうたったDoNotPay社です。DoNotPay社は「弁護士に金を払うな」という社名の通り、AIチャットボットが弁護士の代わりに相談にのることで、弁護士費用を大幅に削減できると宣伝しました。しかし、FTCによると、同社はAIチャットボットの回答が人間の弁護士レベルかどうかのテストは実施しておらず、弁護士も雇用していなかったといいます。

FTCは同社を訴え、罰金19万3,000ドル（約3,000万円）の支払いで両者は同意しました。また、2021年から2023年の間にサービスを購読した消費者に対する、法律関連機能の制限について警告すること、今後も裏付けのない専門的なサービスに取って代わる能力を主張しないことを約束させました。

FTCはこの他にも、Operation AI ComplyとしてDoNotPay社を含む5件の法的措置をとったことを発表しています。以下が一覧です。

社名	業務内容	FTCに訴えられた行為
DoNotPay	法律サービスのAIチャットボット	AIが人間の弁護士レベルの専門知識を提供して、「完全に有効な法的文書をすぐに作成する」などと虚偽の主張をした。
Ascend Ecom	EC構築サービス	AIを使った電子商取引ビジネスで、「毎月数千ドルの不労所得」をすぐに得られると虚偽の主張をし、オンラインストア開設を促した。
FBA Machine	EC構築サービス	オンラインストア内の商品の価格設定と利益の最大化を支援する「AI搭載」ツールを使用したリスクフリーのビジネスと宣伝。消費者に投資を求め、1,590万ドル（約24億円）以上の損害を与えた。
Ecommerce Empire Builders（EEB）	EC構築サービス	AIを活用したオンラインストアを構築すれば、すぐに多額の収入を得られると主張した。多くの顧客は、初期費用、在庫費用、広告費用など、さまざまな費用を負担したが回収できていない。EEBは払い戻しにも応じていない。
Rytr	文書作成支援サービス	生成AIを使った「ライティングアシスタント」サービスで「顧客の声＆レビュー」生成機能を提供し、この生成物の中に消費者を欺く可能性のある情報が含まれていた。虚偽で欺瞞（ぎまん）的なコンテンツを生成する手段を提供したことでFTC法に違反した。訴訟は、Rytrが消費者レビューや顧客の声の生成サービスの販売、宣伝、マーケティングをやめることで和解した。

対象となった企業は、「AI」を"売り文句"として消費者をだまそうとしていると判定されました。特に、Ascend Ecom、FBA Machine、Ecommerce Empire Buildersは、AIを活用したEC（電子商取引）ビジネスで簡単に高収入が得られるとうたって、金銭を出させようとした点で共通しています。

欺瞞（ぎまん）イノベーションか、意見の対立も

Rytr社の「ライティングアシスタント」サービスで提供した「顧客の声＆レビュー」は、「この商品」と「犬用シャンプー」と入力するだけで、「香りが良く、抜け毛対策になり、毛艶も改善する」といった内容のレビューを生成するものでした。これが、「広範な不公正または欺瞞（ぎまん）的な行為」を禁じるFTC法第5条に抵触するとして対象になったのです。

FTC委員会は、委員長を含む5人の委員（任期は7年）で構成されており、企業に対する訴訟や合併・買収阻止など重要な決定は多数決で決めます。そのため、通常は委員のほぼ全員の一致が求められますが、Rytr社に関する判断は意見が割れたことを米国の法律専門ニュースなどが伝えています。DoNotPay社など4件は5人全員一致で決まりましたが、Rytr社だけは賛成3対反対2となったのです。

2人の委員は、根拠とする「第5条に基づくFTCの権限を拡大しすぎ、公共の利益に反する」恐れがあるとして反対しました。反対委員の1人、アンドリュー・ファーガソン委員（共和党）は、Rytr社のサービスは単にテキストを作成するためのツールで、そのツールを使って虚偽のレビューを作成するのはユーザーの責任であると主張しました。

ファーガソン委員は反対意見で次のように述べています。

生成型AIツールが詐欺行為に使われる可能性があるというだけで明らかな違法とみなすことは、従来の判例や常識に反する。誠実な革新者を犯罪者にしてしまう恐れがあり、可能性を持った革命技術を生まれる前に抑圧する危険もある。

AIのコンテンツ生成に対する規制は、こうした点が議論を呼んでいます。特に、フェイクニュースや画像・動画生成を取り締まる法律制定は、表現の自由を巡る反対意見で頓挫することが増えています。この問題の根底には、米国憲法修正第1条で保障された言論の自由があり、規制が過剰になると、自由な表現活動を妨げる可能性があるとの懸念が根強いのです。

例えば、カリフォルニア州では大統領選を前にした2024年9月、「デジタルで生成・加工された政治広告に『加工済み』と表示することを義務付ける州法案（AB2839）が議会を通過し、知事の署名を得て発効するばかりになりました。「ディープフェイク政治広告」規制法です。しかし、連邦裁判官は、その差し止めを命じました。「修正第1条に違反している」という理由です。

こうした考え方は、「規制は最小限」を好む共和党に強く根づいています。このため、トランプ新政権でどうなっていくのかも注目されます。

消費者を守る取り組みは続く

FTCがOperation AI Complyとして5社を違反としたことは、AIに関連した詐欺行為を例外なく取り締まることへの意思表示と言えるでしょう。

リナ・カーン委員長はプレスリリースで以下の点を強調しています。

• AI技術を利用した製品やサービスについて、虚偽や誇張した主張をしてはならない
• AIは法の例外適用を受けない

不公正あるいは欺瞞（ぎまん）的な慣行を取り締まることで、適切にAIを活用しようとする企業や消費者を保護するという目的を示しています。AI生成コンテンツの規制は政治的に議論を呼んでいるものの、FTCが現行法を活用して消費者を守るという取り組みは続くと考えられます。

一方、米国でビジネスを展開する日本企業は、AIの効果を過度に誇張するようなマーケティングを行わないよう、注意する必要があります。

また、日本でも同様にAI規制は強化される見込みで、AIの適用範囲や想定されるリスクに関する情報開示（ガバナンス）が求められます。透明性を確保し、免責事項を適切に提示することが、今後の重要なポイントとなるでしょう。企業は社内のコンプライアンス体制の見直しを行うことで信頼性の高いAI活用を実現し、今後の競争優位性にもつながるのではないでしょうか。

プロフィール