米 FTC、AI を欺瞞的に利用する 5 社に対して措置を講じる

米 FTC による AI 不正利用 5 社への措置は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、市場の可視性に結びついていることから、BTW Media が追跡しています。

• FTC は、AI を欺瞞的に使用した 5 社に対して措置を講じ、電子商取引詐欺を停止させ、DoNotPay および Rytr と欺瞞的サービスに関する合意に達した。
• FTC のリナ・カーン委員長は、違法行為において AI に例外はないと強調した。一方、AI 技術の規制アプローチをめぐる内部議論は続いている。

当社の見解
FTC による欺瞞的な AI 行為の取り締まりは、テクノロジー倫理の規制における決定的な一歩となる。これにより、企業は技術進歩の中で消費者の権利を保護し、責任を果たすことが確実になる。これは、進歩と法令遵守および倫理基準のバランスを取りながら、透明性のあるガイドラインと責任あるイノベーションの必要性を浮き彫りにしている。
– BTW ジャーナリスト、ヴィッキー・ウー

何が起こったか

米国連邦取引委員会（FTC）は、AI を消費者に対して欺瞞的かつ不公平に使用したとして 5 社に対して措置を講じた。これらのうち 3 件は、個人が受動的収入を得るための電子商取引ストアフロントの作成を支援すると称する企業に関するものだった。

FTC はまた、自動法律サービスを提供するDoNotPay、およびユーザーが偽の製品レビューを作成できるようにしたとされる AI ライティングツール Rytr とも合意に達した。DoNotPay は 19 万 3000 ドルを支払い、2021 年から 2023 年の間にサービスを利用した顧客に対し、その法的支援機能の限界について通知することに同意した。一方、Rytr はレビュー生成サービスの停止に同意した。FTC によると、これによりユーザーは最小限の労力で何千ものレビューを作成できたという。両社は過失を認めることなく合意に達した。Rytr の法定代理人は、この件に関するコメント要請に応じなかった。

こちらもお読みください：FTC のカーン委員長、競争促進のため AI モデルの開放を希望

こちらもお読みください：FTC、TikTok に関する苦情を司法省に付託

なぜ重要なのか

FTC の措置は、AI 技術の悪用に対する断固たる姿勢を示し、AI が既存法の遵守から企業を免除しないという原則を強化するものである。FTC のリナ・M・カーン委員長による「AI ツールを使って人を欺き、誤解させ、詐欺を働くことは違法である」との声明は、デジタル時代における消費者の保護に対する同機関のコミットメントを強調している。DoNotPay および Rytr との合意は、AI アプリケーションがもたらす規制上の課題と、倫理的使用に関する明確なガイドラインの必要性を浮き彫りにしている。

さらに、AI 規制における FTC の権限範囲をめぐる委員間の内部議論は、イノベーションと消費者の権利のバランスをどう取るかというより広範な社会議論を反映している。この展開は、他の企業への警告となる。すなわち、FTC は AI を欺瞞的な目的で悪用する企業を積極的に追及するだろう。