要約

  • 規則(EU) 2024/1689は2026年8月2日から原則として全面適用され、第50条の透明性義務が運用段階に入った。
  • 人と直接対話するAIシステムの提供者は、合理的な知識と注意を備えた人にとって明白な場合を除き、規定の例外の下でAIであることを知らせる。
  • 合成音声・画像・動画・テキストを生成するシステムの提供者は、技術的可能性と例外の範囲内で、出力を機械可読かつ検出可能にする。
  • 導入者は、感情認識または生体分類にさらされる人に通知し、特定のディープフェイクや公益目的テキストを開示する。
  • 情報は遅くとも最初の対話または接触時に、明確で識別可能な形で示す必要がある。
  • 欧州委員会が支援するコードへの署名は任意で、非署名者も別の適切な手段で遵守を証明しなければならない。

8月2日が準備と義務を分ける

ニュースの基準時刻は規則の適用日であり、後から解説した記事の配信時刻ではない。対象組織は8月2日から、計画を示すだけでなく、実装した管理策を説明できる状態を求められる。

すべてのAI出力に同じ警告を付ける制度ではない。機能、事業者の役割、コンテンツ、利用状況によって義務は異なる。共通ラベルより先に利用台帳と責任分界が必要になる。

提供者と導入者は別の層を握る

提供者はシステムを設計・市場投入し、導入者は特定の場面で利用する。合成出力の技術的表示は提供者の役割であり、人への複数の告知は導入者が担う。直接対話の通知は提供者の設計義務でもある。

調達では、ベンダーの機械可読表示が顧客の生体認識通知を代替せず、顧客の見える表示もベンダーの技術的出所管理を代替しない。契約で証拠の受け渡しを定める必要がある。

機械可読な出所は画面上の印だけではない

合成音声、画像、動画、テキストは、人工生成・操作を検出できる形式にする。規則は技術的可能性、形式の特性、実装費用、技術水準を考慮し、限定的な例外も置く。

圧縮、スクリーンショット、編集で信号が弱まるため、実際の流通経路で試験しなければならない。挿入機能だけでなく、検出方法と、どのサービスが表示を付けたかを示す記録が要る。

人への告知は最初の接点までに

直接AIとやり取りする人には、文脈上明白な場合を除き、その事実を知らせる。感情認識や生体分類の対象者にも、法定例外の下で運用を知らせる。

重要な場面が過ぎてから利用規約で分かるのでは遅い。最初の対話・接触時までに明確に示すため、通知は製品の入口に組み込む必要がある。

ディープフェイクと公益テキストは出版責任を問う

画像、音声、動画を生成・操作しディープフェイクとなる場合、導入者は人工的な介入を開示する。芸術、創作、風刺、フィクションでは、鑑賞を妨げない調整された開示が認められる。

公益事項について公衆に知らせる目的の生成・操作テキストも対象となる。人による審査または編集管理があり、自然人・法人が編集責任を負う場合の限定もある。モデル利用の有無だけでなく目的と責任が判断材料になる。

コードは証明手段であって法律そのものではない

欧州委員会が支援するコードは表示とラベルの実務を示すが、署名は任意だ。署名しないこと自体は違反ではない一方、第50条の義務は残り、代替策の十分性を説明する必要がある。

表示範囲、配信後の検出試験、通知位置、例外判断、統治記録が取引と監督の証拠になる。署名は形式を整え得るが、実装の代わりにはならない。

経過措置は全面延期ではない

欧州委員会は、8月2日より前に生成され既に提供された出力は遡及表示を要しないとしている。またAI Omnibusが採択された場合、以前から市場にある一部システムの第50条2項表示義務に限り、12月2日までの移行を想定する。

前者は既存出力、後者は条件付きの特定義務だけである。対話通知や生体認識告知などを一括して延期するものではない。

出典