roobrief

AI

AI生成物の表示義務はすでに施行中 ― ただし法律はC2PAを指定していない

AIが作った画像・音声・動画に「機械が読める表示」を付けるよう求める法律は、すでに施行されている。ただし、どの法律もC2PAを指定してはいない。

画像、音声、動画を生成するAIサービスを運営しているなら、押さえておくべき日付がある。EUのAI Actの透明性義務は8月2日から適用されており、それ以前から市場にあるシステムの「表示」義務は12月2日からだ。米国カリフォルニア州のAI透明性法も8月2日に始まった。

ここでいう「表示」とは、プログラムが読み取ってAIが作ったものだと判別できるようにファイルに埋め込んでおく情報のことだ。目に見えるラベルとは別のものである。

すでに施行されているルール

地域・法律 求める内容 開始 制裁
EU AI Act 第50条 生成AIの提供者は出力に機械可読の表示を入れ、ディープフェイクは利用者に明確に示す 2026年8月2日。すでに市場にあるシステムの表示義務は12月2日から 最大1,500万ユーロ(約27億円)または世界売上高の3%
カリフォルニア州 AI Transparency Act 月間利用者100万人超の生成AI提供者は、画像・動画・音声に隠れた表示(提供者、システム、時刻、固有ID)を入れ、無料の検出ツールを提供する 2026年8月2日。大手プラットフォームは2027年1月1日、撮影機器は2028年 違反1件につき5,000ドル(約79万円)
韓国 AI基本法 人が作ったものと見分けにくい音・画像・動画は、AIの出力であることを知らせる 2026年1月22日 AI利用の告知違反などに最大3,000万ウォン(約350万円)。過料は1年以上猶予する方針
  • ディープフェイクとは、本物に見えるようAIで作った人物や出来事の映像・音声のことだ。
  • カリフォルニア州法は、AIが生成したテキストには適用されない。
  • 韓国は法律が施行されたが、科学技術情報通信部は過料を少なくとも1年は猶予する方針を示している。

C2PAはどこにあるのか

C2PAは、コンテンツを誰がいつどう作ったかを署名してファイルに付ける業界標準だ。今年2月9日にContent Credentials 2.3が公開され、7月28日にはTikTokが運営委員会に加わった。

しかし法律は技術を決めていない。 EU委員会の公式FAQは「効果的で信頼でき、堅牢で相互運用できる機械可読の表示」を求めるだけで、透かし、メタデータ、C2PAには触れていない。指針となる行動規範(6月10日公開、任意、7月末時点で約190機関が署名)の公式ページにも具体的な手法は書かれていない。「署名付きメタデータと見えない透かしを併用せよ」と伝える解説もあるが、公式ページでは確認できなかった。

確認できなかった点

  • 「全面的な導入義務化」: 地域ごとにルールと開始日が違う。韓国は過料が猶予中で、カリフォルニア州のプラットフォーム義務は2027年からだ。
  • 「主要プラットフォームで標準として定着」: C2PAの採用は増えているが、アップロード時にメタデータが消えるなど一貫していないという解説が多い。プラットフォーム全体の標準と言える根拠は確認できなかった。
  • 「モデルの学習段階から表示を強制」: 確認した法律はいずれも出力物への表示を求めている。学習段階への要求は見つからなかった。
  • 「AI合成物の流通制限の強化」: 一般化できる根拠は見つからなかった。カリフォルニア州の大手プラットフォーム義務(表示を検出すること)は2027年からだ。

開発者に起こりうる変化

以下は報道と公式資料をもとにした筆者の推測と助言だ。法的助言ではないので、自社のサービスが対象かどうかは別途確認する必要がある。

  • まず自分のサービスが対象か確かめる。 画像・音声・動画を生成する機能があり、EUの利用者がいるか、カリフォルニア州の月間利用者が100万人を超えるなら対象になりうる。テキストだけを生成するサービスは、カリフォルニア州法の対象外だ。
  • 12月2日を点検の目安にする。 EUですでに稼働中の生成機能は、その日までに表示を入れる必要がある。
  • 表示がパイプラインの途中で消えないか確認する。 画像を縮小したり再エンコードしたりするツールは、ファイル内の情報を消してしまうことが多い。1つの方式だけに頼らず、ファイル情報と見えない透かしを併用するほうが安全だ。
  • 標準の選択は開かれている。 どの法律もC2PAを指定していないので他の方式も可能だが、相互運用できる表示でなければならない。新しく導入するなら、まずC2PA対応を検討する価値がある。

今後の注目点

EU行動規範の署名機関による検出・相互運用ツールの時期、カリフォルニア州の2027年1月の大手プラットフォーム義務と改正案、韓国の過料猶予の終了時期と法改正の動き、そしてC2PAの署名を回避する脆弱性の報告がどう扱われるかだ。

円換算は10月14日の為替レート(1ユーロ≒177円、1ドル≒158円、1,000ウォン≒118円)によるおおよその値だ。

出典

出典: digital-strategy.ec.europa.eu

← 戻る