「規制の抜け穴」がAIウォーターマーク戦略を無効化する——EU法施行でも止められないテキスト改ざんの現実

2026年8月、欧州連合（EU）が野心的なAI規制法を施行した。その目玉施策が「AI生成物の検出義務化」だ。EU域内で事業を行う大規模言語モデル（LLM）プロバイダーに対し、生成されたテキストにウォーターマーク（透かし）を埋め込み、AI出自を追跡可能にすることが事実上義務付けられた。一見すると、透明性と信頼性を確保する革新的な規制に思える。だが、その実装現場では深刻な問題が浮き彫りになっている。ソフトウェアエンジニアのショーン・グーデッケ氏が指摘する通り、テキストAIのウォーターマーク技術は技術的に極めて困難であり、同時に簡単に削除できてしまうという致命的な欠陥を抱えているのだ。

ウォーターマーク埋め込みの「見えない綱引き」——人間らしさとの矛盾

テキストにウォーターマークを埋め込むことがなぜ難しいのか。その理由は、画像や動画のウォーターマークとは根本的に異なる制約にある。

画像のウォーターマーク技術は、視覚的な追加情報を「人間に気付かれない程度の淡さ」で挿入できる。一方、テキストは離散的で固定的だ。単語の選択、文法構造、句読点の位置——すべてが意味を左右する。ここにウォーターマークを埋め込もうとすれば、文章の質が低下するか、人間の目で検出可能な不自然さが生じる。

例えば、特定の単語を選別して配置することで暗号的なシグネチャを作成する手法が考えられる。しかし、この方法では生成されるテキストの多様性が制限され、AIが出力する文章が「型にはまった」印象になってしまう。一方、統計的な手法でウォーターマークを埋め込めば、検出精度は上がるが、今度は自然言語生成の品質が著しく損なわれるというジレンマに陥る。

つまり、高品質なテキスト生成と透かしの埋め込みは、技術的に相反する要求なのだ。規制当局が要求する「検出可能なウォーターマーク」と「ユーザーに不快感を与えない自然なテキスト」という二つの目標は、現在の技術水準では同時達成が極めて困難である。

「削除の民主化」——ウォーターマークはティッシュペーパーより脆い

仮に技術的課題をクリアしてウォーターマークを埋め込んだとしても、新たな問題が待ち構えている。それが「削除の簡単さ」だ。

グーデッケ氏が実験で示したのは、ウォーターマークされたテキストに対して、わずかな編集を加えるだけで検出機能を無効化できるという現実だ。言い換えれば、AIが生成したテキストをコピー&ペーストした後、数個の単語を言い換えたり、文章を再構成したりするだけで、ウォーターマーク情報は失われてしまう。

これはセキュリティ業界でよく知られた問題である。デジタル透かし技術は「堅牢性」（攻撃への耐性）と「検出感度」のバランスに悩まされてきた。ウォーターマークを堅牢にしすぎれば、テキスト品質が損なわれる。検出感度を高めすぎれば、微小な編集で機能喪失する。テキストAIの場合、この問題は特に深刻だ。なぜなら、ユーザーは容易に読み直し、改編できるメディアだからだ。

実際のところ、次のような簡単な操作でウォーターマークは無力化される：

• 同義語への自動置換（AIツールを使用）
• 段落の並び替え
• 文法構造の変更（意味を保持しながら）
• 要約と再生成

規制当局が想定した「追跡可能なデジタル証拠」というビジョンは、実運用では砂上の楼閣となっている。

規制と現実のギャップ——形式的コンプライアンスの罠

EU AI法の施行により、大規模言語モデルプロバイダーはウォーターマーク技術の導入を余儀なくされた。しかし、その実装内容は企業による自主判断に委ねられている部分が大きい。結果として、市場には「規制要件を満たしているように見える」が、実質的な効果が限定的なウォーターマーク実装が蔓延する可能性が高い。

なぜなら、完全に機能するウォーターマークを実装すれば、テキスト生成の品質や多様性が低下し、ユーザー体験が悪化するからだ。企業にとっては、競争力の喪失につながる。そこで企業は「形式的には規制を遵守しているが、実質的には削除や回避が容易なウォーターマーク」を実装する誘因が働く。

この状況は、サイバーセキュリティの世界でよく見られた「チェックボックス・コンプライアンス」と同じ構図だ。規制は存在するが、その実効性は疑わしい状態が続く可能性が高い。

今後の展開——技術革新か規制の再検討か

この問題を解決するには、いくつかのアプローチが考えられる。

一つは、より堅牢なウォーターマーク技術の開発だ。マシンラーニングの進化により、削除耐性の高い埋め込み手法が開発される可能性がある。ただし、これはテキスト生成品質とのトレードオフをどこまで許容するかという問題を残す。

もう一つは、規制アプローチの転換だ。ウォーターマークの埋め込みではなく、むしろAI検出AI（テキストがAI生成かどうかを判定するAI）の精度向上に注力する道もある。しかし、生成AIの進化に対抗するAI検出側の軍拡競争に陥る恐れもある。

第三に、ブロックチェーンやデジタル署名といった暗号技術を活用し、テキストの出自を検証可能にするインフラストラクチャを構築する方法も検討されている。ただし、これはコンテンツ流通全体の標準化を要求し、実現にはハードルが高い。

いずれのアプローチにせよ、現在のウォーターマーク規制が想定した「シンプルな解決策」では、AI時代の透明性要求に応えられないという認識が業界で広がりつつある。

結論：規制の良き意図と技術現実の断絶

EU AI法の施行は、AI生成物への対応をめぐる重要な一歩だった。しかし、グーデッケ氏の指摘は、規制当局が「何ができるか」よりも「何をしなければならないか」を先に決めてしまった可能性を示唆している。

テキストAIのウォーターマーク技術が持つ技術的限界と削除の容易さは、単なる実装上の課題ではなく、デジタルコンテンツの本質的な特性に由来している。規制が機能するためには、技術の可能性と限界を正確に理解した上で、設計される必要がある。

今後、この分野の動向は、AIガバナンスにおける「理想と現実」の関係を問い直す重要なケーススタディとなるだろう。ユーザーが自由にテキストを編集・改変できる以上、完全なウォーターマーク機能は本質的に困難である。その認識の上に、より現実的な規制フレームワークが構築されるか否かが、今後のAI信頼性向上の鍵を握っている。