Anthropic、Claudeの生成テキストにAIコンテンツ識別用の水印を追加

あなたは、AIが生成した画像に水印が付いているのを見たことがあるかもしれません。これは、それらが実際にAIによって作成されたことを示しています。現在、AIが生成したテキストにも水印が追加され、消費者がオンラインコンテンツやコメントがAIによって書かれたかどうかをより簡単に識別できるようになっています。Claudeを開発した会社Anthropicは、EUのAI生成コンテンツ透明性行動規範に署名し、テキスト水印の仕組みを説明しました。テキスト水印は機械可読ですが、人間には透明であるべきです。同社は、「サポートされているClaudeモデルがテキストを生成する際、目立たない水印が直接テキストに織り込まれます。

あなたはそれを見ることはなく、Claudeの応答の意味、質、可読性を変えることはありません。」この目に見えない水印は、コピー&ペーストに対して耐性があります。注目すべきは、テキストをわずかに編集した後でも存在し続けるため、簡単には回避できないということです。ただし、テキストが短すぎる場合や、誰かがテキストを編集するのに余分な時間をかけた場合、水印は機能しません。

AnthropicはAI生成テキストの水印技術を推進しています

EUで8月2日以降にリリースされたすべてのClaudeモデルは、自動的にテキストに水印を追加します(この行動規範はその日から有効です)。これはモデルによって自動的に行われるため、Claude API、Claude Code、Cowork、またはTagを使用しても影響はありません。あなたが使用しているサービスプロバイダー(AWS、Google Cloud、Microsoft Foundryなど)にも違いはありません。さらに、Anthropicは、早期モデル(8月2日以前)に水印機能を追加しており、これはEUに限定されず、世界中で展開される予定です。

同社はまた、これらの水印を検出するためのツールを開発しており、これらのツールはすぐに発表される予定です。注意すべきは、水印はClaudeモデルからのすべてのテキストに適用されることであり、AIが元の著者でない場合でも同様です。たとえば、Claudeを使用して翻訳、要約、フォーマット、または校正を行った場合、結果には水印が付けられます。

AI生成コンテンツの透明性は消費者の信頼を高める

これは行動規範の一部ではなく、特定の例外があります。「この義務は、AIシステムが標準的な編集の補助機能を実行する場合や、展開者が提供する入力データやその意味を実質的に変更しない場合には適用されません。」Anthropicは引き続き慎重にこれを行います。また、AI生成の画像についても言及しました—あなたが見たことがあるかもしれない水印は比較的簡単に削除できます。対照的に、JPG、PNG、SVG画像は、コンテンツソースと真正性連盟(C2PA)によって設計されたオープンスタンダードに基づいてソースメタデータに署名されます。

AI生成コンテンツを検出しやすくすることは明らかに良いことです。しかし、AI企業にとっても利点があります—ますます多くのボットがコメントや記事全体を発表する中で、AI企業は古いAIモデルに基づいて新しいAIモデルをトレーニングすることになるかもしれません。それでも、私たちはこれを消費者にとっての勝利と見なしています。

Nakumura
Nakumura
関連サイト:中文版 / TechRitualThe Base Principle