プロのライターとして、私は人工知能が生成したテキストを検出し、AIコンテンツとしてマークできるようにすることを全面的に支持します。市場には大量のAI生成テキストがあふれており、ラベルが付けられれば、これらのコンテンツを読むために時間を無駄にする必要がなくなります。しかし、Anthropicは最近、EUの提案に従い、AI Claudeが生成したテキストにウォーターマークを付けることを発表しましたが、その方法はかなり独特です。
現在、AppleもAI生成画像の問題を解決するための対策を準備しており、「Apple Reference Image」という機能を通じて処理を行っています。状況によっては、同社はSiriのAIツールに対しても同様の措置を講じる必要があるかもしれません。これらのツールは、コンテンツの校正や執筆に使用されるためです。現在のところ完璧な解決策は存在しませんが、先週私が述べたように、目に見えない文字をウォーターマークとして使用する方法は理想的ではありません。EUの提案で最も注目すべき要求は、AI企業がテキスト出力と画像にデジタルウォーターマークを付ける必要があるということです。
これは、私が先ほど「目に見えない」と「文字」の間のスペースを置き換えるために使用した文字のように、目に見えない文字を使用することで実現できます。このようなウォーターマークは、コピー＆ペースト時に生き残ることができますが、光学文字認識技術によって簡単に解読されてしまいます。
AnthropicのAIテキストに対する独自のウォーターマーク戦略
私が言及したAnthropicの独自のアプローチは、同社が異なる戦略を採用する可能性があることを示唆しています。一部の人々は、AnthropicがClaudeの出力に特定の言語パターンを使用する可能性があると提案しています。これにより、光学文字認識を経ても検出可能になるのです。この点については多くの考えがありますが、この記事の範囲を超えています。今のところ、同社がこの分野で実際に行動を起こしているようですので、私の意見を述べる必要があります！問題は、Claudeが完全にAI生成されたテキストにこれらの言語パターンを埋め込むかどうかではありません；私はそれに異議を唱えていません。
問題は、一部の人々が自分のテキストを書いた後、AIチャットボットを使って校正を行うことです。どうやらClaudeは、このような場合に隠れたウォーターマークを埋め込むようです。たとえそれが単に人間が書いた作品の文法エラーを特定し修正するように求められた場合でも。
これは確かにSiri AIが提供する機能の一つです。ユーザーは自分が書いたテキストを強調表示し、Siriボタンを押して校正オプションを選択できます。確かに、私自身の限られたテストでは、この機能が過剰に積極的であることが示されています。文法エラーを検出して修正するだけでなく、自らの言い回しを提案してきます。私はこの点がより穏やかに調整され、作品が絶対に著者に属し、修正の程度が人間の編集者による軽微な修飾を超えないことを願っています。ちなみに、これが私がGrammarlyをテストしたが最終的に放棄した理由でもあります：それが提案する変更は、文法エラーやタイピングエラーを強調する範囲を超え、私が絶対に選ばない言い回しを提供してきました。
AppleのAI校正における課題と考慮事項
しかし、軽微な修飾がAppleの意図であると仮定した場合、AIが意図的に著者が選択した言語を歪めてAIコンテンツとしてマークされることは明らかに不適切です。もし行われた変更が単なる編集であれば、それをAIコンテンツとしてマークすることも不当です。せいぜい「AIによって校正された」とマークすることができます。私が言ったように、私はすべての答えを持っているふりはしません。AIチャットボットの使用が増えることで、執筆と編集に関する厄介な問題が提起されています。人間が書き、AIが編集した作品は、いつ著者とAIシステムの混合作品として正しく識別されるべきでしょうか？
私が知っているのは、特に著者がAIシステムに校正を依頼した場合に、人間の著者が選択した言い回しを意図的に変更することは正しいやり方ではないということです。Appleは確かにこの問題に適切なタイミングで対応する必要がありますが、私は彼らがAnthropicが採用したよりも賢明な道を選ぶことを非常に望んでいます。