プロのライターとして、私は人工知能が生成したテキストを検出し、AIコンテンツとしてマークすることを全面的に支持します。市場には大量のAI生成テキストがあふれており、ラベルが付けられれば、これらのコンテンツを読むために時間を無駄にする必要がなくなります。しかし、Anthropicは最近、EUの提案に従い、AI Claudeが生成したテキストにウォーターマークを付けることを発表しましたが、それはかなり独特な方法で行われます。
現在、AppleもAI生成画像の問題を解決するための対策を準備しており、Apple Reference Imageという機能を通じて処理を行っています。状況によっては、同社はSiriのAIツールにも同様の措置を講じる必要があるかもしれません。これらのツールはコンテンツの校正や執筆に使用されるためです。現時点では完璧な解決策は存在しないため、私が先週述べたように、隠し文字をウォーターマークとして使用する方法は理想的ではありません。EUの提案で最も注目すべき要求は、AI企業がテキスト出力と画像にデジタルウォーターマークを付ける必要があるということです。
これは、私が先ほど「隠し」と「文字」の間のスペースを置き換えるために使用した文字のように、隠し文字を使用することで実現できます。このようなウォーターマークは、コピー＆ペーストの際に生き残りますが、光学文字認識技術によって簡単に解読される可能性があります。
AnthropicのAIテキストに対する独特なウォーターマーク戦略
私が言及したAnthropicの独特なアプローチは、同社が異なる戦略を採用する可能性を示唆しています。一部の人々は、AnthropicがClaudeの出力に特定の言語パターンを使用する可能性があると提案しています。これにより、光学文字認識を経ても検出できるようになります。この点については多くの考えがありますが、この記事の範囲を超えています。現在、同社がこの分野で実際に行動を起こしているように見えるため、私の意見を述べる必要があります！問題は、Claudeが完全にAI生成されたテキストにこれらの言語パターンを埋め込むことではありません；私はそれに異議を唱えません。
問題は、一部の人々が自分のテキストを書いた後、AIチャットボットを使用して校正を行うことです。Claudeは、このような状況で隠しウォーターマークを埋め込むようです。たとえそれが単に人間が書いた作品の文法エラーを特定して修正するように求められた場合でも。
これはもちろん、Siri AIが提供する機能の一つです。ユーザーは自分が書いたテキストを強調表示し、Siriボタンを押して校正オプションを選択できます。確かに、私の限られたテストでは、この機能が過剰に反応することが示されました。それは単に文法エラーを検出して修正するだけでなく、自らの表現を提案します。この点がより穏やかに調整され、作品が完全に著者に属し、修正の程度が人間の編集による軽微な修正を超えないことを願っています。ちなみに、これが私がGrammarlyをテストしたが最終的に放棄した理由でもあります：それが提案する変更は、文法エラーやタイプミスを強調する範囲を超え、私が全く選択しない表現を提供しました。
AppleのAI校正における課題と考慮事項
しかし、軽微な修正がAppleの意図であると仮定した場合、AIが著者が選択した言語を故意に歪めることができるようにすることは明らかに不適切です。行われた変更が単なる編集である場合、それをAIコンテンツとしてマークすることも不当です。せいぜい「AIによって校正された」とマークすることができます。私が言いたいのは、AIチャットボットの使用が増加する中で、執筆と編集に関する厄介な問題が提起されているということです。人間が書き、AIが編集した作品は、いつ著者とAIシステムの混合作品として正しく識別されるべきでしょうか？
私が知っているのは、人間の著者が選択した表現を故意に変更すること、特にその著者がAIシステムに校正を求めただけの場合は正しい方法ではないということです。Appleはこの問題に適切に対応する必要があることは確かですが、Anthropicが採用したよりも賢明な道を選択することを強く望んでいます。