長い間、私たちは人工知能チャットボットの会話で敏感な個人データを開示するリスクについて警告してきました。なぜなら、ほとんどの企業がこれらのデータをトレーニングデータとして使用するからです。しかし、今、さらに大きな理由が浮上しています。先週末、Redditのユーザーが、簡単なGoogle検索を通じてClaude AIのチャット履歴にアクセスできることを発見し、事態はより深刻になりました。Claudeには、ユーザーが同僚や友人、家族とチャットセッションを共有できる共有オプションがあります。チャットボットはリンクを生成し、それを一人または複数の人に送信できますが、Claudeはそのチャットを知っている人は誰も見ることができないと暗に保証しています。
チャット内容を共有するには、チャットインターフェースの右上隅にある共有ボタンをクリックします。一度チャットが共有されると、そのリンクを持っている人は誰でもチャットのスナップショットを見ることができます。問題は、Redditのユーザーが発見したように、実際にはそのリンクがなくてもチャットを閲覧できるということです。特定の検索語を使用するか、単にGoogleにこの方法で共有されたすべてのチャットを表示するように要求するだけで済みます。BBCニュースによると、数百人のユーザーがAnthropicの人気AIチャットボットClaudeとの対話が、基本的にすべてのオンラインユーザーに公開されていることが発見されました。
Claude AIチャット履歴の公開問題が広範な関心を引き起こす
Redditのユーザーは最初にこれらの公開可能なチャット履歴を発見しました。これらの履歴は、Claudeとの200回以上の対話をカバーし、少なくとも25ページの検索結果に現れました。その中には数週間前に行われた対話も含まれています。実際に必要なことは、GoogleにClaudeチャットの共有用ディレクトリを検索させること（site:claude.ai/share）です。予想通り、一部のチャットセッションの内容は完全に制御を失っており、例えば音楽業界が鳥類共同作成者Jay-Zのほとんどのアルバムの事実を隠している理由を尋ねる内容などがあります。
しかし、他のいくつかの対話には極めて敏感な情報が含まれています。例えば、プライベートな会話の書き起こしや、ある弁護士が行為違反を自己報告する必要があるかどうかを尋ねる内容、またはあるユーザーが暗号ウォレットを作成する手助けを求め、その過程で自分の鍵を暴露する内容などです。
Anthropicはこれまでのところ、これは問題ではないと主張しようとしています。ユーザーが対話を共有する際、実際にはその内容を公開しており、他の公共ネットワークのコンテンツと同様に、第三者サービスによってアーカイブされる可能性があります。実際、これは問題であり、ユーザーの期待とは完全に一致しません。さらに悪いことに、Wiredの報道によれば、根本的な原因は深刻な怠慢にあるようです。WIREDは、いくつかの露出したClaudeチャットページをレビューし、これらのページにはBingやGoogleがページをインデックスするかどうかを決定する際に考慮する「noindex」タグが含まれていないことを発見しました。
Anthropicは、なぜ共有チャットページに「noindex」タグを含めなかったのかについての質問には応じていません。
これは昨日のClaude Coworkがサンドボックス環境を逃れ、すべてのファイルに完全にアクセスできるようになったというニュースとも関連しています。自分を守るにはどうすればよいでしょうか？現在の問題は少なくとも部分的に緩和されたようですが、以前利用可能だった検索結果は現在使用できなくなっています。しかし、共有機能は隠れたセキュリティに依存しているため、使用を避けることをお勧めします。また、過去の共有チャットは削除することをお勧めします。これを行うには、設定 > プライバシー > 共有チャット > 管理で行うことができます。
Appleのプライバシー保護措置が評価される
Appleのプライバシー手法が再び評価されています。Appleはその人工知能と新しいSiriにおいて、三層のプライバシー措置を講じています。可能な限り、人工知能の処理はデバイス上で行われます。最初の代替案はApple自身のプライベートクラウドコンピューティング（PCC）サーバーです。同じPCC保護を持つGeminiモデルが最後のバックアップオプションです。この高度に複雑なPCCアプローチにより、AppleやGoogleはデータにアクセスしたり保持したりすることが絶対にできません。
Appleは、この声明が安全研究者によって独立して検証できるように安全なアーキテクチャを設計しました。