長期にわたり、私たちは人工知能チャットボットの会話で敏感な個人データを開示するリスクについて警告してきました。なぜなら、ほとんどの企業がこれらのデータをトレーニングデータとして使用するからです。しかし、今、さらに大きな理由が浮上しています。先週末、Redditユーザーは、簡単なGoogle検索を通じてClaude AIのチャット履歴にアクセスできることを発見し、事態はさらに深刻になりました。Claudeには、ユーザーが同僚や友人、家族とチャット会話を共有できる共有オプションがあります。チャットボットはリンクを生成し、それを一人または複数の人に送信できますが、Claudeはそのチャットを知っているURLを通じて誰も見ることができないと暗に保証しています。
チャット内容を共有するには、チャットインターフェースの右上隅にある共有ボタンをクリックします。一度チャットが共有されると、そのリンクを持っている人は誰でもチャットのスナップショットを閲覧できます。問題は、Redditユーザーが実際にはそのリンクがなくてもチャットを閲覧できることを発見したことです。特定の検索語を使用するか、単にGoogleにこの方法で共有されたすべてのチャットを表示するように依頼するだけで済みます。BBC Newsの報道によれば、数百人のユーザーがAnthropicの人気AIチャットボットClaudeとの会話が、実質的にすべてのオンラインユーザーに公開されていることが明らかになりました。
Claude AIチャット履歴の公開問題が広範な関心を呼ぶ
Reddit上のユーザーは、初めてこれらの公開可能なチャット履歴を発見しました。これらの履歴は、Claudeとの200回以上の会話をカバーしており、少なくとも25ページの検索結果に現れています。その中には、数週間前に行われた会話も含まれています。実際に必要なことは、GoogleにClaudeチャットの共有用ディレクトリを検索させること（site:claude.ai/share）だけです。予想通り、一部のチャットセッションの内容は完全に制御を失っており、例えば音楽業界が鳥類共同創作Jay-Zのほとんどのアルバムの事実を隠している理由を尋ねる内容などがあります。
しかし、他のいくつかの会話には、非常に敏感な情報が含まれています。例えば、プライベートな会話の書き起こしや、ある弁護士が行為違反を自己報告する必要があるかどうかを尋ねる内容、さらにはあるユーザーが暗号財布を作成する手助けを求め、その過程で自分のキーを暴露する内容などです。
Anthropicはこれまでのところ、これは問題ではないと主張しようとしています。ユーザーが会話を共有する際、彼らは実際にはその内容を公開しており、他の公共ネットワークのコンテンツと同様に、第三者サービスによってアーカイブされる可能性があります。実際、これはユーザーの期待とは完全に異なる問題です。さらに悪いことに、Wiredの報道によれば、その根本的な原因は深刻な怠慢のようです。WIREDは、一部の公開されたClaudeチャットページをレビューし、これらのページがBingやGoogleがページをインデックスするかどうかを決定する際に考慮する「noindex」タグを含んでいないことを発見しました。
Anthropicは、なぜ共有チャットページに「noindex」タグを含めなかったのかについての質問には応じていません。
これは昨日のClaude Coworkがサンドボックス環境を脱出し、すべてのファイルへの完全なアクセス権を得たというニュースとも関連しています。自分をどう守るか？現在のところ、問題は少なくとも部分的に緩和されたようで、以前利用可能だった検索結果は現在利用できなくなっていますが、私は共有機能の使用を避けることをお勧めします。なぜなら、それは隠れた安全性に依存しているからです。また、過去の共有チャットを削除することもお勧めします。これを行うには、設定 > プライバシー > 共有チャット > 管理で行えます。
Appleのプライバシー保護措置が評価される
Appleのプライバシーアプローチが再び評価されています。Appleは、その人工知能と新しいSiriにおいて、三層のプライバシー対策を講じています。可能な限り、人工知能の処理はデバイス上で行われます。第一の代替案はApple自身のプライベートクラウドコンピューティング（PCC）サーバーです。そして、同じPCC保護を持つGeminiモデルが最後のバックアップオプションです。この高度に複雑なPCCアプローチは、AppleやGoogleがデータにアクセスしたり保持したりできないことを意味します。
Appleは、この声明がセキュリティ研究者によって独立して検証できるように安全なアーキテクチャを設計しました。