人々はしばしば人工知能チャットボットに対して、非常に不明瞭な健康に関するアドバイスのリクエストを含むさまざまな個人データを開示します。不正確なアドバイスを受けることによる重大な医療リスクに加えて、ユーザーは著しいプライバシーリスクにも直面しています。ほとんどの人工知能チャットボットの利用規約では、ユーザーとの会話をトレーニングデータとして使用することが許可されており、通常、アプリケーションの規約ではデータが集約されて販売されることが許可されています。『The Verge』の報道によれば、民主党員たちは健康データの販売を防ぐためにプライバシー法の更新を提案しています。
報道によると、2人の国会議員が人工知能チャットボットの会話で収集された健康データの販売を禁止する法律を導入する計画を立てています。マサチューセッツ州のエリザベス・ウォーレン上院議員とペンシルベニア州のメリー・ゲイ・スキャンロン下院議員は、今後数週間以内に《健康と位置データ保護法》の新バージョンを発表する予定であり、他の企業がこのようなデータをブローカーに販売することを禁止し、人工知能システムに入力されるデータを具体的にカバーすることを目指しています。
この記事は、この取り組みが特にタイムリーであることを指摘しています。なぜなら、人工知能企業がユーザーに健康データのアップロードを積極的に促しているからです。
アメリカ合衆国議会が健康データを保護する新法を提案
1月には、イーロン・マスク（Elon Musk）がGrok、xAIのチャットボットに医療記録（MRIスキャンなど）をアップロードするよう人々に呼びかけました。同月、OpenAIは、ユーザーに医療記録やその他の機密情報のアップロードを促す、より安全とされるChatGPT Healthを発表しました。その後、Anthropicは、個人、医療提供者、病院向けに準備された「HIPAA」ツールであるClaude for Healthcareを迅速に発表しました。
9to5Macの見解によれば、私はアメリカがEUのGDPRの広範さと厳しさを備えた連邦プライバシー法を必要としていると何度も主張してきました。このような断片的な立法は、何もないよりはましですが、常に法律が技術に遅れをとることになります。生成的人工知能の信頼性が非常に低いことを考えると、チャットボットから健康に関するアドバイスを受けることは非常に愚かな行為です。絶対にそうしないでください。しかし、チャットボットと他の機密の議論をしたい場合は、Siriが最適な選択です。既存のSiriがChatGPTに接続されていることや、新しいSiri AIがGoogle Geminiモデルを使用していることは、ユーザーデータの収集を禁止する厳格なAppleのプライバシー要件に従っています。