人々はしばしば人工知能チャットボットに対して、非常に不明智な健康に関するアドバイスを求めるなど、さまざまな個人データを開示します。不正確なアドバイスを受けることによる重大な医療リスクに加え、ユーザーは著しいプライバシーリスクにも直面しています。ほとんどの人工知能チャットボットの利用規約では、ユーザーとの会話をトレーニングデータとして使用することが許可されており、通常アプリケーションの規約ではデータが集約されて販売されることが許可されています。『The Verge』の報道によれば、民主党員は現在、健康データの販売を防ぐためにプライバシー法の更新を提案しています。
報道によると、2人の国会議員が人工知能チャットボットの会話中に収集された健康データの販売を禁止する法律を導入する計画を立てています。マサチューセッツ州のエリザベス・ウォーレン上院議員とペンシルベニア州のメアリー・ゲイ・スキャンロン下院議員は、今後数週間以内に『健康と位置データ保護法』の新バージョンを発表する予定であり、他の企業がこのようなデータをブローカーに販売することを禁止し、人工知能システムに入力されたデータを具体的に含めることを拡大します。
この記事は、この取り組みが特にタイムリーであることを指摘しています。なぜなら、人工知能企業はユーザーに健康データのアップロードを積極的に促しているからです。
アメリカ合衆国議会が健康データを保護する新法を提案
1月には、イーロン・マスクが人々に医療記録（MRIスキャンなど）をGrok、xAIのチャットボットにアップロードするよう公に呼びかけました。同月、OpenAIはChatGPT Healthを発表しました。これは、より安全なChatGPTのサンドボックスオプションと見なされ、ユーザーに医療記録やその他の機密情報のアップロードを促しました。その後、Anthropicは個人、医療提供者、病院向けの「HIPAA」ツールであるClaude for Healthcareを迅速に発表しました。
9to5Macの見解によれば、私はアメリカがEUのGDPRの幅と強度を持つ連邦プライバシー法を必要としていると何度も主張してきました。このような断片的な立法は、何もないよりはましですが、常に法律が技術に遅れをとることになります。生成的人工知能の信頼性が非常に低いことを考えると、チャットボットから健康に関するアドバイスを受けることは非常に愚かな行為です。絶対にやめてください。しかし、チャットボットと他の機密の議論をしたい場合は、Siriが最良の選択肢です。既存のSiriはChatGPTに転送され、新しいSiri AIはGoogle Geminiモデルを使用しており、Appleのプライバシー要件に厳格に従っており、ユーザーデータの収集を禁止しています。