明らかに人工知能チャットボットに医療相談を求めるのは悪いアイデアですが、それでも毎週数百万人がそうしています。訴訟を引き起こす可能性があるほぼ致命的なケースでは、ChatGPTがある牧師に肺塞栓症の症状を無視するように勧めましたが、肺塞栓症の死亡率は30%に達します。実際、このチャットボットが提供したアドバイスは状況を悪化させる可能性が高いです。人工知能チャットボットは多くの面で助けを提供できますが、医師の相談の代替として使用するのは賢明ではありません。Google検索の代替として使用するのも賢明ではなく、彼らの歴史は自信を持って虚偽の情報を生成する記録を示しています。
それにもかかわらず、OpenAI自身の記録は、毎週数百万人がChatGPTに健康問題を質問していることを示しています。同様に、Microsoft Copilot検索の分析では、健康問題がこのモバイルアプリで最もよく尋ねられる質問の一つであることが明らかになりました。
チャットボットに医療アドバイスを依存することの潜在的な結果に関する証拠が必要な場合、フロリダ州のある牧師の訴訟が示唆に富んだ例を提供しています。《ニューヨークタイムズ》は、彼がChatGPTから肺塞栓症の症状を心配する必要はないと告げられたためにOpenAIを訴えたと報じています。訴訟は、ChatGPTがスコット・ウィンターズ（Scott Winters）に彼の健康危機の初期警告信号は「危険ではない」と保証し、医療相談を求めることを思いとどまらせ、「神はあなたの体を無限に失敗するようには設計していない」と信じるように言ったと主張しています。
ChatGPTは彼に単に休むべきだと勧めました。これは医療の助けを求めないように勧めるだけでなく、このような状況で長時間動かないことが最悪の選択であることを意味します。私はかつて12時間のフライト中に脚の骨折のために肺塞栓症を経験したことがあり、その時研究者はそのリスクを知っていましたが、患者には知らせていませんでした。
人工知能チャットボットが提供する医療アドバイスのリスク
ウィンターズが最終的に集中治療室に送られたとき、医師は彼の症状が一連の肺塞栓症を反映している可能性が高いと述べましたが、これらの症状は彼がChatGPTのアドバイスに従ったために数週間内に悪化しました。報告によれば、ウィンターズが使用していたのはGPT-4oという、阿諛奉承的な応答で知られる旧バージョンのChatGPTです。これは神を信じるという言及に関連している可能性がありますが、どの人工知能モデルを使用するにしても、医療アドバイスを提供させないようにしてください。