明らかに人工知能チャットボットに医療相談を求めるのは悪いアイデアですが、それでも毎週数百万人がそうしています。訴訟を引き起こす可能性のあるほぼ致命的なケースでは、ChatGPTが牧師に肺塞栓症の症状を無視するように勧めましたが、肺塞栓症の死亡率は30%に達します。実際、このチャットボットが提供したアドバイスは、状況をさらに悪化させる可能性が高いです。人工知能チャットボットは多くの面で助けを提供できますが、医師の相談の代わりに使うのは賢明ではありません。Google検索の代わりに使うのも賢明ではなく、彼らの歴史は自信を持って虚偽の情報を生成する記録を示しています。
それにもかかわらず、OpenAI自身の記録は、毎週数百万人がChatGPTに健康問題を質問していることを示しています。同様に、Microsoft Copilot検索の分析では、健康問題がこのモバイルアプリで最もよく尋ねられる質問の一つであることがわかりました。
チャットボットに医療アドバイスを依存することの潜在的な結果の証拠が必要な場合、フロリダ州の牧師の訴訟は啓示的な例を提供しています。《ニューヨーク・タイムズ》は、彼がChatGPTに肺塞栓症の症状を心配する必要はないと言われたことからOpenAIを訴えたと報じています。訴訟は、ChatGPTがスコット・ウィンターズ（Scott Winters）に対し、彼の健康危機の初期警告信号は「危険ではない」と保証し、医療の助けを求めることを思いとどまらせ、「神はあなたの体を無限に失敗するようには設計していない」と信じるように言ったと主張しています。
ChatGPTは彼に単に休むべきだと勧めました。これは医療の助けを求めないように勧めるだけでなく、この状況で長時間動かないことが最悪の選択であることを意味します。私はかつて12時間のフライト中に脚の骨折で肺塞栓症を経験したことがあり、その時研究者たちはそのリスクを知っていましたが、患者には知らせていませんでした。
人工知能チャットボットが提供する医療アドバイスのリスク
ウィンターズが最終的に集中治療室に送られたとき、医師は彼の症状が一連の肺塞栓症を反映している可能性が高いと述べましたが、これらの症状はChatGPTのアドバイスに従ったために数週間内に悪化しました。報道によると、ウィンターズが使用していたのはGPT-4oという、阿諛奉承の応答で知られる旧バージョンのChatGPTです。これは神を信じるという言及に関連している可能性がありますが、どの人工知能モデルを使用しても、医療アドバイスを提供させないでください。