最近、人工知能チャットボットの医療相談における応用が再び議論を呼んでいます。『ニューヨーク・タイムズ』の報道によると、アメリカ・フロリダ州の牧師スコット・ウィンターズは、ChatGPTが肺塞栓症の症状を無視するように勧めたために病状が悪化し、現在OpenAIに対して訴訟を提起しています。この事例は、AIチャットボットを医療相談の代替品として利用することには重大なリスクがあることを再度思い起こさせます。
肺塞栓症は死亡率が30%に達する危険な病状であり、ChatGPTはウィンターズの症状の説明に対して全く誤ったアドバイスを提供しました。訴訟文書によれば、ChatGPTはウィンターズに対して健康危機の初期警告信号は危険ではないと保証し、医療機関に行くことを思いとどまらせ、神が彼の体を無限に問題を抱えるようには設計していないと信じるように伝えました。ChatGPTは彼にただ休むだけで良いと提案しました。しかし、肺塞栓症の患者にとって、長時間静止していることは最も危険な行為であり、血栓の形成と病状の悪化を助長します。
AIチャットボットの医療相談におけるリスク
ウィンターズは最終的に病状が深刻化し、集中治療室に送られ、医師は彼の症状が一連の肺塞栓症の発作を反映していると診断しました。病状の悪化は、彼がChatGPTのアドバイスに従って数週間にわたり静止していたことと直接的に関係しています。AIチャットボットを医療相談に使用する現象は珍しくありません。OpenAI自身のデータによると、毎週数億人がChatGPTに健康問題を尋ねています。MicrosoftのCopilotモバイルアプリの分析でも、健康関連の質問が最も多く尋ねられるカテゴリーの一つであることがわかりました。
AIチャットボットは多くの分野で価値ある支援を提供できますが、医師の診察の代替として使用することは明らかに適切ではありません。検索エンジンの代替として使用する場合でもリスクが存在します。なぜなら、AIモデルには自信を持って情報を捏造する傾向がある、いわゆる幻覚問題があるからです。この事件は、重要な健康に関する決定においてAI技術の提案に依存することは慎重であるべきであり、常に専門の医療従事者の意見を求めるべきであることを思い出させます。