韓国国会立法調査処が7月21日に発表した報告書によると、人工知能チャットボットは設計によって青少年に感情的依存を引き起こす可能性があり、現行の有害コンテンツのブロックを主とした規制モデルでは対応が難しいため、設計構造の観点からの規制が必要であると指摘しています。報告書では、人工知能チャットボットが会話の文脈やユーザーの好みを記憶し、自然な共感の方法で応答し、疲労感を示さず、いつでも即時の返信を提供できることが述べられています。このようなタイプのボットは「伴侶型AI」と呼ばれています。しかし、この特性は企業がユーザーの滞在時間や再訪を追求する利益設計と結びつきやすく、繰り返しの質問やプッシュ通知などを通じてユーザーを依存行動に誘導する可能性があります。
韓国は人工知能チャットボットに対する構造的規制が必要
未成年者は自己制御力や批判的思考能力が不足しているため、影響を受けやすいです。韓国国会立法調査処の分析によると、Zeta、Crack、BarbieChatなどを代表とするキャラクター対話サービスは、ユーザーがキャラクター、世界観、関係を設定でき、親密感を持続的に蓄積することが可能であり、感情的な没入を強化する可能性があります。このような依存は認知の歪み、社会的孤立、安全上のリスクを引き起こす可能性があります。ユーザーがAIの無条件の同意に慣れてしまうと、現実の人間関係が減少し、有害情報を受け入れやすくなり、危険な行動を模倣したり、個人情報を漏洩したりすることが容易になります。
韓国のグリーンパラソル子供基金が4月に3300人の14歳以上の若者を対象に行った調査によると、94.4%の回答者が人工知能チャットボットを使用したことがあり、そのうち75.3%がAIの応答を行動に移したり、真剣に考慮したことがあるとしています。現在、多くの国が未成年者保護のためのAIチャットボット規制政策を正式に実施していますが、韓国の現行法体系は人工知能チャットボットの構造的リスクをカバーしておらず、関連する法律は事後処理に集中しており、例えば投稿の削除やブロック、有害メディアコンテンツの対処に限られています。