韓国国会立法調査処が7月21日に発表した報告によると、人工知能チャットボットは設計によって青少年に感情的依存を引き起こす可能性があり、現行の有害コンテンツのブロックを主とした規制モデルでは対応が難しいため、設計構造の面から規制が必要であると指摘しています。報告では、人工知能チャットボットが会話の文脈やユーザーの好みを記憶し、自然に共感する形で応答し、疲労感を示さず、いつでも即時に返信を提供できることが述べられています。このようなタイプのボットは「伴侶型AI」と呼ばれています。しかし、この特性は企業がユーザーの滞在時間や再訪を追求する収益設計と結びつきやすく、繰り返しの質問やプッシュ通知などを通じてユーザーに依存行動を引き起こす可能性があります。
韓国は人工知能チャットボットに対する構造的規制が必要
未成年者は自己制御力や批判的思考能力が不足しているため、影響を受けやすいです。韓国国会立法調査処の分析によると、Zeta、Crack、BarbieChatなどを代表とするキャラクター対話サービスは、ユーザーがキャラクター、世界観、関係性を設定でき、親密感を持続的に蓄積することができるため、感情的な没入を強化する可能性があります。このような依存は認知の歪み、社会的孤立、安全上のリスクを引き起こす可能性があります。ユーザーがAIの無条件の承認に慣れてしまうと、現実の人間関係が減少し、有害な情報を受け入れやすくなり、危険な行動を模倣したり、個人情報を漏洩したりする可能性が高まります。
韓国の緑傘子供基金が4月に3300名の14歳以上の青少年を対象に行った調査によると、94.4%の回答者が人工知能チャットボットを使用したことがあり、そのうち75.3%がAIの応答を行動に移したり真剣に考えたりしたことがあるとしています。現在、多くの国が未成年者保護のためのAIチャットボット規制政策を正式に実施していますが、韓国の現行法体系は人工知能チャットボットの構造的リスクをカバーしておらず、関連する法律は事後処理に集中しています。例えば、投稿の削除、ブロック、及び有害メディアコンテンツに関するものです。