TikTokは、AI生成コンテンツの透明性の強化をさらに進め、AIによるゴミコンテンツへの対策を拡大し、特に政治、医療、金融などの敏感な分野における虚偽および誤解を招く情報の取り締まりに重点を置くことを発表しました。同社は、ユーザーのAI認知教育を強化しつつ、関連するAIゴミコンテンツを大量に拡散するアカウントに対して、検出と削除の強化を図ると述べています。
TikTokは7月14日にアジア太平洋地域で行われたオンラインコミュニケーション会議で、関連する新政策と機能を発表しました。TikTokのグローバル公共政策チームのAI責任者であるトム・ヴァルゲイセは、AIがコンテンツの生産と消費においてますます重要な役割を果たす中、プラットフォームはユーザーに対してより十分な背景情報、信頼の基盤、選択肢を提供する必要があると述べ、ユーザーがいつAIを使用しているのか、どのようなコンテンツを視聴しているのか、そしてAIがその使用体験においてどのような役割を果たすのかを理解できるようにする必要があると強調しました。
TikTokはAI生成コンテンツの透明性とガバナンスを強化する
紹介によると、TikTokはこれまでに30億以上のAI生成コンテンツにラベルを追加しており、この取り組みはクリエイターによる自主的なラベリングメカニズムとC2PA技術を組み合わせたものです。C2PAはオープンな技術標準で、メタデータを通じてコンテンツの生成と編集の履歴を記録し、コンテンツがAIによって生成されたかどうか、その出所を特定するために使用されます。TikTokは、昨年この動画プラットフォームでC2PAをいち早く導入し、最近C2PAガイドライン委員会にも参加したと述べています。
ユーザー教育に関して、TikTokはAIリテラシーファンドの規模を200万ドルから400万ドルに拡大し、専門機関によるAI教育コンテンツの制作を支援すると発表しました。同社によれば、このファンドは昨年11月に開始されて以来、AI専門家が制作した関連教育コンテンツの累計再生回数は2億回を超えています。同時に、TikTokはアプリ内に「AIリテラシーセンター」を開設し、ユーザーがAIツールの使用方法やAI生成コンテンツを正しく識別し理解する方法を学べるようにします。
ガバナンス措置において、TikTokはAI支援による創作とAIゴミコンテンツを明確に区別することを強調しています。データによれば、TikTokは今年第1四半期に8600万の虚偽アカウントを削除しました。今後数週間で、プラットフォームは新しい検出システムを導入し、公共事務、金融アドバイス、医療情報、歴史的災害などの分野で繰り返しゴミのようなAIコンテンツを発信するアカウントを特定し、排除することに重点を置きます。未ラベルのAIコンテンツについては、リスクレベルに応じて分類されます：高度にリアルな特徴を持つAIコンテンツはラベルを付ける必要があります；システムが未ラベルのAI生成コンテンツを特定した場合、AIラベルを直接追加します；有害な虚偽情報、なりすまし、不適切な露出などのコンテンツについては、AIを使用しているかどうかにかかわらず削除されます。
違反はないがすべてのユーザーに適さないコンテンツについては、プラットフォームはその推薦フローへのアクセスを制限する可能性があります。