TikTokは、AI生成コンテンツの透明性の向上をさらに強化し、AIによるゴミコンテンツへの対策を拡大することを発表しました。特に、政治、医療、金融などの敏感な分野における虚偽および誤解を招く情報の取り締まりに重点を置いています。同社は、ユーザーのAIに関する認識教育を強化しつつ、関連するAIゴミコンテンツを大量に流布するアカウントに対する検出と削除の強化を図ると述べています。
TikTokは7月14日にアジア太平洋地域でオンラインコミュニケーション会議を開催し、関連する新政策と機能を発表しました。TikTokのグローバル公共政策チームのAI責任者であるトム・ヴァルゲイセ氏は、AIがコンテンツの制作と消費においてますます重要な役割を果たす中、プラットフォームはユーザーに対してより十分な背景情報、信頼の基盤、選択肢を提供する必要があると述べました。これにより、ユーザーはAIを使用している時、何を視聴しているのか、そしてAIがその使用体験においてどのような役割を果たすのかを理解できるようになります。
TikTokはAI生成コンテンツの透明性とガバナンスを強化する
紹介によれば、TikTokはこれまでに30億件以上のAI生成コンテンツにラベルを追加しており、この取り組みはクリエイターによる自主的なラベリングメカニズムとC2PA技術を組み合わせたものです。C2PAはオープンな技術標準で、メタデータを通じてコンテンツの生成および編集履歴を記録し、コンテンツがAIによって生成されたかどうか、その出所を特定するために使用されます。TikTokは、昨年この動画プラットフォームでC2PAをいち早く導入し、最近C2PAガイドライン委員会にも参加したと述べています。
ユーザー教育に関して、TikTokはAIリテラシーファンドの規模を200万ドルから400万ドルに拡大し、専門機関によるAI教育コンテンツの制作を支援します。同社によれば、このファンドが昨年11月に始まって以来、AI専門家が制作した関連教育コンテンツの累計再生回数は2億回を超えています。同時に、TikTokはアプリ内に「AIリテラシーセンター」を立ち上げ、ユーザーがAIツールの使用方法やAI生成コンテンツを正しく識別し理解する手助けを行います。
ガバナンス措置において、TikTokはAI支援による創作とAIゴミコンテンツを明確に区別することを強調しています。データによれば、TikTokは今年第1四半期に8600万件の虚偽アカウントを削除しました。今後数週間で、プラットフォームは新しい検出システムを導入し、公共の事柄、金融アドバイス、医療情報、歴史的災害などの分野で繰り返しゴミのような AIコンテンツを投稿するアカウントを特定して排除します。未ラベルのAIコンテンツについては、リスクレベルに応じて分類されます：高度にリアルな特徴を持つAIコンテンツは必ずラベルを付ける必要があります。システムが未ラベルのAI生成コンテンツを特定した場合、AIラベルを直接追加することができます。害を及ぼす虚偽情報、なりすまし、不適切な露出などに関するコンテンツは、AIを使用しているかどうかに関わらず削除されます。違反はしていないがすべてのユーザーに適さないコンテンツについては、プラットフォームが推薦フィードへのアクセスを制限する可能性があります。