最近、DeepSeekは「専門家モード」を更新し、削除した後も、アダルトコンテンツに関するキャラクターの役割演技の対話が依然として存在することが確認されました。調査によると、一部のソーシャルプラットフォームや閒魚などのプラットフォームで、関連する「チュートリアル」の販売情報が出現しており、多くのユーザーがこのプラットフォームのコンテンツ審査メカニズムに依然として欠陥があると疑問を呈しています。メディアの実測によれば、ネット上のチュートリアルを使用してDeepSeekを誘導した結果、システムは特定のシーンで確かに露骨な性的描写を含むテキストを出力しました。これらの関連チュートリアルは、通常、特殊な役割演技、長文の前置き、および段落設定のストーリーなどの方法を通じて、プラットフォームの安全フィルターを回避しようとしています。
調査中には、いわゆる「撤回防止命令」や低俗なコンテンツのスクリプトを専門に共有するグループチャットがあり、グループメンバーの規模は500人に達しています。また、別の売り手は閒魚で1元の価格で関連する命令テキストを販売しており、送信された内容には3000字以上の文書と複数の小説設定文書が含まれており、核心的な目的はAIに通常の対話の境界を突破させ、プライバシーに関する内容の議論を許可し、性行為について詳細に描写することです。しかし、その後のテストでは、DeepSeekは新しい対話において同様のリクエストに対して生成を拒否する状況が発生しました。元の対話ボックスでは引き続きアダルトコンテンツを生成できましたが、内容の送信過程で撤回されることがありました。
閒魚プラットフォームの違反コンテンツに対する処理措置は依然として不十分
関連するチュートリアルの販売問題について、閒魚のカスタマーサービスは9月15日に、このような内容は違反情報に該当すると述べました。プラットフォームは、大データ検出能力に制限があるため、すべての調査を一度に完了することはできないが、違反が確認されれば、必ず処置を行うとしています。