外部メディアの報道によると、SONYは新しい特許申請を提出し、PlayStationプラットフォーム上でAI制御の偽アカウントを展開する計画を立てています。これは、詐欺師、スパム送信者、チート行為を行う者、そして未成年者に接触しようとする疑わしいユーザーを特定することを目的としています。この特許申請番号は18/314775で、関連内容は2026年8月13日に公開される予定です。
SONYはAI技術を利用してPlayStationプラットフォームの安全性を向上させる計画
特許文書によると、SONYは「偽アカウント（Pseudo Account）」と呼ばれるAI制御システムを研究しています。このシステムは単純に機械的な返答を返すのではなく、監視対象のユーザー群のメッセージ特性や対話パターンを模倣し、普通のプレイヤーとしてターゲットとインタラクションを行います。このシステムは大規模言語モデルによって駆動され、対話内容や相手の行動を分析し、悪意のあるユーザーの具体的な行動様式を把握します。
特許文書では、監視対象の行動として、対話をプライベートチャネルに移そうとする試み、個人情報の要求、未成年者と思われるアカウントへの接触、不適切なメッセージの送信、詐欺の実施、スパムの送信、ゲーム内のチート行為などが挙げられています。注目すべきは、AIがこれらの行動を検出しても、アカウントを直接禁止するのではなく、リスク評価の参考要素の一つとして扱い、状況に応じて監視を強化したり、他のプレイヤーに警告や保護のヒントを発信することです。
業界の分析によれば、このシステムが未成年者に対する不適切な接触を早期に発見できれば、オンラインコミュニティの安全性を向上させるのに役立つとされています。しかし、このメカニズムが実際に導入される際には、プライバシー保護や誤判定などの課題にも直面することになり、AIによるユーザー対話の分析範囲や危険判定基準が重要な問題となるでしょう。