近年、違法者が人工知能などの新技術を利用して行う犯罪活動が頻繁に見られています。これには、電気通信ネットワーク詐欺、個人情報の侵害、社会的信頼の基盤を破壊する行為、さらには国家安全を脅かす行為が含まれます。これに対し、公安機関は高い関心を持ち、さまざまな対策を講じて取り締まりを行っています。現在、人工知能を利用した新たな犯罪には、人工知能技術を用いて身分を偽造し、政府や企業の情報システムに侵入し、他人の情報や財産を盗む行為や、大人や権威者に偽装して被害者の信頼を得た後に詐欺を行う行為、さらに人工知能ツールを使ってネット上の噂を生成し、社会の公共秩序を乱す行為が含まれています。
今年上半期には、人工知能ツールを用いて生成されたネット上の噂に関する事件が170件以上捜査され、190人以上が法的に処罰されました。公安機関は、国家反詐欺センターのアプリケーションに人工知能コンテンツの鑑定機能を設置し、ユーザーが疑わしい動画、音声、画像をアップロードすることで、人工知能生成の痕跡があるかどうかをワンクリックで検出できるようにしています。今年上半期には、人工知能の応用サービスに関する監督検査が600回以上行われ、関連サービス提供者に対して警告、是正命令、停止などの行政執法が30回以上行われました。
公安機関が人工知能犯罪を取り締まるための措置
特筆すべきは、7月17日から20日まで、2026年世界人工知能大会および人工知能グローバルガバナンス高級会議が上海で開催されることです。展示会では人工知能のホットトピックに焦点を当て、世界モデル、オープンソースエージェント、AIプログラミング、トークン経済、OPCなどのテーマを巡り、業界の新たなトレンドについて深く探討します。