Metaは、親がInstagram、Facebook、またはMeta Horizonsで、ティーンエイジャーが自殺やその他の自己傷害について話し合っている場合に警告を受け取ることができると発表しました。監視したい家庭アカウントを選択するために、親や保護者はMetaの監視ツールを選択する必要があります。Metaは、この新機能が既存の安全対策を補完するものであると述べています。ティーンエイジャーが自殺や自己傷害を考えている可能性があると示した場合、Metaの人工知能は彼らを危機ホットラインに連絡させ、親や他の信頼できる大人（カウンセラーなど）に連絡するよう促します。
現在、私たちは監視している親に対しても、ティーンエイジャーがMetaの人工知能とのチャットでリスクにさらされている可能性がある場合に積極的に通知します。これらの信号は専門家と協力して開発されました。私たちは、親がティーンエイジャーとのこれらの対話を行うのを助けるために専門家のリソースを共有します。
同社は、比較的微妙な参照でも検出することを目指していると述べていますが、すべてのマークされたチャットは人工審査が行われます。私たちは、これらの警告が親にとってどれほど不安を引き起こす可能性があるかを理解しています。したがって、私たちの検出が改善されるにつれて、人工知能がマークしたすべてのチャットは警告を送信する前に人工審査が行われます。ティーンエイジャーの意図があいまいな場合、私たちは慎重なアプローチを取り、親に通知します。これは、実際には注意を必要としない状況で親に通知することがあることを意味しますが、私たちはこれが正しい出発点であると考えており、私たちが正しい位置にいることを確認するために監視を続けます。
家庭監視をまだ設定していない場合は、まずお子様が使用しているアカウントに家庭監視を設定する必要があります。
Metaの新機能は現在複数の国で利用可能
この新機能は現在、アメリカ、カナダ、イギリス、オーストラリアで利用可能です。Metaは、FacebookやInstagramの投稿で信頼できる自殺リスクが検出された場合、緊急サービスに通知し、将来的にはMetaの人工知能に拡張する予定です。私たちは、誰かの会話（大人でもティーンエイジャーでも）がMetaの人工知能との交流で即時の自殺リスクにさらされている可能性がある場合に、緊急サービスに連絡する能力を構築しています。これは、FacebookやInstagramで既に行っている作業に基づいています：私たちは、特定の投稿が信頼できる自殺リスクを示していることに気づいたとき、緊急サービスに通知します。
昨年、私たちは世界中で19,000回以上のこのような紹介を行い、自殺リスクにさらされている可能性のある人々に対して第一反応者が健康チェックを行うのを助けました。
もしあなたがリスクを感じている場合は、988自殺危機ホットラインに電話するか、メッセージを送信するか、988lifeline.orgを訪れてチャットを行ってください。また、911に電話するか、緊急治療室に行って、メンタルヘルスの緊急事態の助けを求めることもできます。