Metaは、親がInstagram、Facebook、またはMeta Horizonsで、ティーンエイジャーが自殺やその他の自己傷害について話し合っている場合に警告を受け取ることができると発表しました。監視したい家庭アカウントを選択するために、親や保護者はMetaの監視ツールを選択する必要があります。Metaは、この新機能が既存の安全対策を補完するものであると述べています。ティーンエイジャーが自殺や自己傷害を考えている可能性がある場合、Metaの人工知能は、彼らに危機ホットラインに連絡するよう促し、親や他の信頼できる大人（カウンセラーなど）に連絡するよう勧めます。
現在、私たちは監視している親に対して、ティーンエイジャーがMetaの人工知能とのチャットでリスクにさらされている可能性がある場合に積極的に通知します。これらの信号は専門家と協力して開発されました。私たちは、親がティーンエイジャーとの対話を行うのを助けるために、専門家のリソースを共有します。
同社は、相対的に微妙な参照であっても検出することを目指していると述べていますが、すべてのマークされたチャットは人工審査を受けます。私たちは、これらの警告が親にとってどれほど不安を引き起こす可能性があるかを理解しています。したがって、私たちの人工知能がマークしたすべてのチャットは、警告が送信される前に人工審査を受けます。ティーンエイジャーの意図が不明瞭な場合、私たちは慎重なアプローチを取り、親に通知します。これは、時には本当に注意が必要ではない状況で親に通知することを意味しますが、私たちはこれが正しい出発点であると考えており、適切な位置にいることを確認するために監視を続けます。
まだ家庭監視を設定していない場合は、まずお子様が使用しているアカウントに家庭監視を設定する必要があります。
Metaの新機能は現在複数の国で利用可能
この新機能は現在、アメリカ、カナダ、イギリス、オーストラリアで利用可能です。Metaは、FacebookまたはInstagramの投稿で信頼できる自殺リスクが検出された場合、緊急サービスに通知し、将来的にはMetaの人工知能に拡張する予定です。私たちは、誰かの会話（大人でもティーンエイジャーでも）がMetaの人工知能との交流で即時自殺リスクにさらされている可能性がある場合に、関連機関に連絡する能力を構築しています。これは、FacebookとInstagramで既に行っている作業に基づいています：私たちは、特定の投稿が信頼できる自殺リスクを示していることに気づいたとき、緊急サービスに通知します。
昨年、私たちは世界中で19,000回以上のこのような紹介を行い、自殺リスクにさらされている可能性のある人々に対して第一反応者が健康チェックを行うのを助けました。
リスクを感じる場合は、988自殺危機ホットラインに電話するか、テキストを送信するか、988lifeline.orgを訪れてチャットを行ってください。また、911に電話するか、救急室に行って、メンタルヘルスの緊急事態の助けを求めることもできます。