AppleはiOS 27でTrust Insightsという新しいフレームワークを導入し、音声通話、SMS、電子メールなどを通じて発生する社会工学的詐欺に対処するアプリケーションを支援することを目的としています。以下はそのフレームワークの詳細です。
Trust Insightsフレームワークの詳細な紹介によれば、Appleが提案するこのフレームワークは、ユーザーが詐欺の被害者になる可能性がある場合に、アプリケーションにタイムリーに警告を発することができます。Appleは、社会工学的詐欺は自動検出が難しいと説明しています。なぜなら、通常はユーザーが関連する行動を実行しており、これらの行動は「認証されており、準拠している」からです。近年、技術サポート詐欺、権威の偽装、家庭の緊急詐欺が増加しており、特に人工知能の深層偽造技術の普及に伴い、問題が深刻化しています。
Apple Trust Insightsフレームワークは詐欺防止策を強化することを目的としています
これらの詐欺行為に対処するために、Appleは主にデバイス上で動作するこのフレームワークを導入しました。このフレームワークは「インタラクションパターン、時間、コンテキスト、および基本的なセンサー情報」を分析します。ユーザーが詐欺に誘導されている可能性があると検出された場合、Trust Insightsはその行動に中程度または高リスクの評価を割り当て、アプリケーションが警告を追加したり、遅延させたり、追加の認証ステップを要求したりできるようにします。
Appleは、Trust Insightsは写真、SMS、またはメールの内容をチェックしないと強調しています。代わりに、デバイス上で行動信号を分析し、基礎データを即座に破棄し、単一の出力値のみをAppleのサーバーに送信します。この値はユーザーのAppleアカウント情報と組み合わされ、不審な活動がないか確認され、その後Trust Insightsは詐欺の疑いに対する最終評価を返します。Appleは、ユーザーが設定でTrust Insightsを無効にすることができるが、その場合、該当機能を無効にするように誘導される可能性のあるユーザーを「保護する」ためのクールダウン期間があるかもしれないと述べています。
最初に、Trust Insightsは5つの主要な操作カテゴリをカバーします。WWDC会議の内容によれば、これらのカテゴリは次のとおりです：.payment：資産、コンテンツ、または金銭の交換、ゲーム内購入を含む；.account：アカウントの詳細情報またはセキュリティ情報の更新；.resourceUse：コストが高いまたは制限されたインフラストラクチャ（AI推論など）へのリクエスト；.communication：メッセージの送信、フォームの提出、または文書への署名；.other：上記のカテゴリに該当しない操作のためのバックアップオプション。
Appleはまた、開発者がその使用ケースが.otherに該当する場合、Feedback Assistantを通じてフィードバックを提出するように求めています。さらに、会社は開発者にTrust Insightsが各取引にどのように影響するかを報告し、可能な場合は後に詐欺と確認されたケースにマークを付けて、このシステムの改善に役立てるよう求めています。
今後登場するTrust Insightsフレームワークに関する詳細情報については、関連リンクを随時ご確認ください。