赤い旗の付いた通知文書を虫眼鏡で調べ、チェック付きの盾とリスクメーターを添えた抽象イラスト

記事

小型AIで詐欺メッセージを判別——Hugging Faceハッカソン発「Pakistan Notice Helper」、Qwen 3.5 4Bで構築

Hugging Faceのブログで2026年6月8日、怪しい通知を判別する小型AIツール「Pakistan Notice Helper」が紹介されました。Qwen 3.5 4Bを使い、詐欺の危険信号や確認手順を示します。Build Smallハッカソンの作品で、用途を絞れば小型モデルでも有効だとうたっています。

Hugging Faceのブログで2026年6月8日、怪しい通知メッセージを判別する小型AIツール「Pakistan Notice Helper」が紹介されました。銀行や宅配業者、税務当局、政府機関をかたる不審なメッセージを分析し、危険信号や安全な確認手順を示すというものです。同社の「Build Small」ハッカソンの作品として公開されています。

赤い旗の付いた通知文書を虫眼鏡で調べ、チェック付きの盾とリスクメーターを添えた概念図

図版: 発表内容をもとに作成（出典: Hugging Face Blog）

偽の通知を見分ける小型AIツール

パキスタンでは、銀行や宅配業者、税務当局、政府機関を装った不審なメッセージが日常的に届くといいます。その多くは詐欺ですが、本物の通知と偽物を見分けるのは簡単ではありません。

Pakistan Notice Helperは、こうした見分けの難しさに寄り添う安全志向の「振り分け（トリアージ）」ツールだとされています。メッセージの真偽そのものを断定するのではなく、危険のサインを洗い出して利用者の判断を助ける、という位置づけで作られています。

リスク判定と確認手順を提示

このツールは、不審なメッセージやスクリーンショットを分析し、リスクのラベルや説明、目に見える危険信号、より安全な確認手順を提示するとうたっています。たとえば、緊急性をあおる脅し文句や、ワンタイムパスワード（OTP）の要求、なりすましの兆候といった警告サインを指摘します。

特徴的なのは、真正性を「保証」しようとはしない点です。AIが「これは本物だ」と断定するのではなく、あくまで危険の手がかりを示し、最終的な確認は利用者自身が安全な方法で行えるよう促す設計だと説明されています。過信を避ける、慎重な作りだといえます。

二言語対応とプライバシーへの配慮

利用者層を意識した工夫も盛り込まれています。英語とウルドゥー語の二言語に対応し、ウルドゥー語のときは右から左へ読むレイアウト（RTL）に切り替わるとされます。入力もテキストとスクリーンショットの両方を受け付けます。

プライバシー面では、任意の「トレース」機能が用意されています。これは、内容を公開して共有する前に、利用者の個人的な情報を伏せる（リダクトする）ためのものだと説明されています。詐欺の相談ではやり取りに個人情報が含まれがちなだけに、配慮された機能だといえます。

小型モデルで構築

技術面では、ハッカソンの趣旨に沿って小型モデル中心の構成が採られています。モデルにはQwenの3.5 4Bを8ビットに量子化したものを使い、llama.cppで動かしているとされます。

土台にはHugging FaceのSpaces上のフロントエンド（Gradio）と、Modalのバックエンド、CUDAによる高速化が使われています。開発の過程では、より大きなQwen 3.6 27Bは費用がかさみ、MiniCPM-V 4.6は安定しなかったため見送ったとも明かされています。目的に合うモデルを実際に比べて選んだ点が興味深いところです。

「用途を絞れば小型でも勝る」

このツールは、Hugging Faceの「Build Small」ハッカソンの「Backyard AI」部門に向けて作られたものです。身近で具体的な課題を、小さなモデルで解くことをテーマにしています。

プロジェクトが示そうとしているのは、製品の振る舞いを明確に定義し、動かす環境の制約を踏まえれば、よく練られた小型モデルが大型モデルを上回りうる、という考え方だとされています。大きさを競うだけが正解ではなく、課題に合わせて賢く絞り込む——身近な安全という切実なテーマと相まって、開発者にとっても示唆に富む事例といえそうです。