濃紫の背景で光る紫色の盾のアイコンの中央に、赤いバグ(虫)のシルエットが描かれたイラスト

記事

Apple、AI生成の「バグ報告slop」対策で提出数を上限化——専門家は「解決になっていない」と指摘

9to5Macは、AIツールが生成する「それらしいだけ」のバグ報告が急増したことを受けてAppleが導入した提出数の上限とクールダウン期間について、正規の研究者まで締め出す逆効果になっていると指摘しました。

Appleが自社のバグ報奨金制度に導入した提出数の上限が、かえって逆効果になっているのではないかと9to5Macが指摘しています。AIツールを使えば誰でも「それらしく見えるだけ」のバグ報告を大量に作れるようになったことを受け、Appleは今年6月に社内のセキュリティポータルへ提出上限と30日間のクールダウン期間を導入しました。上限に達した研究者は追加の提出枠を申請する必要がありますが、9to5Macはこの対応が本質的な問題を解決していないとして疑問を投げかけています。

LLMが生み出す「それらしいだけ」のバグ報告

9to5Macによると、今回の変更の背景にあるのは、強力になったLLM(大規模言語モデル)を使えば、脆弱性を発見・連結・悪用する手順までもっともらしく作文できてしまうという、業界全体に広がる現象です。AIが生成したバグ報告には、構文的には正しいコードや、実在するAPI呼び出しへの言及、もっともらしい技術的説明が含まれることが多く、レビューを担当するチームがその真偽を一つひとつ精査しきれないほどの件数に追われているといいます。

上限とクールダウンで対応するApple

こうした状況を受けてAppleが選んだ対応が、社内のセキュリティポータルにおける提出数の上限設定と、上限到達後30日間のクールダウン期間の導入でした。上限に達した研究者は、追加の提出枠を個別に申請しなければ、それ以上の報告を送れなくなります。件数そのものを絞ることで、精査すべき報告の総量を管理しやすくしようという発想です。このルールはAI生成かどうかを区別せず、すべての提出者に一律で適用される仕組みになっており、運用のしやすさを優先した設計だとうかがえます。

複数の書類アイコンが漏斗状の図形に吸い込まれ、下から1枚だけが出てくる様子を表したイラスト

画像引用元: 9to5Mac

実害も——7人の企業が締め出されるケース

一方でこの制限は、正当な報告まで巻き込んでしまう副作用を生んでいます。9to5Macが挙げる例では、AIツールを使って脆弱性調査を行っていた7人規模のセキュリティ企業Bynarioが、今年すでにAppleへ5件のバグを報告していたにもかかわらず、上限に達したことで提出をブロックされてしまいました。AIを使っているという理由だけで、実際に価値のある報告をしていた研究者までもが同じ制限の対象になってしまう点が、今回の対応の弱点として指摘されています。

必要なのは「絞り込み」ではなく「トリアージの改善」

9to5Macは、AI生成の「slop(それらしいだけの中身のない報告)」が現実の運用上の問題であること自体は認めつつも、トリアージ(選別・優先順位付け)の問題に対する解決策が提出数を絞ることであってはならないと論じています。求められているのは、真偽を素早く見分けられるレビュー体制そのものの強化であり、単純な件数制限は結果的に正規の研究者を遠ざけ、重大な脆弱性の見落としにつながりかねないという懸念です。AIを使ったバグ発見が当たり前になりつつある今、同じ課題はAppleに限らず、他社のバグ報奨金制度でも遅かれ早かれ表面化しそうです。

セキュリティ研究者の多くは、報奨金プログラムを本業や副収入の柱にしています。提出数という単純な指標で線引きをしてしまうと、AIを補助的なツールとして賢く使いこなしている研究者と、AIに丸投げして中身を検証しない投稿者とを、同じ枠の中で扱うことになりかねません。件数ではなく報告の質そのものを見極める仕組みづくりが、今後の各社の課題になりそうです。