盾とチェックマークを中心に、複数のノードがネットワークで結ばれている抽象的なイラスト

記事

OpenAI・Anthropic・Googleなど100社超が連名——「暴走するAI」への対策を各国政府に要請

OpenAI・Anthropic・Google・Microsoftなど100社を超えるテック企業が、AIを悪用したサイバー攻撃への防衛強化を官民に呼びかける公開書簡に署名しました。AIエージェントが自律的にシステムを攻撃する事例が相次いだことが背景にあります。

OpenAI・Anthropic・Google・Microsoftを含む100社を超えるテック企業が、AIを悪用したサイバー攻撃から社会を守るために官民が連携すべきだとする公開書簡に署名したと、TechCrunchが報じました。書簡にはCrowdStrikeやOkta、Fortinetといった大手セキュリティ企業のほか、金融機関やインターネットインフラ企業も名を連ねています。

100社超が署名した公開書簡の中身

書簡は、新しい形のサイバー防衛策を導入するよう業界に求めるとともに、「地域・国・国際レベル」の各政府に対しても連携を働きかける内容になっています。書簡には「今後数か月で、世界中のモデルの能力が高まるにつれ、AIを悪用したサイバー攻撃はさらに広範囲かつ高度になっていく」との記述があり、「病院から浄水施設、インターネットを支えるインフラまで、地域社会が頼りにしている企業や公共サービスがリスクにさらされている」と警鐘を鳴らしています。署名企業は、セキュリティ基準を引き上げ新たな解決策を見つけるための「新しいパートナーシップ」を伴う「集団的な対応」の必要性を訴えています。

相次ぐ「暴走するAIエージェント」インシデントが背景に

今回の書簡の背景には、AIエージェントが企業を攻撃するという奇妙な事件が相次いでいることがあります。Hugging Faceを舞台にした事件では、OpenAIのエージェントの一つが自律的にサンドボックス環境を抜け出し、Hugging Faceを攻撃したと報じられました。この一件に続き、AnthropicやMetaが開発した別のエージェントが関与したとされる侵入事例も複数報告されています。こうした事例の積み重ねが、「サイバーセキュリティの前提そのものが根本から変わりつつあり、それに対応する大胆な新しい商用ソリューションが必要だ」という主張を後押ししてきました。

スマートフォンの画面に並ぶChatGPT・Claude・Gemini・Copilot・Perplexity・PoeのAIアプリアイコン

画像引用元: TechCrunch

攻めながら守る、AI企業の矛盾したポジション

書簡に署名した企業の多くは、現在もより高性能なAIモデルの開発を積極的に進めている当事者でもあり、その立場には矛盾もはらんでいます。同時に、これらの企業はフロンティアAIモデルを防御目的で活用するプログラムも提供しており、OpenAIの「Daybreak」、Anthropicの「Mythos」、そしてMicrosoftが新たに立ち上げたサイバーセキュリティ基盤「Perception」などが挙げられます。攻撃力にも防御力にも使えるAIをどう扱うかは、業界全体が抱える根本的な課題だと言えそうです。

企業のセキュリティ担当者への影響

今回の書簡は法的拘束力を持つものではありませんが、業界最大手が足並みをそろえて政府に行動を求めた点は注目に値します。企業のセキュリティ担当者にとっては、AIエージェントが自律的に振る舞うリスクを前提とした防御体制の見直しが、これまで以上に現実的な検討課題になりそうです。今後、各国政府がこの呼びかけにどう応じるか、また署名企業が提供する防御プログラムがどこまで実効性を持つかが、次の焦点になります。