Article

OpenAIが児童保護のブループリントを公開 — AI悪用に対する検知・通報・予防の枠組みを提示

OpenAIはAIを悪用した児童性的搾取に対処するための政策フレームワーク「Child Safety Blueprint」を発表しました。NCMECや各州司法長官と連携し、法改正・通報体制・予防措置の3本柱で対策を打ち出しています。

This article is not published in this language yet, so the Japanese version is shown instead.

AI生成コンテンツによる児童搾取の増加に対応

OpenAIは2026年4月8日、AIを悪用した児童性的搾取コンテンツ（CSAM）の増加に対処するための政策フレームワーク「Child Safety Blueprint」を発表しました。Internet Watch Foundation（IWF）の報告によると、2025年上半期だけでAI生成のCSAMが8,000件以上検出され、前年同期比で14%増加しています。OpenAIはこの深刻化する問題に対し、業界として具体的な対策を講じる必要があるとして、今回のブループリントを公開しました。

このブループリントは、NCMEC（全米行方不明・被搾取児童センター）およびAttorney General Alliance（州司法長官同盟）との連携のもとで策定されました。ノースカロライナ州のJeff Jackson司法長官やユタ州のDerek Brown司法長官からもフィードバックを受けています。

法改正・通報・予防の3本柱

OpenAI

画像引用元: OpenAI

ブループリントは大きく3つの柱で構成されています。第1の柱は法律のアップデートです。現行法ではAI生成の児童虐待素材が十分にカバーされていない部分があり、これを明確に違法とする法改正を提言しています。

第2の柱は通報メカニズムの改善です。AIが生成・検出したCSAMを法執行機関に迅速かつ正確に報告できる体制の構築を目指しています。現状では報告プロセスが複雑で、対応に遅れが生じるケースがあるため、仕組みそのものを効率化する必要があると指摘しています。

第3の柱は予防的セーフガードの統合です。AIシステム自体に児童保護のための安全装置を組み込み、問題が発生する前に防ぐアプローチを推進しています。

OpenAI自身の取り組み

OpenAIは今回のブループリント公開に合わせて、自社のプラットフォームにおける取り組みも強化しています。ChatGPTに対する保護者向けコントロール機能の実装を進めており、プロアクティブな通知機能も導入予定です。さらに、年齢予測システムを開発し、ユーザーの年齢層に応じてChatGPTの体験を適切に調整する仕組みを構築しています。

市民社会との連携も拡大しています。子どもや家族を直接支援する団体への助成金の提供やパートナーシップの締結を約束しました。セーフガードの評価結果やインシデント対応の概要を公開するなど、安全性研究に関する透明性の向上にも取り組むとしています。

業界全体への呼びかけ

今回のブループリントは、OpenAI単独の取り組みにとどまらず、AI業界全体への行動指針としての意味合いを持っています。AI技術の急速な進歩に伴い、悪用のリスクも高まる中、事後対応型のコンテンツモデレーションではなく、予防的な安全対策へと転換する必要性を訴えています。テクノロジー企業が自ら児童保護の政策枠組みを提案するのは異例のことであり、今後他社の対応や政策立案にどのような影響を与えるかが注目されます。