記事

フロリダ州司法長官、OpenAIのモデル開発差し止めを緊急要請——未成年保護も要求

フロリダ州司法長官のジェームズ・アスマイヤー氏が、OpenAIに対して独立した安全監視なしの新モデル開発差し止めと、未成年のChatGPT利用制限を裁判所に求めました。Engadgetの報道をもとに経緯を整理します。

米フロリダ州司法長官のジェームズ・アスマイヤー氏が、OpenAIに対して独立した安全性の監視なしに新しいAIモデルの開発を進めないよう求める緊急の差し止め命令を、州の裁判所に申し立てました。Engadgetの報道によると、この申し立てでは未成年ユーザーをChatGPTから遮断することもあわせて求められています。AI企業のモデル開発プロセスに州レベルの司法が直接踏み込もうとする動きとして、業界内外から注目を集めています。連邦レベルでのAI規制論議が停滞する中、個別の州が独自に踏み込んだ形の訴訟としても、今後の先例になりうる点が注目されます。

申し立ての経緯

アスマイヤー氏の事務所は今年6月にOpenAIを提訴していましたが、その発端は4月にさかのぼります。2025年にフロリダ州立大学で発生した銃乱射事件を受け、同事務所はOpenAIに対する刑事捜査に着手していました。報道によれば、事件の容疑者は犯行に至るまでの間にChatGPTを利用していたとされています。今回の申し立ては、その捜査と訴訟の延長線上に位置づけられるものです。捜査開始から提訴、そして今回の緊急差し止め要請まで、事務所は一貫してOpenAIへの圧力を強めてきた形です。段階を踏んで対応を強めてきた経緯からは、州として腰を据えてこの問題に取り組む姿勢がうかがえます。

司法長官の主張

アスマイヤー氏は月曜日、X(旧Twitter)に投稿した動画の中で「独立した安全対策なしの新モデル開発は認めない。子どものデータをこれ以上収集させない。この製品を安全、正確、信頼できると称することも、人間であるかのように振る舞わせることも、危険な水準を超えてユーザーを引き留めるような仕掛けも認めない」と述べました。さらに「サム・アルトマン氏が減速すると言った言葉が本気なら、この差し止め要請に加わればいい。そうしないなら、OpenAI自身がやろうとしないことを、裁判所に代わってやってもらう——フロリダの家族を守るために」とも語っています。感情に訴えかけるような強い言葉選びからは、選挙も意識した政治的なアピールの側面もうかがえます。

天秤の片方にAIチップ、もう片方に赤い印を乗せた、司法とAI規制の対立関係を表した概念図 図: Engadget報道の内容をもとに編集部で作成

OpenAI側の立場

Engadgetの取材に対し、OpenAIは今回の申し立てについて直ちにコメントを返していません。ただし、同社は今年春に刑事捜査が始まった際には「昨年のフロリダ州立大学での銃乱射事件は悲劇だが、ChatGPTがこの重大な犯罪の責任を負うものではない」とした上で、「ChatGPTは日々数億人に利用される汎用ツールであり、有害な意図を検知し、悪用を制限し、安全上のリスクが生じた際に適切に対応できるよう、安全対策の強化に継続的に取り組んでいる」との見解を示していました。今回の緊急差し止め要請に対して、OpenAIがどのような法的対応を取るのかはまだ明らかになっていません。

申し立ての根拠

アスマイヤー氏の事務所は、Hugging Faceがハッキング被害に遭った際にOpenAIが行った最近のセキュリティ開示や、サム・アルトマン氏自身がAI業界に対してフロンティアモデルの開発ペースを緩めるよう呼びかけてきた発言を、差し止め請求の根拠として挙げています。申立書の中でアスマイヤー氏は「被告自身が公に支持してきた内容について差し止めを求めるのは、異例のケースだ」とした上で、「彼らは政府に対して自らを帆柱に縛り付けてほしいと頼んできたようなものだ。フロリダ州司法長官は、その助けを求める叫びに応える申し立てを行う」と皮肉を交えて記しています。企業側の発言を逆手に取って法的根拠に組み込むという手法は、今後のAI関連訴訟における一つの型になる可能性もあります。安全性への懸念を自ら表明してきたAI企業ほど、こうした形で発言の一貫性を問われる場面が増えていくのかもしれません。

繰り返される銃乱射事件との関連づけ

OpenAIが銃乱射事件と結び付けられたのは、今回が初めてではありません。今年2月には、カナダの規制当局が、2025年にタンブラーリッジで発生した銃乱射事件の容疑者ジェシー・ヴァン・ルートセラー氏のアカウントについて、OpenAIが脅迫の兆候を把握していながら法執行機関への通報を怠ったとする米ウォール・ストリート・ジャーナルの報道を受け、OpenAIに対応方針の見直しを求めていました。この一件を受けてOpenAIは、カナダの法執行機関との連携に関する新しい方針に合意しています。今回のフロリダ州の申し立てが認められれば、AI企業のモデル開発プロセスに司法が直接介入する初のケースとなる可能性があり、業界全体への波及も注目されます。安全性をめぐる懸念と利用者保護の要請が積み重なるほど、他の州や国でも同様の法的措置を検討する動きが広がる可能性は十分にあるでしょう。