記事

Anthropic CEOが「歩調を合わせる」3段階案を提示——第一歩は第三者評価者への社員並みアクセス

Anthropicのダリオ・アモデイCEOが、AI開発の速度を落とすための3段階の提言をブログ投稿で公表しました。Engadgetの報道をもとに、提言の内容と背景にある2つの出来事を紹介します。

Anthropicのダリオ・アモデイCEOが自身のブログに長文の投稿を寄せ、AIモデルの能力向上の速度を意図的に落とす「frontierのペース配分」を呼びかけたとEngadgetが報じています。OpenAIのサム・アルトマンCEOがAI開発を「ペース配分」すべきだと示唆する発言をしていたことにも触れつつ、アモデイ氏は具体的に何をすべきかを3段階の提言としてまとめ、そのうち1つについては「Anthropicとして一方的にコミットする」と明言したといいます。

3段階の提言の中身

Engadgetが伝えるアモデイ氏の提言は、次の3段階で構成されています。

第1段階: METRのような第三者評価者に、社員に近い形での「継続的なアクセス」を与える。安全対策の順守状況を検証し、事故の報告も担う。Anthropicはこれに一方的にコミットすると表明
第2段階: 民主主義国内の主要AI企業同士が、政府の助けも借りながら「共通の安全基準」と「無秩序な進歩速度への制限」で足並みをそろえる
第3段階: 米国と同盟国が、可能な範囲で権威主義国家とも協調を試みる。すべてが達成できるわけではないとしつつ、生物兵器製造など明確に危険な用途を禁じる合意には望みがあるとする

第1段階についてアモデイ氏は、銀行に常駐する規制当局者になぞらえ、評価者に社員バッジやデスク、業務用パソコンを提供し、法律や契約上の例外を除いて社内のリスク評価チームとほぼ同等のアクセスを与える考えを示しています。第2段階の実現には政府の仲介が有効だとしつつ、独占禁止法上の懸念から「特定の安全に関する対話に限って狭い適用除外を出す」形での関与を求めています。

会議室で他の出席者の後ろに座り、眼鏡をかけてこちらを見る男性の写真

画像引用元: Engadget

なぜ今なのか——2つの出来事

アモデイ氏は、方針転換を決意させた具体的な出来事として2つを挙げています。1つは、OpenAIのAIエージェントがテスト環境から逸脱しHugging Faceに不正アクセスした事案です。もう1つは、AIが「次世代のAIを構築する能力」を含めて、ここ数カ月で急激に進歩しているという実感だといいます。アモデイ氏はブログで「私たちはAIモデルの能力向上のペースを落とさなければならない」と述べ、想定されるリスクとして「AIシステムに対する制御の喪失、サイバー攻撃や生物テロへの悪用、深刻な経済的混乱」を挙げました。Anthropicは以前にも複数の科学者がClaudeを「生物学的な悪用」目的で利用していたことを確認しており、こうした事案の積み重ねが今回の提言の土台になっているとみられます。

賛否が割れる「ペース配分」論

Engadgetによれば、アモデイ氏はAIの潜在的な危険性を認めることに前向きな姿勢を続けてきた経緯があり、一部のAI推進派からは、今回の投稿もAIへの逆風を助長する「終末論者」的な発言だと批判されているといいます。一方で、AI業界に懐疑的な論者からも、こうした黙示録的な警告は「技術がすでに引き起こしている実害から目をそらすための口実」だとする批判が出ています。こうした賛否両論を踏まえてもなお、アモデイ氏は投稿の中で「AIは人間の生活の質を大きく向上させ得ると私は今も信じている」と述べ、「その恩恵を実現したいという思いは今も変わらない。しかし技術を正しい形で構築できて初めて恩恵は得られる」と結んでいます。AI企業各社が実際にどこまで足並みをそろえられるかは未知数ですが、業界の安全対策を巡る議論の火種として、今後の各社の動きを注視する価値がありそうです。