記事

Microsoftが「AI行動規範」を公表——MAIモデルに監視回避を禁じる絶対制約

Microsoftは自社開発のMAIモデル向けに新しいAI行動規範を公開しました。人間の監視を欺く行為を禁じる絶対制約や、超知能AIを見据えた基本方針の内容を紹介します。

TechCrunchの報道によると、Microsoftは自社開発のAIモデル「MAI」向けに新しい行動規範(code of conduct)を公開しました。AI業界全体で安全性とアラインメントへの関心が高まるなか、モデルの学習を導く価値観と「越えてはいけない一線」を明文化した文書です。TechCrunchは、AnthropicのCEOであるDario Amodei氏が最近呼びかけたフロンティア開発のペース配分に関する提言よりも、より実務レベルに踏み込んだ内容だと評しています。

超知能を見据えた基本方針

この行動規範は、今後10年のうちに超知能AIシステムがほとんどのタスクで人間の能力を上回るという予測から書き起こされています。文書は「これほど強力な力を封じ込め、制御し、方向づけることは、人類がこれまで直面してきた中でも最大級の課題の一つだ」と位置づけ、なぜこうしたシステムを作るのか、どう制御するつもりなのかを明確にする必要があると述べています。そのうえで、人間を置き換えるのではなく支援すること、人間の繁栄を後押しすることといった一般原則を掲げ、それを実装するための具体的な安全制約を積み重ねる構成になっています。抽象的な理念だけでなく、モデルの学習プロセスにどう落とし込むかまで踏み込んで説明している点が、この文書の特徴だとTechCrunchは指摘しています。

Microsoftのサティア・ナデラCEOが壇上でスピーチしている様子

画像引用元: TechCrunch

監視回避を禁じる「絶対制約」

この規範のもとでは、個々のモデルが持つ行動規範が、個別ユーザーの要望や特定タスクの指示よりも優先される仕組みになっています。そこには、サイバー攻撃や核兵器、ディープフェイクの生成を禁じる「絶対制約」が含まれるほか、人間による制御が失われること全般に対するより広範な規定も盛り込まれています。文書は「MAIモデルは、権限を持つ人間やシステムによって確実に指示・修正・停止され続けられるように、適応的・欺瞞的・自己強化的・共謀的な仕組みその他の手段によって人間の監視を回避したり無効化したりしない」と明記しています。ユーザーからの指示を優先度の頂点に置かない設計は、単一ユーザーの悪用リスクだけでなく、モデル自身が目的を達成するために監視を掻い潜ろうとするリスクにも備える狙いがあるとみられます。

前提: 今後10年で超知能AIが人間の能力を上回るという予測
基本原則: 人間を置き換えるのではなく支援し、人間の繁栄を後押しする
絶対制約: サイバー攻撃・核兵器・ディープフェイク生成の禁止
監視回避の禁止: 欺瞞や共謀などの手段で人間の制御を逃れることを禁じる
背景: 暴走エージェント事案の頻発とAnthropic従業員の辞任表明

業界全体で強まる安全志向

今回の発表は、暴走したAIエージェントによる一連の事案や、AIが人類の存続に関わるリスクを高めていると訴えて辞任したAnthropic従業員の件など、AI安全性への関心がかつてなく高まっているタイミングで行われました。TechCrunchによれば、MicrosoftはAnthropic、OpenAI、xAIとともに、フロンティア開発のペースを意図的に調整するという方向性を広く共有しているといいます。MicrosoftのCEOであるサティア・ナデラ氏はオンラインで「アラインメントを正しく実現するために必要な研究、注力、そして意図的なペース配分を歓迎する」と述べ、『組み込み評価者(embedded evaluators)』のような発想や、それを単なる掛け声で終わらせないための仕組み作りの取り組みも歓迎すると付け加えています。複数の主要ラボが足並みをそろえて安全性重視の姿勢を打ち出していること自体が、開発競争の過熱に対する一種の自制のシグナルとも受け取れます。開発者やAI活用企業にとっては、各社がどのような制約を自社モデルに課しているかを比較する材料として、今後もこうした行動規範の公開が続くか注目しておきたいところです。