DeepMind CEO Demis「フロンティアモデルは発売30日前に専門機関の審査を受けるべし、さもなくば市場投入禁止」
- AGIの到来はおそらくあと数年。同氏はそのスケールを電気や火の発見に例え、産業革命の10倍のインパクト×10倍のスピードに相当すると表現
- 核心提案:まず米国が「フロンティアAI標準機関」を設立し、動的ベンチマークでフロンティアモデルとフロンティアラボを定義する
- 手順:まず発売前最大30日間の任意審査から開始し、プロトコルが安定すれば米国市場参入の必須条件へと発展させる
- 対象はフロンティアのみ。オープンソース/クローズドソースや国籍による差別はなし。フロンティアに達しない大半のスタートアップや学術研究は適用除外。必要な場合は開発ペースの協調的な減速も可能
何を主張しているのか、なぜ急ぐのか
Google DeepMind CEO の Demis Hassabis は、AGI(人間の脳が持つ認知能力をすべて備えたシステム)の到来はおそらくあと数年に迫っていると考えている。数十年後に振り返れば、人々は自分がシンギュラリティの麓に立っていたこと、それが人類の新時代の幕開けだったことに気づくだろう。
同氏はAGIを通常の技術的ブレークスルーとは区別する——インターネットやスマートフォンと比べるようなものではなく、電気の発見や火の使用を覚えたことに近いという。チップの主原料はシリコンであることから、同氏はこう書いている。「私たちは砂に考えさせる方法を見つけたようなものだ」。同氏自身の立場は、責任を持って開発・展開されるならば、AGIは史上もっとも有益で、もっとも破壊的な技術の一つになるというものだ。
同氏が挙げるポジティブな方向性には、創薬の加速、新しいクリーンエネルギーの開発、新種の先端素材の創出などがある。さらに先を見れば、「資源がもはや人類の進歩を制約する硬直的な条件ではなくなる」豊かさの時代に到達する可能性もあるという。同時に同氏は強調する——AIはすでに現実世界で成果を上げているが、より大きな約束を果たすには、この重要な発展期をしっかり乗り切り、AGIに近づく過程で生じうるリスクにできるだけ早く対処しなければならない。
同氏は、人類の知恵はAI関連の技術リスクに対処できると信じているが、それには次の一手を正しく打つための時間と余地を自ら確保することが前提になるという。同氏の見立てでは、この分野として、より広い社会として、それはまだ実現できていない。現在、誰もが極めて激しい多層的なビジネス競争と地政学的競争のただ中にいる。競争は進歩と上振れの余地を押し広げる一方で、フロンティアの前進を技術そのものへの理解より先行させてしまっている。「世界中の誰も次に何が起こるか確信を持てず、専門家の間でも意見が分かれている」。不確実性が高くリスクも大きい状況で、同氏は慎重な楽観主義で前進することを主張する——公共政策はイノベーションを促進すると同時に責任と安全性へのインセンティブを与え、重要な安全課題での国際協調を推し進め、AIをどう展開すれば社会に有益かを真剣に検討すべきだという。
核心提案:フロンティアAI標準機関
急速な進化に対応するため、同氏は動的で調整可能、かつ十分に厳格なフロンティアモデルの能力テスト手法を求めている。米国は経済的・技術的な地位からして、真っ先に一歩を踏み出せる立場にある。
モデルが標準機関の定めた、能力の進化に応じて更新されるベンチマークを超えると、「フロンティア級」(Frontier-class)に認定される。そうしたモデルを持つ組織は「フロンティアラボ」(Frontier Labs)と位置づけられる。この呼称には権威があり、あらゆる組織に開かれている——出自を問わず、基準を満たすモデルを作りさえすればよい。
当初、フロンティアラボは任意で発売前最大30日間、モデルを標準機関の審査に提出する。評価プロトコルが有効かつ堅牢だと証明されれば、速やかに制度化できる——フロンティアモデルは審査を通過して初めて米国市場に投入できる。発売後に重大な脆弱性が見つかった場合も、ラボは引き続き機関と協力して対応する。
発売前最大30日間の審査提出
フロンティアラボが任意でモデルを標準機関の審査に提出し、まず評価プロトコルを軌道に乗せる。目標はいきなり全面義務化することではなく、「試験問題」が有効かつ堅牢であることを証明することだ。
審査通過が米国市場参入の条件に
プロトコルの有効性が証明されれば速やかに引き上げられる——フロンティアモデルは評価をクリアして初めて米国市場で展開できる。発売後に重大な脆弱性が見つかった場合も、引き続き機関と協力して対応する。
フロンティアラボ間で開発ペースを協調的に減速
事態が十分に深刻な場合、枠組みはさらに引き上げられ、フロンティアラボ間で開発ペースを協調して落とすことも含まれる。これは日常的なデフォルトではなく、制度設計に組み込まれた最上位の対応オプションだ。
何を審査するのか、ラボは何をすべきか、誰が対象外か
モデル評価はサイバーセキュリティ、生物学的脅威といった高リスク領域の能力をカバーし、厳格な科学的手法で測定する。エージェント(複数ステップで行動しツールを呼び出せるシステム)については、安全ガードレールを回避しようとしていないか、欺瞞の兆候がないかを検証する。さらに、AI生成画像へのデジタル透かしの付与や、モデルの推論プロセスを理解できるよう人間が読める中間トークンを出力するといったベストプラクティスも推進する。
当初は四半期ごとの更新から始め、陳腐化したり得点が飽和したベンチマークは退役・入れ替える。初期はフロンティアラボと協議しながら出題するが、最終的には機関が「ラボが事前に見られない」独自の問題バンクを自前で構築し、過学習を防ぐ。あわせてサードパーティによる監査エコシステムも推進する。
この案は技術主導でありながら、イノベーションを後押しし、責任ある行動を促すものでなければならない。分野の加速に追随でき、識別された最大のリスクに応じて調整できる必要がある。米国が先行するのは、国際的に共有される標準への足がかりを提供するためだ。
フロンティアラボに認定された組織には、一連のベストプラクティスの採用が推奨される。
- ベンチマークの閾値を満たすフロンティア級モデル
- オープンソースかクローズドソースかは問わない
- 原産国も問わない
- 保有組織=フロンティアラボ
- フロンティア閾値に達しないモデル
- 大半のスタートアップ
- 学術機関の一般的なプロジェクト
- この審査プロセスを経る必要はない
この技術は地球全体に影響を及ぼすものであるため、同氏は米国が先行して構築するこの枠組みが、最も深刻なリスクの管理について国際社会の合意形成を後押しすると同時に、誰もがAIがもたらす機会にアクセスし、その恩恵を受けられることを保証してほしいと望んでいる。
技術を正しくやり遂げた先にある、社会的な課題
同氏はAGIを、科学と医学を前進させ、生産性と経済成長を押し上げる究極のツールだと位置づける。ただしその前提として、技術の土台を正しく作り、共有されるグローバルな枠組みのもとで協調し、最も厳格な科学的手法を用いて、最も優れた頭脳を同じテーブルに集めることが必要だという。
たとえハードな技術的課題が解決されたとしても、その先には経済的・哲学的な問いが残る。ポスト稀少性の世界で誰もが豊かに暮らせるようにするには、どのような新しい経済モデルが必要か。私たちはどんな価値観に基づいて生きたいのか。意味や目的とは何か。人間という存在のあり方自体はどう変わりうるのか。こうした問いは明らかに、技術専門家だけに委ねてよいものでも、委ねるべきものでもなく、社会のあらゆる部分が共に新しい章を定義していく必要がある。
同氏はこう書いている。AIをめぐっては大きな高揚感と大きな不確実性が同時に存在し、そのどちらも真実だ。しかし未来はまだ書き上げられていない。AGI到来前のこの猶予期間を使って、この技術を全人類の利益になる形に作り上げなければならない。
私たちが今、集団として行っていることが、文明の次の段階がどう展開するかを決定づける。AGIを安全に世界へ導入できれば、科学的発見と進歩の新たな黄金時代に入り、人類の繁栄を迎えられるだろう。
Demis Hassabis・原文の結びの段落を意訳原文 X・2026-07-14・Demis Hassabis。本解説は主張と制度設計の整理にとどまり、立法プロセスを予測するものではない。FINRA=米国金融取引業規制機構、ここでは制度形態のアナロジーとして挙げている。
最強モデルの公開前に、まず「健康診断」を
DeepMind CEO Demis:米国がまず標準機関を設立し、フロンティアモデルは発売前最大30日間の審査を経る。軌道に乗れば市場参入の必須条件に
↓ 1ページで読み切り・動く図つき
Demisの見立てでは、AGIの到来はおそらくあと数年。しかし今、業界全体がビジネスと地政学の競争に押されて突き進み、フロンティアの前進は技術への理解を追い越してしまっている。
上振れの余地は大きく、同氏はそのスケールを産業革命の10倍のインパクト×10倍のスピードに例える
✘ フロンティアモデルに対応できる動的でアップグレード可能な「健康診断」制度がまだない
サイバーセキュリティの課題はすでに発生中。核/生物リスクは近く浮上しうる。エージェントや自己改善システムはさらに制御が難しい
同氏の提案:米国がまず「フロンティアAI標準機関」を設立し、動的ベンチマークでフロンティアモデルとフロンティアラボを定義する。最初は任意審査から始め、その後市場参入の条件へと引き上げられる。
各ラボが自己テスト・自己申告し、ベンチマークは得点稼ぎで飽和しやすい
競争のペースの中で、安全性評価がリリースに追いつかない
スタートアップ/学術機関と大手が同じ枠組みで語られ、実行に落とし込みにくい
独立した標準機関が出題し、試験問題を更新する
発売前最大30日間の健康診断を受ける(当初は任意、後に義務化も)
対象はフロンティアのみ。非フロンティアモデルは明確に適用除外
小互がDemisの制度を健康診断の一本のラインに分解——誰が出題し、誰が審査を受け、3段階でどう強化されるか。
これはスコアランキングではなく、制度上の時間軸だ。「最大30日間」と「強化可能」を体感に置き換えると——
小互、肩をすくめる:でもこんなに競争が激しいのに、健康診断なんてやってる暇あるの?
サイバーセキュリティはすでに騒動中
核・生物リスクはその先に控え、エージェントは自分で自分を改善しかねない
Demis:米国がまずFINRAのような標準機関を作る。産業界が資金を出し、専門家+オープンソース代表が理事会に入り、国立研究所と共同で国家安全関連の能力を測定する。
任意
発売前最大30日間の審査、まず試験問題を軌道に乗せる
必須条件
審査通過で米国市場へ
強化
必要な場合はフロンティアラボ間で協調して減速
オープンソースもクローズドソースも、国内外も区別しない。米国が先行するのは、国際標準の呼び水にしたいからだ。
先に診断
それから公開