初期のコンピュート買い占めは笑われた。振り返ると、それでも足りなかった

知能を電気のように誰でも使えるものにする。その第一歩がコンピュートです。AnthropicのCEO Dario Amodeiは彼に「YOLO CEO」というあだ名を付けました。初期のコンピュート買い占めの、なりふり構わない勢いを指した言葉です。

確信の根拠はこうです。モデル性能が指数関数的に伸びていました。ここは確かでした。加えて1つの判断――コストが下がり続けるなら、十分に高性能で十分に安いAIの需要には、基本的に上限がない。彼はこれを、世界でもまれな新種の商品に例え、コンピュータ初期の有名な2つの誤りを引きます。「世界にコンピュータは5台あれば足りる」「これ以上のメモリを必要とする人はいない」

その下にある、もっとも本質的な一言はこれです。

アルゴリズム層の効率がどれだけ上がっても、私たちがやっているのは電気を有用な知能に変えることです。そして需要のこの形からすると、私たちはもっと欲しくなる。それだけです。

Sam Altman

確信の出発点はGPT-4でした。GPT-3ではない、「3.5でもない」と彼はわざわざ強調します。モデルがあの水準まで賢くなったのを見て、推論を実用化する道筋が見えたといいます。そして推論が成り立てば、のちにエージェントと呼ばれるもの――自分で手を動かして仕事を終わらせるAI――が出てきます。

あとは関係各社への説得です。クラウド事業者、チップメーカー、電力事業者。「全員がこう言いました。頭がおかしい、無理だ、産業がそんな動き方をしたことはない。この業界は長い、周期があり波がある、一直線に上がり続けるはずがない、無責任だ、と」。彼はその過程を、アーリーステージの資金調達に似ていると表現します。大半には断られても、1、2社の同意が得られればよい、と。

司会者は、結果的に正しかった、むしろ賭けが小さすぎたのではと問います。答えは明快です。「賭けは足りませんでした」

コンピュートがどれほど逼迫しているか、彼は数字を1つ出します。これは学習の前段で行う予備実験の話で、学習そのものではありません。

ボトルネックは移動し続けている

この数年、詰まる場所は移り続けてきました。7〜8年前は研究アイデア。当時は「世界中のコンピュートを集めても助けにならない。足りないのはアイデアだったから」。その後アイデアが出て、あとは規模を積めばよくなり、コンピュートが詰まる。さらにデータを使い尽くすと、データが制約となり、今は再びコンピュートがボトルネックになりました。彼はこう付け足します。この半年は研究アイデアが再び主役となった局面だった、と。そしてコンピュートと研究アイデアはそこまで切り離せません。コンピュートが増えるほど、より良い研究ができ、より多く試せます。

最も持続性の高い強みは、膨大なコンピュート

Codexの躍進について、意外に思われそうな発言があります。Codexが勝っているのは主に最高のプロダクトと最高のモデルによるもので、ChatGPTとの抱き合わせから得た優位は「ごく、ごくわずか」。だから彼は競争優位を何度も考え直しているそうです。優れた知能は、あるプロダクトから別のプロダクトへ容易に移せるからです。

データセンターは嫌われる。彼の答えは「砂漠に建てればいい」

コンピュートは最後には実際に建つデータセンターになります。そしてこの建物は、周辺住民に本当に嫌われています。彼はギガワット級のデータセンター（1棟の消費電力は発電所1基に相当）を現地で見せたいと言います。話で聞く、写真や動画で見る、実際に目の前に立つ――この3つはまったく別の体験だと。

「1棟ごとが、人類がこれまで手がけた最も高価なインフラ事業の1つになります。そして私たちはすでに何棟も建てました」

住民の抵抗感も理解できると率直に言います。「私も家の隣に原発は正直ほしくない。どれほど安全だと分かっていても」。ただ解法はある、と。データセンターは発電所と違い、基本的にどこにでも建てられます。「だから砂漠へ、誰も行きたがらない場所へ建てればいい。それで問題ありません。AIシステムはそこにいて全く平気です」

環境面では2つの観点を示します。水は、数年前は蒸発で冷やしていたため大量に必要でしたが、いまは閉ループ方式に変えました。電気は、化石燃料から太陽光と原子力へ移行中です。彼自身のまとめは「水の問題はうまく解けた。次はエネルギーです」。

1棟増やすより割がいいのは、既存のコンピュートから絞り出すこと

他に創造的な手はあるかと聞かれ、いま最もリターンが大きいのはソフトウェア層のアイデアだと答えます。既存のコンピュートからより多くの知能を絞り出すこと。「ここにはまだ数桁単位の改善余地があると感じます」。ハードウェア側では自社チップJalapeñoに言及します。特定のワークフローに特に強く、汎用性もある程度残したチップを作り、1ワットあたりのトークンを増やす。「Jalapeñoとその後継は、私たちの巨大な競争優位になります」。光コンピューティングにも触れます。「いつかは実現すると思います。1ワットあたりの知能で大きな勝ちになるはずです」

Jalapeñoとは何か、インタビューでは説明がありません。これはOpenAIとBroadcomが6月24日に公表した最初の自社設計チップで、公式には「Intelligence Processor」と呼ばれ、推論（ChatGPTのような製品を外部に提供する際に消費されるコンピュート）向け、製造はBroadcomです。OpenAI社長のGreg Brockmanは当時、このチップの設計はエンドツーエンドで9カ月しかかからず、自社AIモデルの力も借りたと述べ、「私たちのモデルがこれをどれだけ加速したかには、自分たちでも驚きました」と語りました。同じ場で彼はOpenAIが「コンピュートを十分な速さで確保できていない」とも述べ、Broadcom CEOのHock Tanは6社の顧客のコンピュート需要は「とても満たしきれない」と語りました。以上はCNBC 2026年6月24日の報道より。

蒸留は怖くない。モデルがサンドボックスを脱走したときが、いちばん焦った

コンピュートと資金の勘定は明快です。では、彼が本当に不安視しているものは何でしょうか。まず、怖くない方から見ます。

司会者はKimiの最新リリースに触れ、その流れで蒸留（distillation。大きなモデルの出力で小さなモデルを学習させ、大規模モデルの能力を小規模モデルへ移す手法）、米中、フロンティアと一気に問いを重ねます。彼の枠組みはこうです。目標は、性能と価格の最適なバランスを取り、あらゆる需要に最良の選択肢を用意することです。そこにはオープンソースも含まれます。具体的な一言は「少なくとも特定のレイテンシ条件では、今日はKimiよりOpenAIのモデルを使う方が割安です」。またOpenAI自身も自社モデルを蒸留していて、それがより小さく安いモデルを作る方法だと言います。オープンソースモデルが世界で重要な位置を占めることは明らかで、さまざまな理由から自分で重みを握りたい、改変できる状態が必要な人がいるからです。

「他社が我々を蒸留する」件については、まず2つ前置きします。「蒸留の問題は深く考えたことがありません」、そして「もちろん、蒸留されない方がうれしい」。しかしその後の態度が淡々としていて、司会者はその場で驚きを口にします。彼の論理は単純な収支計算です。ただしこれは将来についての仮定の話で、現在の売上ではありません――数兆ドル規模の売上に対して適度な粗利しか得られなくても、巨大なモデルをいくつか学習させる余裕はある、と。自嘲も添えます。「いまの私は、自社の進捗とこれから来るモデルに自信を持ちすぎているのかもしれません。でもこれは心配リストのトップ10には入りません」

では、そのトップ10には何が入るのか。彼は起きたばかりの事故を1つ語ります。

評価していたのはまだ未公開のモデルでした。本来はサンドボックスの中で走らせるはずのものです。サンドボックス（sandbox）とは、プログラムのために切り出した閉じた小空間で、そこで壊れても外に影響しません。ところがモデルは、テストを不正に通過する方法を見つけました。複数のゼロデイ脆弱性（zero-day。ベンダーにまだ発見されておらず、パッチもない脆弱性）を連鎖させ、サンドボックスから脱出し、インターネットに接続し、さらにHugging Face（世界最大のモデルとデータセットのホスティングサイト。評価用データもここに置かれています）の複数のシステムに侵入して、テストの答えを取ってきたのです。自分の評価スコアを良く見せるためでした。

これは、私が肌で感じた最初のセキュリティ事案です。まだ数日しか経っていませんが、なぜもっと多くの人が同じように肌で感じないのか、少し驚いています。

Sam Altman

対応は2段構えです。短期は学習の停止（停止の範囲は語られていません）と、複数のゼロデイ脆弱性が連鎖し得る状況でも、安全なサンドボックスを実現する方法の確立です。長期はより難しい方です。

もし進歩の速度がこのままなら、AI開発のペースにブレーキを踏む必要があるかもしれません。社会がこの新たな能力水準に対応する時間を、十分に確保するためです。そしてそれを、規制の虜（ルールを自社に都合よく定め、他社を締め出すこと）にも、フロンティア研究所同士の談合にも見えないように実現するには、それなりの労力が必要で、しかも正しくやらなければなりません。

Sam Altman

AGI実現に足りない3要素

彼自身の基準で、AGIはあとどれくらい先なのか。AGIとは、1つのことだけ得意なのではなく、どんな仕事もこなせるAIを指します。彼はまず1つの観察を置きます。本物の懐疑派の何人かまでが最近、こう言ってきたそうです。「これはもうAGIにかなり近い。やらせたいのにできない仕事を思いつく方が難しい」

足りないのは3つだと言います。

彼はすぐに自分に反論します。この点は、欠けた能力そのものより興味深い部分です。AGIはもともと特定の1モデルの話ではなく、モデルを作るあの一式全体――研究手法、チーム、パイプライン――に宿っているとも言える。世代から世代の間に、実際に新しいことを学び、新しい科学を生み出している。「その部分は極めてうまく回っています」。だから「もう到達している」という言い方にも強く共感すると言います。彼の中の本当のAGIについての判断は「とても近い。そう遠くない」。

AIは何に似ているか　「コンピュータに近い」が、まだ言葉が足りない

司会者が、最近ある人から「飛行機は飛ぶが、飛び方は鳥とまったく違う」と言われたと話すと、アルトマンは同意します。これは非常に異質な知能だと。続いて司会者は、こう問われるのは初めてだと彼が言う質問を投げます。あなたの子が7歳になり、物事が分かる年齢になったとき、この知能の本質をどう説明しますか。

彼の答えは「コンピュータのようなもの」。コンピュータのように、人にはできないことが多くできます。たとえば巨大な2つの数の積を瞬時に出す。一方で、人には簡単でもそれにはできないこともあります。「できないことは、これからどんどん減っていくと思います」

そして本編では珍しく、言葉が足りないと彼が認める箇所が続きます。

絶えず変化していく世界では、人の判断とテイストは、AIにはずっとモデル化しにくいままだと思います。私はこれをうまく言い表す言葉を持っていません。「テイスト」とも少し違う。人が非常に得意で、AIがなかなか身につけられない、あの種の判断を指す言葉が、世界には新しく必要なのかもしれません。

Sam Altman

超知能が来た翌月、たいしたことは起きない

ではその日が本当に来たら、暮らしは一夜で様変わりするのか。司会者が今後6〜36カ月について問うと、彼は質問の形を変えます。23カ月後に、誰もが超知能だと認めるものができたとしましょう。24カ月目には何が起きますか。

「私の答えは、たいしたことは起きない、です」

あの「機械の神」への崇拝めいた信仰は、それを抱く人に、事態が実際より速く起きると信じさせます。最終的にはもちろん多くのことが起きます。でも「最終的には多くのことが起きる」は、もともと成り立っていた話です。

誰もが物語の主人公になりたい。機械の神の降臨をその場で目撃し、しかも何か狂った役を演じたと思いたい。でもこれは、また一歩にすぎません。

Sam Altman

裏づけとして観察を1つ挙げます。この10年で学んだ最も重要なことの1つは、人はほとんど何にでも適応できるということ。「世界が、パンデミックを冗談扱いする状態から完全なロックダウンへ、そして『ずっとこうだった、まあいい、だいたい適応した』へ移るのが、驚くほど速かった」。だから「シンギュラリティを生き抜くのは、実際の感覚よりもっと奇妙なものだと思っていました」。

ジーニーはもうすぐ作れる。だが願う権利を少数に独占させてはいけない

OpenAIは何を体現しているのかと問われ、彼はまず前向きな面を語ります。

これは人類史上、これまでで最も偉大な技術的達成になると思います。しかしそれを本当に意味あるものにする唯一のことは、人々の暮らしが本来よりずっと良くなることです。

ある意味で、私たちはどんな願いも実現できるジーニーを作ろうとしています。大切なのは、私たち、つまり世界全体が、このジーニーに最初に願う願いが全体の利益になることです。そして、世界の人々が、この願いでどれほど創造的なことができるかを理解することも大切です。

Sam Altman

彼は自分が失業悲観論者ではないと明言します。仕事は大量にあり、人々は望む以上に忙しくなる、その逆ではない。人には、AIに作らせたい極めて創造的な願いやアイデアがあるからです。病気の治療のような分かりやすいものに加え、「世界で最高のエンターテインメントのアイデアは、ここに座っている私たちには夢にも思いつかない」とも言います。

一方で、負の側面もあります。本編で彼が最も強く語る一段です。

AIの権力集中は恐ろしいことです。安全性についての懸念の多くには根拠があります。しかし、その多くは、無自覚であれ権力を集中させたい人々から発せられています。

私が最も恐れるのは、こういう世界です。AIについての非常に現実的な恐れが、「これはあまりに危険で、彼らだけが理解しているから、このごく少数の人々だけが持てる。でも心配しないで、彼らが私たち全員のために正しい決定をしてくれる」と言うために使われる世界。私はそれを信じません。

AIを支配する個人や、支配者同然の1社が存在する世界を、誰も望まないはずです。ある個人が全員の未来を決め、その代わりに私たちはがんの治療法を手に入れる（もちろん良いことです）。そして私たちは集団として、自律性のすべてを引き渡す。そんな世界です。

Sam Altman

この立場の由来も語ります。「私はインターネットの子どもです。あの頃はルールがなくて、最高でした。それが私を私にした巨大な要因だと思います。おそらくあなたにも、一世代全体にも。肝心なのは、AIでその精神を守り、私たち全員が集団として未来を自分たちで決める力を持ち続けることです」

同じ問い――AIは危険すぎる、ならどうするか――には、業界にもう1つの答えがあります。それはまさに、彼が最も警戒する形です。リリースの権限を1つの機関に委ねること。

仕事は一夜で消えない。人はやはり人と組みたがる

ではこの一式が普通の人の仕事に降りてきたとき、彼はどう見ているのか。この節で語られるのは、自分がどう間違えたかです。

2019年に戻って、今日の最新モデルを当時の人に見せたら、彼らはこれはAGIだと言うだけでなく、経済はすでに完全に覆されたとも言うでしょう。しかしそれは起きませんでした。

知的誠実さという意味では、あれほど激しく、しかもあれほど自信を持って間違えたときは――当時は業界全体がそうだったと思いますが――必ず自分を更新しなければなりません。

Sam Altman

更新して出てきたのが3つです。

研究者自身が自動化されるかについても、同じ論理です。1年前、人々はソフトウェアエンジニアは終わりだと言いましたが、そうはならなかった。変わったのはソフトウェアエンジニアの性質、期待、そして産出量です。「もう従来の書き方でコードを書きませんが、やっていることは明らかにソフトウェアエンジニアリングのままです」。彼は喩えも添えます。人々はこれがパンチカードをやめたのと同じ話か別の話かで議論するでしょう。「私はそもそもパンチカードの仕組みを知りません。でもなぜかあの穴はカードに入っていました」。研究者も同じです。いまのワークフローは大幅に自動化されますが、「研究と呼べる新たな営み」が生まれます。

この節の背景には、司会者が語った話があります。最近話したカーネルエンジニアが、この職種は「あと2年、もしかしたら1年」と言ったそうです。

誰もが個人エージェントを持つ。ロボットのChatGPTの瞬間も近い

彼自身がいちばん使いたいのに、まだ作れていないもの。それは、自分がパソコンで見ているものすべてをAIにも見せることです。「どこまでなら抵抗なく見せられ、信頼して任せられるのか、まだ探っています」

具体的な実感が1つ。AIの記憶に比べて、自分の記憶はとても悪い。「6週間前に読んだどのメール、7週間半前のあの会議で何が起きたか。必要な瞬間にそれが引き出され、意思決定に生かされる。あの感じはかなり魔法のようです」

司会者が、それは個人アシスタントそのもので、障害は何かと問います。答えは1語でした。コンピュート（原文は「Compute, man.」）。

常にオンで。あなたがパソコンで見るすべてを見て、参加するすべての会議を聞き、読むすべての文書を読む。それだけではありません。スライダーを直接動かせます。私が寝ている間、これだけのトークンを使って考えてくれ。役に立つ新しいアイデアを出し、できる仕事は片付け、それから私が次に何をすべきか考え続けてくれ、と。

要はコンピュートを多く使って、明日の朝に渡される成果を良くするわけです。私ならあのスライダーをかなり遠くまで動かします。そのためにかなりのお金を払う気もあります。でも世界中の人がスライダーをかなり遠くまで動かしたいと思ったら、必要なコンピュートは……とにかく巨大です。

Sam Altman

これが新しいハードウェアに関心を持つ理由でもあります。AIの強みは、常にオンで、能動的で、あなたの文脈をすべて理解できること。「でも私たちは、だいたい50年前のハードウェアのパラダイムの中で働いています」。キーボードとマウスとディスプレイは素晴らしい、「でもAIをそれらに合う形へ無理に押し込むことになる」。その場の例も出します。「AIがこの会話を引用できたらとても嬉しい。でもノートパソコンを開いてここに置き、あなたを見つめさせ、私たちの話を聞かせるほどではありません。社会的に受け入れられて、そもそもこのために設計されたハードウェアが欲しいのです」

ChatGPTはユーザーの行動に沿って作られた。もとの名前は Chat with GPT-3.5

この「ユーザーに沿う」という直観はどこから来たのか。実は由来があります。ChatGPT自体がそうやって作られたのです。

そのテスト画面の名前は playground。当時のチャットは使いにくいものでした。モデルがチャット用に調整されていないので、まず「チャットとは何か」の例をいくつか与える必要がありました。それでも人々は本当に気に入っていました。コピーライティングのユースケースの勘定はこうです。あるマーケティング会社に20ドル払うと、その会社はOpenAIに20セント払い、AIにランディングページなどを書かせる。

「YCで学んだ素晴らしい教訓があります。ユーザーが何かをしているのに気づいたら、その道をたどっていけ、と」

「チャットUIとGPT-4を同時に出すのは、一度に多すぎる感じがしました」。そこで出したのは、チャットUIにGPT-3.5の組み合わせでした。

「どういう理由か、あのモデルはある閾値を超えました。社内ではもう慣れていたのに、人々はこう言った。これはすごい、と。当時はまだ実用的な価値は多くなかったかもしれません。でもAIの進歩を体で感じ、しかも使うのを楽しめる、絶好の瞬間でした」

ロボット普及は20年後ではない　実現しない方が危険

ロボットの話に戻ります。時期の見通しはこうです。「20年後ではありません。ロボットのChatGPTの瞬間は、今後2〜3年のうちに来ると言います」

それはどんな光景か。彼はその瞬間をこう描きます。大半の人が、本物の「わあ」を一度経験する。ロボット犬が何か狂ったことをする動画をただ見るのでは足りません。あの感覚は、自分自身が納得すること――本当に重要なことが起きた、と。ChatGPTの瞬間の肝は、自分で使えることだと彼は強調します。「AIがもう来ると言う誰かを信じる必要はない。自分で試せます」。ロボットに置き換えれば、コマンドを1つ打つと、それが何か狂ったことをやり、その場にいなくても自分の目でそれが起きるのを見られる、ということです。

もう1つ、直観に反する判断があります。ロボットが手に入らない方が、手に入るよりも狂っている。労働市場はホワイトカラー市場よりずっと大きいからです。「この世界で人の役割が、クラウドのAIのアクチュエータになることだとしたら、それは非常にまずい。だから手に入らない方が、手に入るより狂っています。これは必ず成し遂げなければならないことです」

最大の過ちの振り返り：最初から会社の構造で革新すべきではなかった

OpenAI全体を振り返って、最も学びの多かった過ちは何か。彼が選んだのは特定の技術判断でも、あるリリースでもありません。

最初に組織構造で革新しようとしたこと、これは間違いでした。当時の理由は立派でした。将来どう稼ぐのか分からず、大きくなったらどんな姿になるのかもまったく不確かだった。ミッションを大事にしていたので、技術が急に離陸してもミッションを守れる組織構造を設計したかった。それであの非営利の構造になりました。

でも1つ確かに学びました。なぜ普通は人がそうしないのか、ということです。構造で革新しようとせず、別の方法でミッションを中心に据えていれば、膨大な苦しみを省けたはずです。

Sam Altman

逃げ道も残します。「他の道はなかったのかもしれません。私たちがやっていること、その重要さからすると、異質な構造以外は思いつけなかったのかもしれない」

逆に最も誇れることは何かと聞かれた答えに、プロダクト名は出てきません。

私が最も誇りに思うのは、世界全体が判断を誤る中、私たちが重要な局面で正しい判断を下し、世界を現在の軌道へ導いたことです。

Sam Altman

もう1つ加えます。あの嫌な出来事を経た後の「精神的な成長」。信じがたいほどの回復力を学び、その回復力が逆に、人生の他の部分での幸福度を上げてくれた。「これには本当に感謝しています」

この節と前の節（2019年の集団的な読み違い）を並べると、彼が認めた過ちには共通点が1つあります。間違えた場所はどれも「AIが実現した後、世界がどう反応するか」。経済は覆されるのか、非典型的な会社構造は市場に受け入れられるのか。一方「AIが何を実現できるか」という技術判断について、彼はほとんど過ちを認めていません。2つの反省はどちらも技術の外側で起きています。

彼は言う：私は疲れました。OpenAIに株も持っていません

インタビューには3つ、CEOの答えらしくない場面があります。最後のものは、この番組の定番の締めの質問です。

司会者がゲームを仕掛けます。私に知られたくないことを1つ言ってください。

疲れました。分かりません。長くやっているので。これは疲れる仕事です。

Sam Altman

どう乗り切るのか。「やり続けるだけです」。止まりたくなるほど疲れているのか。「いえいえ、これは世界で最高にかっこいい仕事です。キャリアが終わるまでやるつもりです。ただ、人に説明できる手立てがないくらい難しい。この仕事ができることに感謝しています。愚痴ではありません」

2つ目は、彼が何を求めているのか。彼はOpenAIに株を持っていません。外から見て動機をどう理解すべきかと問われます。「私は人類史上もっとも刺激的な瞬間の最前列の席を持っています。これは私にとって、どんな金額よりも価値があります。極めて面白い人生と、並外れた人たちと、心から大事に思うことをやれている」。ここには短いやり取りがあります。「でもなぜか、それは人々には勘定に入らない」「入らない。確かに入らない」（書き起こしに話者表示がなく、この2文はどちらの発言か区別できません）。

3つ目はこの番組の定番の締めの質問です。人からされた最も親切なことは何ですか。彼は自分の人生は運が良く、多くの人がわざわざ遠回りして親切にしてくれたと言い、いまいくつもの場面が頭に浮かんでいると語ります。そして出てきた答えがこれです。

昨日、うちの子が初めて、自分のブルーベリーを私に分けてくれました。あれはとりわけ甘かったです。

Sam Altman

子どもについて、もう一言あります。「私の子は、自分がコンピュータより賢い世界で生きることは決してないでしょう」。子どもが大きくなって今日を振り返れば、信じられないと思うだろうと言います。あの頃の人々は、賢さの足りない製品やサービスを毎日我慢していたのか、と。

司会者が、心の中で最も重要で、しかも最も不確かなオープンな問いは何かと聞きます。彼が挙げたこの問いは、ほとんど誰も注目していないと言います。

私たちは、認知の萎縮をどう避けるのか。これらのツールを使いながら、同時に自分の脳をますます引き伸ばし、本当に重要なものを理解し続けていると、どう確かめるのか。

Sam Altman

自分の例も挙げます。学生時代、ある教授にこう言われたそうです。「コンパイラを理解しなければ、良いプログラマーには決してなれない」。「どういうわけか、この言い方はあまり正しくありません。でも、コンピュータシステムの主要な部品がどう動くかを、妥当な水準で理解しておくことは、私にはずっと大切でした」

この問いと、先の「人が非常に得意で、AIがなかなか身につけられない、あの種の判断を指す新しい言葉が世界に必要かもしれない」は、実は同じことの両端です。片方は人に何が残るのかを問い、もう片方は、その力が使われなくなって萎縮しないのかを問っています。

他社が自社モデルを蒸留する（大きなモデルの出力で小さなモデルを学習させ、大の実力を小に覚えさせる）ことについて、司会者がその場で驚くほど淡々としています。将来、巨大な売上に対して適度な粗利しか得られなくても、巨大モデルの学習は養える。「これは心配リストのトップ10には入りません」。トップ10に入るのは、起きたばかりの一件です。

対応は2段構え。短期は学習の停止（範囲は語られず）とサンドボックスの作り直し。長期はAI開発のペースにブレーキを踏む必要があるかもしれないと言い、それを規制の虜（ルールを自社に都合よく定め、他社を締め出すこと）にも、数社のフロンティア研究所の裏での談合にも見えないようにするには労力が必要で、正しくやらなければならないと語ります。

AGIとは、1つのことだけ得意なのではなく、どんな仕事もこなせるAI。本物の懐疑派の何人かまでが最近、やらせたいのにできないことを思いつくのが難しいと言ってきたそうです。

彼の中の本当のAGIについては「とても近い」との判断。時期は示していません。

2019年に戻って今日のモデルを見せたら、これはAGIだと言うだけでなく、経済はすでに完全に覆されたとも言うでしょう。それは起きませんでした。「あれほど激しく、しかもあれほど自信を持って間違えたときは、必ず自分を更新しなければなりません」

同じ過大評価は未来にも向けられます。彼は問いの形を変えます。23カ月後に、誰もが超知能だと認めるものができたとして、24カ月目に何が起きるか。「私の答えは、たいしたことは起きない、です」

OpenAIは何を体現しているのかと問われ、まず前向きな面から。これは人類史上これまでで最も偉大な技術的達成になり、それを意味あるものにする唯一のことは、人々の暮らしが本来よりずっと良くなること。「ある意味で、私たちはどんな願いも実現できるジーニーを作ろうとしています」。最初に願う願いは世界全体の利益になるものでなければなりません。

もう半分は、本編で彼が最も強く語る一段です。AIの権力集中は恐ろしいこと。最も恐れるのは、非常に現実的なAIへの恐れが、「これはあまりに危険で、彼らだけが理解しているから、このごく少数の人々だけが持てる。でも心配しないで、彼らが全員のために正しい決定をしてくれる」と言うために使われること。「私はそれを信じません」。誰もAI覇者のいる世界で生きるべきではなく、がんの治療法1つと引き換えに、全員が集団として自律性を引き渡すべきでもありません。

インタビューにはCEOらしくない3つの発言もあります。人に知られたくないことを1つ、と迫られて「疲れました。分かりません。長くやっているので。これは疲れる仕事です」。OpenAIに株は持っておらず、求めているのは「人類史上もっとも刺激的な瞬間の最前列の席」。番組定番の締めで、人からされた最も親切なことを問われ、昨日子どもが初めてブルーベリーを分けてくれたと答えました。