NVIDIA GTC 2026基調講演を読む：賢さのKPIから工場のKPIへ

“

この記事は NVIDIA GTC keynote on YouTube の内容を基に作成しています。

GTC 2026基調講演の「35倍」「メガワットあたりスループット」「$150/Mトークン」といった数字は、1年も経てば古くなります。講演内の強い数字をそのまま将来の読み筋として受け取るより、評価軸がどう動いたかを示す材料として読むほうが長く使えると私は考えています。

私はこのkeynoteを、新チップの発表会ではなく、AI基盤の評価軸をモデルの賢さから工場のKPI（トークン/ワット、処理完了までの待ち時間）へ移す宣言だと読んでいます。GPU枚数や単価でAI基盤を比較する見方は、この世代で判断を誤らせるようになると考えています。ただしこれは講演内容の読解であって、ギガワット級インフラを自分で運用した検証ではありません。NVIDIAの数値主張（7倍・35倍）が後続の第三者ベンチマークで大きく崩れたら、この読みは修正します。

AI導入を実務に実装する会社を経営している私にとって、GPUカンファレンスの見どころは新チップの型番ではなく、AIを動かし続けるコストの単位が何に置き換わるかです。

AIの使い方には、許容できる遅延がまるで違う層が少なくとも二つある、と私は考えています。記事をまとめてリライトするようなバッチ処理は、1件ごとの応答が多少遅くても、最終的に流れきればよい仕事です。一方、対話的なコーディング支援のように人がその場で結果を待つ処理は、1回ごとの待ち時間がそのまま体感の質になります。同じ「AIを動かすコスト」という言葉で語っても、この2つを同じ基準で測ろうとすると、工場のKPIという物差し自体を見誤ると考えています。この整理は、以前Naveen Rao『脳はGPUより100万倍効率的に計算する』を読むで書いた、AIが広がるほど計算効率が事業上の制約になるという立場から導ける推論であり、自社の運用を定量的に検証した結果ではありません。

この記事では、YouTubeで公開されている基調講演そのものだけを素材にします。講演内でNVIDIAが主張した内容は「NVIDIAは〜と主張した」「Huangは〜と述べた」という形で、出典とともに事実として書きます。そこから私が読み取る解釈は「〜と読めます」「私は〜とみています」という形で、事実と分けて書きます。数値・時期はいずれも講演時点（2026年3月）のものであり、後続の公式資料や第三者ベンチマークで変わりうるという限定を、ここで一度だけ置いておきます。

前提：賢さのKPIと工場のKPI、prefill/decode分離

この記事は2つの言葉を軸にします。

賢さのKPIとは、モデルの応答がどれだけ賢く見えるかを測る指標です。ベンチマークスコア、リーダーボードの順位、デモの巧妙さがこれにあたります。

工場のKPIとは、同じモデルを大量のリクエストに対して動かし続けたときの、1ワットあたりの生成トークン数（トークン/ワット）と、依頼が投げられてから応答が完了するまでの待ち時間の2つです。この記事の主張は反証可能な形で言えます。もしNVIDIAの新しい発表がこの2指標のどちらも動かしていないなら、「評価軸が工場のKPIへ移った」という読みは誤りだったことになります。

もう一つの前提がprefill/decode分離です。LLMの推論には、入力を読み込んで内部状態を作る「prefill」と、1トークンずつ生成する「decode」という2つの段階があります。prefillは大量のデータを並列に処理する高スループット指向、decodeは1ステップずつ短い待ち時間で返す低遅延指向で、最適化の方向が逆になります。この2つを同じ器で無理に両立させようとすると、どちらも中途半端になります。NVIDIAの7倍・35倍という主張が成り立ちうる理由は、この分離をハードウェアとソフトウェアの両方でやり切ったという説明にあります。

発表の全体像：どのKPIを押し上げたか

GTC 2026の発表項目を、内容の派手さではなく「どのKPIを押し上げるための発表か」で並べ直すと、次のようになります。

以下、この並びに沿って本論を組み立てます。

Dynamoとprefill/decode分離：スループットと遅延を分けて売る

NVIDIAはデータセンターを「AIファクトリー」と再定義し、工場にはOSが必要だという理屈でDynamoを位置づけています。19世紀のダイナモ（発電機）が水力を電力に変えたように、NVIDIAのDynamoはデータを知能に変える、というのがHuang自身の比喩です。Dynamoはオープンソースで公開されています。

Dynamoの核心は、前提で定義したprefillとdecodeの分離です。NVIDIAはprefillをVera Rubin GPU（高スループット）に、decodeをGroq 3 LPU（超低遅延）に振り分け、Dynamoがワークロードに応じて自動的に両者へルーティングすると説明しています。この振り分けによって、Blackwell単体と比べて推論性能が7倍になるとNVIDIAは主張しています。

同じ発想をラックスケールに拡張したのが、Vera RubinとGroq 3をDynamo経由で統合する構成です。GTC 2026で発表された「7つの新チップ、5つのラックスケールシステム」はすべて生産中だとNVIDIAは述べています。内訳は、メイン計算を担うVera Rubin GPU（Blackwellの後継、電力効率10倍とNVIDIAは主張）、推論特化のGroq 3 LPU（Samsung製造、約200億ドルでの買収だったとNVIDIAは説明）、ストレージ処理のBlueField、NVLink 72によるネットワーク（3.6エクサフロップスとされる）、汎用処理のCPUです。この構成全体で、メガワットあたりの推論スループットが35倍になるとNVIDIAは主張しています。

NVIDIAが語る性能向上の数字には、これまでも自らの宣言を上回ってきた経緯があります。昨年のGTCでHuangは「Blackwellは前世代比35倍のperf per watt」と宣言していましたが、これに対し半導体アナリストのDylan Patel（SemiAnalysis）は「実際は50倍で、Jensenはサンドバッグだ」と指摘したとされています。Huangはこれを否定せず、次のように述べています。

“

"He accused me of sandbagging. It's actually 50 times. And he's not wrong."

「彼は私がサンドバッグだと言った。実際は50倍だと。彼は間違っていない」

NVIDIAの性能向上が想定を上回り続けている現実を、Huang自身がユーモアを交えて認めた場面です。

“

"If you have the wrong architecture, even if it's free, it's not cheap enough. You still have to build a gigawatt data center. That gigawatt factory for 15 years is about $40 billion."

「間違ったアーキテクチャは、たとえ無料でも十分に安くない。1ギガワットのデータセンターを15年間運用するコストは約400億ドルだ」

GPU自体の価格差は工場全体のコストの10〜20%程度だとHuangは述べています。つまりチップの単価そのものより、同じ工場でどれだけのトークンを生成できるかというスループットの差が、最終的なトークン単価を決めるという論理です。7倍・35倍という数字が本当に成り立つなら、チップの値札を比較すること自体の意味が薄れます。ここが、賢さのKPIから工場のKPIへ評価軸が動くという私の読みの、ハードウェア層での具体例です。

トークン経済と価格ティア：遅延に値段をつける

“

"Tokens are the new commodity."

「トークンは新しいコモディティだ」

Huangはトークン市場を、原油や電気と同じコモディティ市場として設計したと語っています。NVIDIAが示した価格ティアは次の4段階です。

研究者が1日5,000万トークンを使っても、100万トークンあたり150ドルは大した額ではない、とHuangは付け加えています。

この4段階は、遅延に値段をつけるという発想を制度化したものだと私は読んでいます。同じ量のトークンでも、バッチ処理のように待たせてよい仕事なら$3〜6、リアルタイムでの応答が必要な仕事なら$150。前提で定義した「トークン/ワット」と「処理完了までの待ち時間」の両方に、そのまま価格がついています。

需要側でも同じ設計思想が見えます。GTC 2026でHuangは、NVIDIAの全エンジニアに年収の50%相当のトークン予算を支給すると宣言しました。

“

"I could totally imagine in the future every single engineer in our company will need an annual token budget... How many tokens comes along with my job?"

「将来、全エンジニアに年間トークン予算が必要になる時代が来ると思う。このジョブには何トークンついてくるのか、それが仕事を選ぶ決め手になる」

NVIDIAはエンジニアへのトークン支出に20億ドル（約3,000億円）を投じる計画だと述べています。Huangが描くビジョンでは、今後10年でNVIDIAは人間社員7.5万人とAIエージェント750万体で構成される企業になります。エンジニア一人あたりのトークン予算という人事制度は、供給側の価格ティア設計を需要側から裏返しただけのものだと私は見ています。

層の持ち方：垂直統合・水平開放と次の需要先

“

"NVIDIA is the world's first vertically integrated but horizontally open company."

「NVIDIAは世界初の垂直統合・水平開放型企業だ」

チップからOS（Dynamo）、フレームワーク（CUDA）、アプリケーション（NemoClaw）まで垂直統合しつつ、全レイヤーを全クラウドプロバイダーに開放する、というのがHuangの説明です。NVIDIAはこの立ち位置を「Appleのように垂直統合しつつ、Androidのようにオープン」と表現し、この二律背反の両立こそが競争優位だと述べています。

具体的な動きとしては、OpenClawの公式サポート発表があります。

“

"OpenClaw is the most popular open source project in the history of humanity and it did so in just a few weeks. It exceeded what Linux did in 30 years."

NVIDIAは、企業向けセキュリティ層「NemoClaw」（OpenShellポリシーエンジンとプライバシールーターを備える）もあわせてリリースしました。

“

"Every single SaaS company will become a GaaS company—an Agentic as a Service company."

「あらゆるSaaS企業はGaaS企業になる、つまりAgentic as a Serviceの企業になる」

“

"What's your OpenClaw strategy? Just as we needed a Linux strategy... every company in the world today needs to have an OpenClaw strategy."

「あなたのOpenClaw戦略は何か。LinuxやKubernetesがそうだったように、今や全企業にOpenClaw戦略が必要だ」

さらにNVIDIAが主導する連合として、Cursor、Mistral、Perplexity、Black Forest Labsなどが参加する「Neotron Coalition」が発表されました。Nemotron 4モデルの共同開発連合として機能するとされています。

層をどこまで自分で持つかという話のもう半分は、次にどこへ需要を広げようとしているかです。DLSS 5はAIでフォトリアルなグラフィックスを生成する技術で、2026年秋のリリースが予定されており、Bethesda、CAPCOM、Ubisoft、Tencentなどが開発に参加しています。現時点のデモはRTX 5090を2台使う構成ですが、製品版では1GPUでの動作を目指すとされています。物理AIの領域では、「世界初の推論型自動運転AI」と位置づけられたAlpamoがMercedesとの実走デモを行い、BYD、Hyundai、Nissan、Geelyが新たにNVIDIAプラットフォームに参加、Uberとの提携も発表されました。基調講演の締めには、ディズニーのOlafロボットがNewton物理エンジンとWarpシミュレーションで制御されて登場しています。

ゲーム機の推論需要も、車載の推論需要も、ロボットの推論需要も、NVIDIAが次に工場のKPIを問う場所として名指ししている先だと私は読んでいます。

再ソート：この発表をいつ使うか

keynoteで語られた項目を一つのリストとして覚えるより、検証のタイミングで3列に仕分け直すほうが実務では使いやすいと思います。

今日の調達判断に効くもの

• prefill/decode分離という設計思想そのもの。高スループット処理と低遅延処理を同じ器で回さないという判断基準は、チップの世代が変わっても使えます。
• 遅延に値段をつけるという価格ティアの発想。自社のAI利用を用途別に値付けし直す考え方は、NVIDIAの価格表そのものより先に使えます。
• 「間違ったアーキテクチャは無料でも安くない」という論理。チップの値札ではなく、生涯スループットで比較するという基準です。

1年後に第三者数値で検証するもの

• 推論性能7倍、メガワットあたりスループット35倍というNVIDIA自身の主張値。
• Vera Rubinの電力効率10倍という主張。
• Groq 3が2026年第3四半期の予定通りDynamoと連携するか。
• Rubin Ultra/Kyber（2027年）、Feynman（2028年、TSMC A16・LP40・Rosa/Roslin・BlueField 5・CX10）というロードマップが遅延しないか。

市場シグナルとして記憶するもの

• OpenClaw公式サポートとNemoClaw、「全SaaS企業はGaaS企業になる」という宣言。
• Neotron Coalition（Cursor、Mistral、Perplexity、Black Forest Labsなど）。
• エンジニアへの年間トークン予算という人事制度。
• DLSS 5、Alpamo、自動車メーカーの参加、Disneyのロボットデモ。

この3列仕分けそのものが、今回の記事で私が持ち帰る一番の道具です。

私の持ち帰り：工場のKPIは小さなAI導入にも同じ形で現れる

私はギガワット級のデータセンターを自分で運用しているわけではありません。ネクサフローが扱うのは、企業の日常業務にAIを実装する規模の仕事です。それでも、賢さのKPIから工場のKPIへ評価軸が動くという今回の読みは、規模を問わず同じ形で効いてくると考えています。

これは特定の顧客事例ではなく、公開情報から考えた見立てですが、以前整理した「実験費か運用費か」という枠組みをここに重ねると、同じ対応関係が見えてきます。AI収益は「実験費」か「運用費」かで挙げた運用費化の条件のひとつは、効果測定をtoken消費量や利用回数ではなく、処理時間・手戻り率・SLA達成率で見ているかどうかでした。これは、AI導入の議論が「モデルの賢さ」で止まっているか、「工場のKPI」まで踏み込んでいるかを見分ける材料にもなります。運用費として定着している導入ほど、効果測定の軸がモデルの出力の巧拙ではなく、処理完了までの時間や手戻り率といった工場のKPI寄りの指標に置き換わっている、というのが両者を突き合わせたときの私の見立てです。これは特定の顧客事例を検証した結果ではなく、公開している既存の枠組みを今回のkeynoteの主張に重ねて読んだときに成り立つ、という位置づけの整理です。

この読みは、以前Naveen Rao『脳はGPUより100万倍効率的に計算する』を読むで書いた、AIが広がるほど計算効率が事業上の制約になるという立場の延長線上にあります。あちらは脳型計算という別の角度からの立論でしたが、工場のKPI（トークン/ワット）は同じ主張の具体化です。同じ枠組みは、需要側の主張を検証するときにも使えます。NVIDIAが語る需要の大きさをそのまま信じるのではなく、その支出がどのworkflowに入り、誰が承認境界を持ち、失敗時にどこへ差し戻すかを見れば、工場のKPIが実際に効いている導入かどうかを見分けられます。

この読みが覆る条件も書いておきます。NVIDIAが主張する7倍・35倍という数字が、後続の第三者ベンチマークで大きく崩れたら、評価軸が本当に工場のKPIへ移ったのかどうか自体を疑う必要が出てきます。次にこのkeynoteを読み返すときは、まずそこを確認するつもりです。

関連記事

• Jensen Huang × All-In Podcast：推論1万倍、物理AI、放射線科医の逆説：同じ時期にAll-In Podcastで語られたHuangの発言を読んだ記事です。あちらで整理した「AIファクトリー」という見方を、本記事はGTCで発表された具体的な製品（Dynamo、価格ティア、チップ構成）で裏づけ、工場のKPIという一段具体的な軸に進めています。
• Naveen Rao『脳はGPUより100万倍効率的に計算する』を読む：AIが広がるほど計算効率が事業上の制約になるという同じ主張を、脳型計算の側から立てた記事です。本記事のトークン/ワットは、その延長線上にあります。
• AI収益は「実験費」か「運用費」か？企業導入で見るべき境界線：keynoteが語る需要側の主張を鵜呑みにせず、支出がどのworkflowに定着するかで検証するための枠組みを持つ記事です。