対談・インタビュー
Naveen Rao『脳はGPUより100万倍効率的に計算する』を読む
12分で読める|2026/05/09|
AIAIチップGPU脳型計算AIインフラ
この記事の要約
Naveen Raoの脳とGPUの計算効率に関する議論を、efficiencyの4レイヤー、現行GPUスケーリングの限界、brain-inspired compute、AIインフラ事業への示唆として整理する。
Naveen Raoの対談は、AIブームの中心にあるGPUスケーリングに別角度から問いを投げる。なぜ人間の脳は約20ワットで高度な認知を行えるのに、現代のAIは巨大な計算資源を必要とするのか。
この問いは、GPUが不要になるという単純な話ではない。むしろ、AIが社会のあらゆる場所へ広がるほど、計算効率が事業上の制約になるという話である。
本記事では、脳とGPUの比較を、efficiencyの定義、現行AI計算基盤の限界、brain-inspired compute、AIインフラ事業への示唆に分けて整理する。
この記事は Why the Brain Computes 1,000,000x More Efficiently Than A GPU: Unconventional AI's Naveen Rao の内容を基に、
2026-05-09取得の英語字幕から再構成している。
本記事の前提
- 直訳ではなく、対談・講演の主張をトピック別に再構成している
- 動画内の主張と、記事側の実務的な補足・解釈を分けて整理している
- Sequoia AI Ascent 2026 の関連動画群を横断して読めるよう、関連記事も最後にまとめている
読む前の補助線
この動画を読むときの中心問いは「AIが普及した後、計算効率はどこまで事業上のボトルネックになるか」である。動画内では会話の流れに沿って論点が移るが、記事化するときは順番をそのまま追うより、AIインフラ、半導体、モデル運用、プロダクト原価を考えるチームが判断に使える単位へ並べ替えた方が理解しやすい。
特に注意したいのは、「brain-inspired efficiency」を大きな流行語として受け取らないことだ。今回の対談で価値があるのは、未来予測そのものより、どの条件が変わり、どの責任が残り、どの組織能力を先に作るべきかが見えてくる点にある。
逆に読み違えると、GPUの性能向上だけを前提にして、電力、コスト、メモリ移動、推論効率を軽く見ることが起きる。だから本記事では、動画の発言を単純な時系列ではなく、テーマごとに整理しながら、疎な計算、メモリ近接、イベント駆動、用途別チップ、モデルとハードの共設計へ接続して読む。モデルの精度だけでなく、どの計算をどこで省くかを設計できる企業が長期的に有利になる。
また、この一本だけで閉じて読むより、Sequoia AI Ascent 2026の他セッションと並べると位置づけがはっきりする。ある動画はモデル能力を語り、別の動画は開発組織やロボティクス、インフラ、運用を語る。本記事ではその中で、Naveen Raoの発言がどの論点を担っているのかを明確にする。
脳とGPUの比較は、flopsの勝負ではない
Raoの議論でまず重要なのは、効率という言葉の意味である。脳がGPUより効率的だという話は、単純に一秒あたりの演算数を比べる話ではない。
脳とGPUの効率比較まず押さえるべきは、この章の話が単独の予測ではなく「AIが普及した後、計算効率はどこまで事業上のボトルネックになるか」という問いの入り口になっている点である。何が新しくなったのかと同時に、何をまだ人間側で設計しなければならないのかを分けて読む。
脳は約20ワットで、知覚、運動、記憶、推論を同時に行う。
人間は低電力で常時動き、環境に適応し、少量の経験から学ぶ。これは現在の大規模AIとはかなり違う計算様式である。
AIがあらゆる端末や現場へ広がるなら、データセンター中心の高電力計算だけでは足りない可能性がある。
実務では、この主張を「何が可能になったか」だけで終わらせない方がよい。モデルの精度だけでなく、どの計算をどこで省くかを設計できる企業が長期的に有利になる。そう読むと、この論点は新機能の紹介ではなく、次に整えるべき開発・事業プロセスの話になる。
GPUは現代AIを支える強力な基盤である。
大規模行列計算を高速に行い、学習と推論を支える。現在のAI進歩はGPUなしには語れない。
Raoの議論はGPU否定ではない。GPUスケーリングの強さを認めた上で、次の制約を見ている。
AIインフラ、半導体、モデル運用、プロダクト原価を考えるチームにとって重要なのは、この変化を個人の工夫で吸収しないことである。疎な計算、メモリ近接、イベント駆動、用途別チップ、モデルとハードの共設計を組織の標準に近づけるほど、同じモデルやツールを使っても成果の安定度が変わる。
問題は、AI利用量が増えたときのコストと電力である。
何千ものagentを常時動かす、端末上で推論する、リアルタイムに反応する。こうした利用では効率が事業上の制約になる。
脳との比較は、次のAI計算基盤に必要な条件を考えるためのメタファーである。
ここで焦点を外すと、GPUの性能向上だけを前提にして、電力、コスト、メモリ移動、推論効率を軽く見ることにつながる。だからこの論点は、動画内の一発言ではなく、意思決定の前提を点検する材料として読む方がよい。
脳はGPUの単純な代替ではない。だが、効率の意味を問い直すための最も強い参照点である。
Efficiencyには、アルゴリズム・データ・エネルギー・ハードウェアがある
Raoは、efficiencyを一つの指標として扱わない。AIの効率には、複数のレイヤーがある。
Efficiencyの4レイヤーここでは「brain-inspired efficiency」を、抽象的なキーワードではなく実務上の判断材料として扱う。動画の順番に沿って理解するより、AIインフラ・半導体で起きる責任分担の変化として見る方が、論点の重みがつかみやすい。
algorithmic efficiencyは、少ない計算で同じ答えへ近づく能力である。
モデル構造、推論手順、探索方法が改善されれば、同じハードウェアでも必要な計算は減る。
モデル設計と推論アルゴリズムは、インフラコストに直接影響する。
AIインフラ、半導体、モデル運用、プロダクト原価を考えるチームにとって重要なのは、この変化を個人の工夫で吸収しないことである。疎な計算、メモリ近接、イベント駆動、用途別チップ、モデルとハードの共設計を組織の標準に近づけるほど、同じモデルやツールを使っても成果の安定度が変わる。
data efficiencyは、少ない経験から学ぶ能力である。
人間は少数の例から概念を学ぶが、現在のAIは大量データに依存しやすい。
専門領域やエッジ環境では、データ効率が低いAIは使いにくい。
ここで焦点を外すと、GPUの性能向上だけを前提にして、電力、コスト、メモリ移動、推論効率を軽く見ることにつながる。だからこの論点は、動画内の一発言ではなく、意思決定の前提を点検する材料として読む方がよい。
energy efficiencyとhardware efficiencyは、AIの普及範囲を決める。
データセンターでは許容できる電力でも、スマートフォン、ロボット、センサー、常時稼働デバイスでは制約が厳しい。
AIの次の拡張は、性能だけでなく、どこでどれだけ安く動かせるかに依存する。
実務では、この主張を「何が可能になったか」だけで終わらせない方がよい。モデルの精度だけでなく、どの計算をどこで省くかを設計できる企業が長期的に有利になる。そう読むと、この論点は新機能の紹介ではなく、次に整えるべき開発・事業プロセスの話になる。
効率を一つにまとめると見誤る。AIインフラを考えるには、どのレイヤーの効率がボトルネックなのかを分けて見る必要がある。
推論コストは、AI事業の中心制約になる
AIが実験段階から日常利用へ移ると、学習コストだけでなく推論コストが大きな問題になる。
Compute Cost Bottleneckこの章の論点は、技術の優劣だけでは完結しない。疎な計算、メモリ近接、イベント駆動、用途別チップ、モデルとハードの共設計をどう整えるかまで含めて読むと、対談の発言がそのまま組織設計やプロダクト設計の宿題に変わる。
agentが増えるほど、推論回数は増える。
一人のユーザーが一つの質問をするだけならよい。しかし多数のagentが裏側で調査、実行、検証を繰り返すと、推論量は急増する。
AIプロダクトの原価構造は、単純なAPI呼び出し回数ではなく、仕事単位の推論量で見る必要がある。
ここで焦点を外すと、GPUの性能向上だけを前提にして、電力、コスト、メモリ移動、推論効率を軽く見ることにつながる。だからこの論点は、動画内の一発言ではなく、意思決定の前提を点検する材料として読む方がよい。
リアルタイム性が必要な領域では、遅延も制約になる。
ロボット、音声、デバイス上のAI、センサー処理では、クラウドに毎回問い合わせるだけでは不十分な場合がある。
低電力・低遅延の計算基盤は、AI利用の場所を広げる。
実務では、この主張を「何が可能になったか」だけで終わらせない方がよい。モデルの精度だけでなく、どの計算をどこで省くかを設計できる企業が長期的に有利になる。そう読むと、この論点は新機能の紹介ではなく、次に整えるべき開発・事業プロセスの話になる。
電力制約は、社会インフラの制約でもある。
データセンターの電力、冷却、立地、供給網がAIの拡張を左右する。
AIインフラ企業は、性能だけでなく、電力あたり価値を競うことになる。
AIインフラ、半導体、モデル運用、プロダクト原価を考えるチームにとって重要なのは、この変化を個人の工夫で吸収しないことである。疎な計算、メモリ近接、イベント駆動、用途別チップ、モデルとハードの共設計を組織の標準に近づけるほど、同じモデルやツールを使っても成果の安定度が変わる。
推論が増えるほど、効率は研究テーマではなく事業テーマになる。AIの利用量が増えるほど、計算効率が競争力になる。
Brain-inspired computeは、GPUの否定ではなく補完である
脳型計算やbrain-inspired computeは、しばしば過剰な期待と懐疑の間で語られる。実務的には、GPUを完全に置き換える話ではなく、AIを広げるための補完として見るべきである。
Brain-inspired Compute の位置づけここで見たいのは、話者の断言の強さよりも、その断言が成り立つ条件である。GPUの性能向上だけを前提にして、電力、コスト、メモリ移動、推論効率を軽く見ることを避けるには、便利になった部分と、むしろ重くなる判断を分ける必要がある。
脳は疎な発火、メモリと計算の近さ、イベント駆動性を持つ。
すべてのニューロンが常に最大出力で動くわけではない。必要な時に必要な部分が動く。
AI計算でも、常に巨大モデル全体を動かすのではなく、必要な計算だけを動かす方向が重要になる。
実務では、この主張を「何が可能になったか」だけで終わらせない方がよい。モデルの精度だけでなく、どの計算をどこで省くかを設計できる企業が長期的に有利になる。そう読むと、この論点は新機能の紹介ではなく、次に整えるべき開発・事業プロセスの話になる。
メモリ移動は、現代計算の大きなコストである。
計算そのものだけでなく、データをどこからどこへ運ぶかが電力と遅延に効く。
memory near computeのような発想は、AI効率を改善する重要な方向になる。
AIインフラ、半導体、モデル運用、プロダクト原価を考えるチームにとって重要なのは、この変化を個人の工夫で吸収しないことである。疎な計算、メモリ近接、イベント駆動、用途別チップ、モデルとハードの共設計を組織の標準に近づけるほど、同じモデルやツールを使っても成果の安定度が変わる。
on-device AIや常時稼働AIでは、brain-inspiredな設計が特に重要になる。
端末やロボットで常時AIを動かすには、クラウド級の電力を使えない。
AIが生活空間や産業現場へ広がるほど、低電力計算の価値は上がる。
ここで焦点を外すと、GPUの性能向上だけを前提にして、電力、コスト、メモリ移動、推論効率を軽く見ることにつながる。だからこの論点は、動画内の一発言ではなく、意思決定の前提を点検する材料として読む方がよい。
GPUはAIの現在を作った。brain-inspired computeは、AIをより安く、近く、常時動くものへ広げるための候補である。
AIインフラの判断軸は、性能から配置へ広がる
AIインフラの議論は、どのGPUが速いかに寄りがちである。しかしAI利用が広がるほど、どこで、どれだけの電力で、どの遅延で動かすかが重要になる。
AIインフラの判断軸AIインフラ、半導体、モデル運用、プロダクト原価を考えるチームにとって、この章は採用すべきツール名を決める話ではない。モデルの精度だけでなく、どの計算をどこで省くかを設計できる企業が長期的に有利になる。 その視点で読むと、動画内の具体例が次の運用設計につながる。
学習、バッチ推論、リアルタイム推論、エッジ推論は別の市場である。
大規模学習に向くハードウェアと、端末上で常時動くAIに向くハードウェアは同じではない。
AIチップやインフラ企業は、どの推論環境を狙うのかを明確にする必要がある。
AIインフラ、半導体、モデル運用、プロダクト原価を考えるチームにとって重要なのは、この変化を個人の工夫で吸収しないことである。疎な計算、メモリ近接、イベント駆動、用途別チップ、モデルとハードの共設計を組織の標準に近づけるほど、同じモデルやツールを使っても成果の安定度が変わる。
性能だけでなく、総所有コストが重要になる。
ハードウェア価格、電力、冷却、運用、ソフトウェア対応、開発者体験がすべて効く。
顧客はflopsではなく、仕事あたりのコストで判断する。
ここで焦点を外すと、GPUの性能向上だけを前提にして、電力、コスト、メモリ移動、推論効率を軽く見ることにつながる。だからこの論点は、動画内の一発言ではなく、意思決定の前提を点検する材料として読む方がよい。
ソフトウェアエコシステムもインフラの一部である。
どれだけ効率的でも、モデルを載せにくく、開発者が使いにくければ普及しない。
次世代AIチップの勝負は、ハードウェア設計とソフトウェア互換性の両方で決まる。
実務では、この主張を「何が可能になったか」だけで終わらせない方がよい。モデルの精度だけでなく、どの計算をどこで省くかを設計できる企業が長期的に有利になる。そう読むと、この論点は新機能の紹介ではなく、次に整えるべき開発・事業プロセスの話になる。
AIインフラは、単一の最速チップを選ぶ問題ではない。用途ごとに、性能、電力、遅延、コスト、開発体験を合わせる問題である。
この対談からAIインフラ事業は何を学ぶべきか
Raoの対談から得られる学びは、GPU時代が終わるという話ではない。AIが普及するほど、効率の問題が中心へ来るという話である。
最後に重要なのは、学びを一般論で終わらせないことである。この章の主張を「明日から何を変えるか」へ落とすなら、疎な計算、メモリ近接、イベント駆動、用途別チップ、モデルとハードの共設計を点検することが出発点になる。
第一に、効率を分解して見ること。
アルゴリズム、データ、エネルギー、ハードウェアのどこが制約なのかを分けなければ、正しい投資判断はできない。
AIインフラ戦略は、単一指標ではなく、用途別の効率設計になる。
ここで焦点を外すと、GPUの性能向上だけを前提にして、電力、コスト、メモリ移動、推論効率を軽く見ることにつながる。だからこの論点は、動画内の一発言ではなく、意思決定の前提を点検する材料として読む方がよい。
第二に、推論コストを早く見ること。
AI agentや常時稼働AIが増えるほど、推論コストは事業収益を左右する。
AIプロダクトは、モデル選定だけでなく、推論回数、キャッシュ、圧縮、オンデバイス化を設計すべきである。
実務では、この主張を「何が可能になったか」だけで終わらせない方がよい。モデルの精度だけでなく、どの計算をどこで省くかを設計できる企業が長期的に有利になる。そう読むと、この論点は新機能の紹介ではなく、次に整えるべき開発・事業プロセスの話になる。
第三に、AIが動く場所を広げること。
クラウドだけでなく、端末、ロボット、工場、センサーでAIが動けば、必要な計算基盤も変わる。
brain-inspired computeの価値は、AIをより近く、安く、常時使えるものにする点にある。
AIインフラ、半導体、モデル運用、プロダクト原価を考えるチームにとって重要なのは、この変化を個人の工夫で吸収しないことである。疎な計算、メモリ近接、イベント駆動、用途別チップ、モデルとハードの共設計を組織の標準に近づけるほど、同じモデルやツールを使っても成果の安定度が変わる。
脳とGPUの比較は、未来の勝者を一言で決めるための話ではない。AIが社会に広がるほど、効率が事業の中心制約になるという警告である。
関連記事
この記事の著者
中村 知良
代表取締役
早稲田大学卒業後、ソフトバンク株式会社にてAI活用やCEO直下案件のプロジェクトマネージャーに従事。その後、不動産スタートアップPit in株式会社の創業、他スタートアップでの業務改善・データ活用を経験後、2023年10月、株式会社ネクサフローを創業し代表取締役CEO就任。
