NVIDIAがAIチップベンチャーのGroqを買収しました。Groqは元Google初代TPU（Google開発の機械学習に特化したプロセッサ）設計者が率いる企業で、14nmプロセスながらNVIDIAのGPU（パソコンやデバイスの画像・映像描画を高速化する専用プロセッサ）を大きく上回る推論スピードを実現していました。GPUとは大きく異なるアーキテクチャを持つ企業の買収は驚きでしたが、GoogleのTPUという強力なライバルへの対抗策として納得の選択でもあります。メルマガ『週刊 Life is beautiful』の著者で著名エンジニア・投資家の中島聡さんが、この買収の戦略的意義と将来性を詳しく解説しています。
※本記事のタイトル・見出しはMAG2NEWS編集部によるものです
プロフィール：中島聡（なかじま・さとし）
ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。
NVIDIAによるGroqの買収
先週、質問コーナーで触れたNVIDIAのGroqの買収について深掘りしたいと思います。
このメルマガでは何度も指摘して来ましたが、NVIDIAの強さはNVIDIAのGPUに最適化された開発環境CUDAにあり、その上に作られたライブラリ、および、その開発環境に慣れた開発者・研究者コミュニティにあります。
そのため、自分で新たなニューラルネットを設計する研究者たちにとっては、NVIDIAのGPUがデファクト・スタンダードであり、それ以外の選択肢を選ぶ理由はありません。
結果として、ニューラルネットの学習プロセスにおけるNVIDIAの強さは圧倒的です。学習プロセスにおけるライバルとしては、GoogleのTPU（Google自身が活用）とAmazonのTrainium（Anthropicが活用）がありますが、99%の学習がNVIDIA上で行われていると考えて間違いはありません。
しかし、推論プロセスに関しては必ずしもNVIDIAの独占状態とは言えません。TeslaやGoogleは独自のチップを活用しているし、AMDも徐々にシェアを増やしています。
推論特化のAIチップベンチャー
そんな中で、誕生したのが、主に推論用に最適化されたAIチップを提供する、AIチップベンチャーです。
今回、NVIDIAに買収されたGroqを筆頭に、Cerebras、SambaNova Systems、Tenstorrentなどがありますが、どこにも共通するのは、ニューラルネットの推論プロセスに特化させることにより、汎用のGPUよりも、早くて消費電力が少ないことを目指しています。
その中で、Groqは、元Googleで初代TPUを設計した人が率いるAIベンチャーで、枯れた技術である14nmプロセスで作ったにも関わらず、NVIDIAのGPUを大きく上回るトークンのスピードを誇るチップ(LPU: Language Processing Unit)を作り、実際にウェブ上のサービスとして誰もが体験できるようにした点で際立っていました。
Groqは、各チップに、速度が遅くて大容量DRAMを置くのではなく、容量が小さいけれど高速なSRAMを置くことにより、個々の行列計算のスピードを上げただけでなく、コンパイル時にどのチップでどの計算をするかを決めてしまうことにより、制御用の回路を排除することにより、計算資源のダイナミックな割り当てなどの複雑な制御が必要なGPUと比較して高速に計算を行うことを可能にしました。
1チップあたりのSRAMは230MBと、数十GBを搭載するGPUと比べると桁違いに小さいため、大きなパラメータ数をもつニューラルネットの処理には、数百個のLPUが必要ですが、複数の推論プロセスをパイプラインとして流せるため、ウェブ上のAPIサービスとして提供する際には問題はありません。
NVIDIAのGPUとは大きく異なるアーキテクチャですが、決まったニューラルネットの推論を繰り返し処理するには適したアプローチです。実際に推論のスピードを体験できることもあり、私は高く評価しており、NVIDIAから（サーバー側での）推論の市場を奪うポテンシャルを持つAIベンチャーだと見ていました。
しかし、資金力・ブランド力に欠けるベンチャーが、実際の市場で存在感を出すのは非常に難しく、Groqも初速は良かったものの、その後、実際の推論市場でシェアを確保することはできていませんでした。AIサービス市場が、OpenAI、Google、Anthropicなどの数社による寡占状態で推移する中、どこか大手に採用されない限りは、大きなシェアを持つことは不可能だったとも言えます。
この記事の著者・中島聡さんのメルマガ
ページ: 1 2