# Groq Jonathan Ross(Google TPU の 20% プロジェクトとして TPU 開発を始めた人物)が2016年に創業した、**決定論的(deterministic)推論専用チップ** LPU(Language Processing Unit、旧称 Tensor Streaming Processor / TSP)を開発する企業。 ## アーキテクチャの要点 他のあらゆるアクセラレータが不確実性を吸収するために(キャッシュ・分岐予測器・アービタ・リオーダーバッファといった)反応的(reactive)なシリコンを積むのに対し、LPU はそれらを全て削除し、コンパイラが実行前にすべてのサイクル・すべてのバイトの配置を確定させる。コアは単一の機能スライス(命令制御・ベクトル ALU・行列ユニット・メモリ・ネットワーク)に分解され、オペランドが東西方向へストリームする。HBM を持たず、230 MB の SRAM のみで構成されるため、Llama-2 70B のようなモデルは~576チップに分割する必要がある。ゼロスキップ(疎性活用)を一切行わない — データ依存の実行時間は決定論性と両立しないため。ネットワークもコンパイル時にスケジュールされ(*scheduled, not routed*)、チップ自体がルータを兼ねるグルーレスな Dragonfly トポロジを構成する。(Source: [[AI Chip Architectures]]) [[Cerebras]] の WSE がウェーブレット到着で起動するデータフロー(到着がスケジュールそのもの)であるのに対し、Groq LPU は時計で駆動する完全決定論的スケジュール(実行前にコンパイラが正確なサイクルを計算する)を取る。ともに HBM を持たず SRAM 専用という同一の制約から出発しながら、正反対の実行モデルへ分岐した対照例である。(Source: [[AI Chip Architectures]]) ## NVIDIA との関係 2025年、NVIDIA が LPU 技術の非独占ライセンスを取得し、創業者 Jonathan Ross と開発チームの大半を採用した。NVIDIA の10-K によれば製品・顧客契約・株式の移転を伴わない非買収だが、報道では成約時点で約130億ドル規模の acquihire と呼ばれた。2026年 GTC で技術は「NVIDIA Groq 3 LPU」として再登場し、Rubin NVL72 の横に置かれるレイテンシ補助プロセッサとして、GPU が Attention を、LPU が FFN/MoE 層を担う Attention-FFN 分離構成(Dynamo がオーケストレーション)に組み込まれた。GroqCloud 自体は買収後も旧 14nm シリコン上でトークン提供サービスを継続している。(Source: [[AI Chip Architectures]]) ## 関連 - [[AI Chip Architectures]] — 本エンティティの初出ソース。NVIDIA GPU・Google TPU・AMD・Cerebras・AWS Trainium と並ぶ6アーキテクチャ比較の一角として解説 - [[Cerebras]] — 同じくSRAM専用でHBMを持たないが実行モデルが対極 - [[Google TPU]] — 創業者 Jonathan Ross の出身 - [[NVIDIA]] — 2025年のライセンス取得・チーム採用先