Google TPU 8tx/8i Maxとは？
Googleは2026年11月9日、第8世代TPUの新構成としてTPU 8txとTPU 8i Maxを発表しました。要点は、新しいチップ名の追加ではなく、既存世代を用途別のシステムとして再構成したことです。TPU 8txは機密データを扱う推論と小規模学習、TPU 8i Maxは巨大なコンテキストを扱うエージェント処理に寄せています。生成AI基盤を検討する企業にとっては、GPUかTPUかという単純比較より、機密性・長文コンテキスト・運用自動化の3点を見直す発表です。
公式発表では、Googleの第8世代TPUは8t、8i、8tx、8i Maxの4構成になりました。8tは大規模学習、8iは低遅延推論、8txはconfidential inference、8i Maxはmassive context windowsを担当します。つまり、社内AIエージェントを本番運用する際に、学習・推論・機密処理・長文処理を同じ世代の設計思想で分けて考えやすくなります。
変更点1：TPU 8txは機密推論をハードウェア層で扱う
TPU 8txの中心は、規制産業や政府機関が求める機密推論です。通常、データは保存時と転送時には暗号化されますが、計算中はメモリ上で復号されます。Googleは8txについて、同じTPU 8t系のシリコンに第5世代AMD EPYC CPUホストを組み合わせ、使用中の機密データとモデル重みを保護・分離する構成だと説明しています。金融、医療、製造業の社内文書をAIエージェントに渡す場合、この「計算中の保護」を評価項目に入れる必要があります。
また、8txはBoardflyネットワークを採用し、TPU 8tと比べて最大2倍低いレイテンシをうたっています。秘密情報を別クラスタへ移してfine-tuningし、別環境で推論する運用は、データ移動・権限・監査ログの複雑さを増やします。8txは、private dataを使ったfine-tuning、蒸留、強化学習、secure agent executionを1つのシステムで扱う選択肢として見るのが実務的です。
変更点2：TPU 8i Maxは巨大コンテキストのメモリ壁に寄せた構成
TPU 8i Maxは、2つの低遅延TPU 8iチップを単一パッケージにまとめた構成です。Googleは、TPU 8iと比べてcompute、SRAM、HBM bandwidthをそれぞれ2倍にしたと説明しています。長いコードベース、数時間の動画、複数エージェントの同時作業では、モデルそのものの演算性能より、KV cacheや重みの移動、メモリ帯域が先に詰まります。8i Maxはこのボトルネックに対するシステム側の回答です。
導入判断では、単に「より大きなモデルを速く動かす」では不十分です。million-token級のコンテキストを扱う必要があるか、長文RAGでTime to First Tokenが業務上の問題になっているか、エージェントが複数ツールを呼びながら長時間状態を保持するかを確認します。ここが弱い場合、8i Maxの価値より、アプリ設計や検索分割の改善が先になります。
導入前に見る5項目チェック
1つ目は、対象ワークロードの分類です。大規模pre-trainingなら8t、低遅延推論なら8i、機密推論なら8tx、巨大コンテキストなら8i Maxという役割分担で整理します。2つ目はデータ分類です。個人情報、契約情報、ソースコード、顧客データを推論中にどう保護するかを、保存時暗号化だけでなく処理中の分離まで含めて確認します。
3つ目は、レイテンシと費用の測定です。Googleは8iについて前世代比80%高い推論価格性能、8tについて最大2.7倍の学習性能を示していますが、自社のプロンプト長・同時実行数・ツール呼び出し待ち時間では結果が変わります。4つ目はPyTorch資産の移行負荷です。TorchTPUによりPyTorchコードやHugging FaceモデルがTPUで動きやすくなったとはいえ、kernel最適化と監視はPoCで確認すべきです。
5つ目は、運用自動化です。GoogleはTPU agent suite、XLA Serving Engine、Agent Compute Engine、TPU Sync、Cloud Pathways、GKE dynamic slicingも併せて説明しています。特にAgent Compute Engineは、エージェントが外部ツールや人間の確認を待つ間にidle sessionをsuspend/resumeする発想です。AI基盤の費用は推論時間だけでなく、待機・再開・監査まで含めて見る必要があります。
比較表：8txと8i Maxは何が違う？
TPU 8txは、規制業界で機密データを扱うAIエージェントに向いています。評価軸はconfidential compute、データ移動の削減、fine-tuningと推論の統合、監査証跡です。一方、TPU 8i Maxは、長大な文脈を使うコードレビュー、動画解析、複数エージェントの協調作業に向いています。評価軸はHBM bandwidth、SRAM、TTFT、長文コンテキストの安定性です。どちらも「速いTPU」ではなく、セキュリティかコンテキストかという運用課題から選ぶのがよいです。
30日PoCの進め方
最初の1週間は、対象業務を3つに絞ります。例として、機密契約書の要約、社内コードベース全体の調査、顧客対応エージェントの長時間セッションです。2週目は、既存GPU構成または現行クラウド推論との比較指標を決めます。最低限、p95 latency、TTFT、1リクエストあたり費用、監査ログ取得可否、データ移動回数を記録します。
3週目は、実データに近いが本番個人情報を含まない評価セットで10〜20件を流します。4週目は、8txなら秘密情報の取り扱い設計、8i Maxならコンテキスト長と分割戦略をレビューし、採用・保留・設計見直しの3択で判断します。GPUからTPUへ移すこと自体を目的にせず、レイテンシ、機密性、運用コストのどれが改善したかを残すことが大切です。
FAQ
Q. すぐにGPUからTPUへ移行すべきですか？ A. いいえ。既存のGPU基盤で十分なレイテンシと費用が出ているなら、まずは長文コンテキスト、機密推論、待機時間の多いエージェント運用のどこに課題があるかを確認します。課題が明確な場合にPoC候補になります。
Q. 8txと8i Maxは日本企業にも関係しますか？ A. 関係します。金融、医療、製造、公共領域では、AIエージェントに渡す社内データの扱いが導入の壁になります。また、社内ナレッジやコードベースを横断するAIでは、長文コンテキストとメモリ帯域がUXに直結します。
