生成AIの行列計算とGPUの
不足
（半導体価格の高騰）

by
  • 生成AIの学習と推論は行列同士のかけ算の繰り返しで、GPUはこの同時並列処理に向いています。
  • 高騰しているのは半導体全体ではなく、GPU本体とHBM、先端パッケージという周辺技術に需給逼迫が集中しています。
  • NVIDIAは一部の供給で納期が12カ月を超えると開示していて、割増料金や前払い、長期契約が調達コストを押し上げています。
  • 企業側の対応は調達量の確保だけでなく、推論最適化や小型モデル活用による効率化との両立が求められます。

関連記事

1. GPUが行列計算を並列で回す仕組み

最近、生成AIの学習コストやGPU価格上昇のニュースをよく見かけます。 なぜGPUがそこまで必要なのか、行列計算の中身まで遡って調べてみました。

入力と重みを行列にする。 単語や画像、数値をXという入力行列にまとめ、重みをWという行列にする。 この二つをかけ合わせることで、出力Yが得られます。 ここまでは、ただのかけ算と足し算の組み合わせにすぎません。

ただ、GPU（Graphics Processing Unit：画像処理を起源とする高速演算装置）が効くのは、この計算を同時並列でこなせる点です。 掛け算と足し算を大量に一気に実行する。 CPUが一つずつ順番に処理するのに対し、GPUは同じ型の計算を何千と並べて一気に流せます。

学習は、出力を求めて終わりではありません。 出力と正解の誤差を求め、勾配を計算し、重みWを更新する。 予測、誤差計算、更新という同じ型の計算を繰り返しながら、Wをじわじわ書き換えていきます。 この繰り返し自体もまた行列計算で、GPUの得意分野からはみ出すことがありません。

2. 高騰しているのは半導体全体ではなくGPU周辺

では、半導体はどこもかしこも値上がりしているのでしょうか。 NVIDIAの2026年度データセンター売上高は前年比68％増となり、TSMCもAIアクセラレータ関連売上について2024年から2029年にかけて年平均50%台半ばから後半の成長を見込んでいます12。 数字を見る限り、AI計算需要は一時的な流行ではなく、中長期的な構造変化と捉えたほうがよさそうです。

ただ、逼迫しているのはGPU本体だけではありません。 GPUにはHBM（High Bandwidth Memory：大量のデータを高速転送するメモリ）が必要で、複数の半導体を一体化する先端パッケージ技術も欠かせません。

2.1. GPU、HBM、先端パッケージが連鎖する

TSMCは2026年4月時点で、先端パッケージの生産能力が非常に逼迫していると説明しています3。 Micronも、AIによるメモリ需要の増加と構造的な供給制約が価格上昇につながっていると報告しています4。 GPUという計算資源、HBMという高速メモリ、先端パッケージという実装技術。 このどれか一つが詰まれば、AIインフラ全体の供給が止まります。 半導体全体が一律に高騰しているわけではなく、この三点に需給逼迫が集中している、というのが実態に近いようです。

3. 納期12カ月、割増料金という現実

NVIDIAの開示を見ると、供給の一部では納期が12カ月を超える場合があるとされています5。 将来の生産能力を確保するため、割増料金や前払い、長期供給契約を利用している。 先に押さえておかないと後で調達できない、という状況が透けて見えます。

こうしたコストは製品原価を押し上げます。 利用企業にとっては、GPU調達費用の増加と導入時期の長期化という形で跳ね返ってきます。 発注したその日にGPUが届く時代は、しばらく戻ってこなさそうです。

4. 確保と効率化を両立させる動き

それなら、企業はGPUを大量に確保すればそれで済むのでしょうか。 調達量を確保するだけでは足りない、というのが調査結果から見えてくる結論です。

長期契約を結ぶ、代替調達先を確保する、重要案件へ優先配分する。 これは確保側の対応です。 一方で、推論処理の最適化、GPUの共同利用、小型AIモデルの活用によって、限られた計算資源から得る価値を高める効率化側の対応も同時に進める必要があります。

供給能力の増設には数年かかりますが、AI需要はそれよりずっと速く拡大しています。 確保と効率化、両方を同時に回さないと需要の伸びに追いつけない。 このギャップこそが、今のGPU高騰の実務的な着地点なのだと思います。

行列のかけ算という、数学の教科書に出てくるような計算が、GPUの奪い合いや半導体の納期にまで直結している。 そう考えると、生成AIの裏側は思ったより泥臭い。 数式の一行が、工場の生産ラインや契約書の条項にまでつながっている。 そのつながりを追いかけるのは、なかなか面白い経験でした。

  1. NVIDIAの2026会計年度（2026年1月25日期）のデータセンター部門売上高は193.7億ドルで、前年比68%増だったと発表されている。 – NVIDIA Announces Financial Results for Fourth Quarter and Fiscal 2026
  2. TSMCは2025年度第4四半期決算説明会で、AIアクセラレータ関連売上高の2024〜2029年の年平均成長率見通しを50%台半ばから後半に引き上げたと説明している。 – TSMC 4Q25 Transcript
  3. TSMCは2026年度第1四半期決算説明会で、先端パッケージの生産能力が非常に逼迫しており、OSATパートナーと協力して増強に取り組んでいると述べている。 – TSMC 1Q26 Transcript
  4. Micron CEOのサンジェイ・メロトラ氏は2026年度第3四半期決算で、AI主導の需要拡大と構造的な供給制約により、逼迫した状況が2027年以降も続く見通しだと述べている。 – Micron CEO expects memory shortages to stretch beyond 2027 as AI spending surges
  5. NVIDIAは2026会計年度の年次報告書（Form 10-K）で、一部製品の製造リードタイムが12カ月を超えて延長される場合があり、将来の供給と生産能力を確保するため割増料金の支払いや前払い、長期供給契約を行っていると開示している。 – NVIDIA Corp Form 10-K FY2026