AIは「速さ」だけでは成長できない――省電力・高速情報処理を支える半導体技術の現在と未来
生成AIの性能は、急速に向上しています。
しかし、AIを動かすデータセンターでは、電力不足、発熱、通信速度、建設費などが深刻な問題になりつつあります。いくら高性能な半導体を開発しても、必要な電力を確保できず、熱を逃がせなければ実際には使えません。
そこで重要になっているのが「省電力・高速情報処理」です。
この記事では、AI半導体、高速メモリ、チップレット、光通信、液冷、エッジAI、脳型コンピューターなどの技術を解説します。
目次
-
なぜ省電力・高速情報処理が必要なのか
-
コンピューターはどこで電力を使うのか
-
「高速」と「省電力」はどう評価するのか
-
AIアクセラレーターとは何か
-
GPUだけではないAI半導体競争
-
最大の問題は「データの移動」
-
HBMがAIの性能を左右する
-
チップレットと3次元実装
-
半導体の裏側から電気を供給する
-
電気配線を光に変える光インターコネクト
-
空冷から液冷へ変わるデータセンター
-
エッジAIが電力と通信量を減らす
-
インメモリコンピューティング
-
ニューロモルフィックコンピューティング
-
ソフトウェアによる省電力化
-
日本企業の強みはどこにあるのか
-
技術ロードマップ
-
今後の課題
-
まとめ
なぜ省電力・高速情報処理が必要なのか
生成AIは、大量の計算を必要とします。
AIモデルが大きくなると、必要になる半導体、メモリ、通信設備、電力、冷却設備も増えていきます。
国際エネルギー機関（IEA）によると、世界のデータセンターは2024年に約415TWhの電力を消費しました。これは世界の電力消費量の約1.5％です。
IEAは、データセンターの電力消費量が2030年には約945TWhまで増える可能性があると予測しています。IEA「Energy and AI」
これは単に「電気代が高くなる」という問題ではありません。
-
発電所や送電網の整備が間に合わない
-
データセンターを建設できる場所が限られる
-
半導体の発熱量が冷却能力を超える
-
AIサービスの利用料金が上がる
-
二酸化炭素排出量が増える
-
電力設備や半導体の供給網が不安定になる
そのため、これからのコンピューターには「1秒間にどれだけ計算できるか」だけでなく、「1ワットの電力でどれだけ計算できるか」が求められます。
コンピューターはどこで電力を使うのか
コンピューターの電力消費は、計算部分だけで決まるわけではありません。
大きく分けると、次の場所で電力が使われます。
演算
CPU、GPU、AIアクセラレーターなどが計算するときに電力を使います。
メモリ
計算に必要なデータやAIモデルを一時的に保存します。
AIモデルが大きくなるほど、メモリ容量と読み書きの速度が重要になります。
データの移動
半導体とメモリの間、半導体同士、サーバー同士でデータを移動するためにも電力が必要です。
実は、大規模AIでは「計算そのもの」だけでなく、このデータ移動が大きな負担になります。
電源変換
発電所から送られてきた電気は、そのまま半導体では使えません。
交流から直流への変換や電圧調整を何度も行うため、その過程でも電力が失われます。
冷却
半導体から発生した熱を取り除くために、ファン、空調設備、ポンプなどを動かします。
つまり、省電力化にはチップだけでなく、メモリ、通信、電源、冷却、ソフトウェアまで含めた全体設計が必要なのです。
「高速」と「省電力」はどう評価するのか
半導体の性能を比較するときには、複数の指標を確認する必要があります。
FLOPS
1秒間に何回の浮動小数点演算ができるかを示します。
数字が大きいほど高性能ですが、計算精度や実際の利用率によって実効性能は異なります。
TOPS
1秒間に何兆回の演算ができるかを示します。
特にAI推論用の半導体で使われます。
性能／ワット
1ワットの電力でどれだけ計算できるかを示します。
省電力性能を比べるうえで重要な指標です。
性能／価格
購入費用に対して、どれだけの性能を得られるかを示します。
トークン／秒・トークン当たりコスト
生成AIが1秒間にどれだけ文章を生成できるか、また、一定量の文章を生成するのにいくらかかるかを表します。
注意したいのは、メーカーの公表値には測定条件の違いがあることです。
異なるAIモデル、精度、冷却条件、ソフトウェアを使った数値を単純に比較することはできません。
AIアクセラレーターとは何か
AIアクセラレーターとは、AIの計算に適した専用の半導体です。
一般的なCPUは、多種多様な処理に対応できます。一方、AIアクセラレーターは、行列演算などAIで繰り返し使われる計算を高速に処理します。
料理に例えると、CPUはさまざまな料理を作れる万能包丁です。
AIアクセラレーターは、特定の材料を高速に加工する専用機械に近い存在です。
代表的なものには、次の種類があります。
-
GPU
-
TPU
-
NPU
-
AI専用ASIC
-
FPGA
学習と推論の違い
AIの処理は、大きく「学習」と「推論」に分かれます。
学習は、大量のデータからAIモデルを作る処理です。非常に多くの計算が必要になります。
推論は、完成したAIモデルを使って文章、画像、予測結果などを生成する処理です。
生成AIの利用者が増えるほど、継続的に発生する推論処理の電力と費用が大きな問題になります。このため、推論専用チップの開発が活発になっています。
GPUだけではないAI半導体競争
AI半導体ではNVIDIAのGPUが大きな存在感を持っていますが、競争はGPUだけではありません。
Google、Microsoft、Amazonなどのクラウド企業は、自社サービスに合わせた専用チップを開発しています。
NVIDIA Rubin
NVIDIAは2026年1月、Rubinプラットフォームを発表しました。
RubinはGPU単体ではなく、CPU、GPU、ネットワークスイッチ、DPUなどを組み合わせたAI基盤です。同社は、従来世代からのコスト削減や光通信による電力効率向上を掲げています。NVIDIA公式発表
Google Ironwood
GoogleのIronwoodは、第7世代のTPUです。
推論処理を重視して設計され、Googleによると、2018年の初期Cloud TPUと比べて電力効率が約30倍になっています。
高速メモリの容量や帯域も拡大しており、計算だけでなくデータ供給能力を高めています。Google「Ironwood」
Microsoft Maia 200
Microsoftは2026年1月、AI推論向けのMaia 200を発表しました。
Maia 200にはHBM3Eと大容量のオンチップメモリが搭載され、チップ、ネットワーク、ソフトウェア、液冷設備を一体として設計しています。Microsoft「Maia 200」
この動きから分かるのは、AI半導体の競争軸が「チップの最高性能」から「サービス全体の費用と電力効率」へ移っていることです。
最大の問題は「データの移動」
従来のコンピューターでは、計算する場所とデータを保存する場所が分かれています。
CPUやGPUが計算するたびに、メモリからデータを読み出し、計算結果を再びメモリへ戻します。
この方式を、荷物を加工する工場に例えてみます。
-
演算装置：加工工場
-
メモリ：倉庫
-
配線：工場と倉庫を結ぶ道路
工場の加工速度だけを上げても、道路が混雑して材料が届かなければ生産量は増えません。
これが「メモリの壁」や「フォン・ノイマン・ボトルネック」と呼ばれる問題です。
AIモデルが巨大になるほど、計算能力よりもデータを供給する速度が不足しやすくなります。
したがって、今後の省電力化では「計算回数を減らす」だけでなく、「データを動かす距離と回数を減らす」ことが重要になります。
HBMがAIの性能を左右する
HBMは「High Bandwidth Memory」の略です。
複数のメモリチップを縦に積み重ね、GPUなどの近くに配置することで、大量のデータを高速に送ります。
一般的なメモリを平屋の倉庫とすると、HBMは工場のすぐ隣に建てられた高層自動倉庫のようなものです。
HBMには次の利点があります。
-
一度に大量のデータを送れる
-
GPUとの距離が短い
-
配線を増やせる
-
データ転送当たりの電力を抑えやすい
SK hynixは、HBM4で入出力端子を前世代の1,024本から2,048本へ増やし、同社比較で電力効率を40％以上改善したと発表しています。SK hynix公式発表
一方で、HBMは製造が難しく、価格も高くなります。
メモリチップを積み重ねる工程、接合技術、放熱、検査、歩留まりなどが供給量を左右します。
そのため、AI半導体の競争はGPUメーカーだけでなく、メモリメーカー、製造装置メーカー、検査装置メーカーにも広がっています。
チップレットと3次元実装
半導体の微細化が難しくなるなかで注目されているのが、チップレットです。
チップレットは、巨大な半導体を一枚で作るのではなく、機能ごとに分けた小さな半導体を組み合わせる技術です。
例えば、次のように分割できます。
-
CPU部分
-
AI演算部分
-
通信部分
-
入出力部分
-
メモリ部分
一軒の巨大な建物を作る代わりに、専門的な建物を近くに配置し、連絡通路で結ぶイメージです。
チップレットの利点
-
機能ごとに適した製造技術を選べる
-
巨大チップより製造不良の影響を抑えやすい
-
製品の種類を増やしやすい
-
開発済みの部品を再利用できる
-
メモリを演算装置の近くに置ける
ただし、チップレット同士の通信では、接続規格、遅延、消費電力、発熱、検査方法などが課題になります。
さらに、チップを横に並べるだけでなく、縦方向に積み重ねる3次元実装も進んでいます。
配線を短くできる反面、中央にあるチップの熱を逃がしにくくなるため、冷却技術との一体開発が必要です。
半導体の裏側から電気を供給する
半導体には、計算に使う信号線と、電気を供給する電源線があります。
従来は、どちらも主に半導体の表側に配置されていました。回路が細かくなるにつれて配線が混雑し、電力を効率的に届けることが難しくなっています。
そこで登場したのが、バックサイド電源供給です。
電気を半導体の裏側から供給することで、表側を信号線に多く使えるようにします。
期待される効果は次のとおりです。
-
電源配線を短くできる
-
電圧降下を抑えられる
-
信号線の混雑を減らせる
-
性能と電力効率を改善できる
TSMCのA16技術は、ナノシート型トランジスタとバックサイド電源供給を組み合わせます。同社はN2Pとの比較で、同一速度なら15～20％の電力削減を目標としており、2026年に生産可能な状態を目指しています。TSMC「HPC Platform」
なお、これはTSMCが示した設計目標であり、実際の改善率は製品設計や利用条件によって変わります。
電気配線を光に変える光インターコネクト
AI半導体を大量に並べると、半導体同士やサーバー同士で膨大なデータをやり取りする必要があります。
従来の電気配線では、通信距離と速度が上がるほど信号が弱くなり、電力消費や発熱が増えます。
そこで、電気信号を光信号へ変換してデータを送る「光インターコネクト」が注目されています。
光通信の利点
-
大量のデータを送れる
-
長い距離でも信号が劣化しにくい
-
高速化しても電力増加を抑えやすい
-
電磁ノイズの影響を受けにくい
さらに、光通信部品を演算用半導体の近くに置くCPO、すなわち「Co-Packaged Optics」の開発も進んでいます。
道路に例えると、離れた場所にあった高速道路の入口を、工場のすぐ横へ移すようなものです。
OIFでは、AI向けの低電力・低遅延接続を含むEnergy Efficient InterfacesやCPOの標準化が進められています。OIF「Implementation Agreements」
ただし、光部品を半導体の近くに置くと、熱の影響、修理方法、光源の寿命、製造コストなどが新たな課題になります。
空冷から液冷へ変わるデータセンター
従来のサーバーは、主にファンで空気を送り、熱を逃がしていました。
しかし、AI用GPUを大量に搭載したサーバーでは発熱密度が高く、空気だけで十分に冷却することが難しくなっています。
そこで、冷却液を使って熱を運ぶ液冷が広がっています。
ダイレクト・トゥ・チップ方式
CPUやGPUに冷却板を取り付け、冷却液を流します。
液浸冷却
サーバーそのものを、電気を通しにくい液体へ浸します。
液体は空気より効率的に熱を運べるため、ファンや空調の電力を減らせる可能性があります。
ただし、液冷には次の課題もあります。
-
配管やポンプの設置が必要
-
液漏れ対策が必要
-
既存設備の改修が難しい
-
保守方法が従来と異なる
-
冷却液の環境負荷を確認する必要がある
したがって、液冷は冷却装置だけの問題ではなく、建物、電源、ラック、サーバー、半導体を一体として設計する必要があります。
PUEでデータセンターの効率を測る
データセンターの省エネ性能を表す代表的な指標がPUEです。
計算式は次のとおりです。
PUE ＝ データセンター全体の電力 ÷ IT機器の電力
例えば、サーバーなどのIT機器が100の電力を使い、冷却や照明などを含む施設全体が150の電力を使った場合、PUEは1.5です。
理論上の最低値は1.0で、1.0に近いほど施設効率が高いことになります。
日本では、データセンター事業者に対して2030年度までに平均PUEを1.4以下にする目標が設定されています。
さらに、2029年度以降に新設される一定のデータセンターについては、稼働後の所定時期からPUE1.3以下を求める制度が導入されました。資源エネルギー庁「データセンターの省エネ制度」
ただし、PUEだけではIT機器自体の計算効率を評価できません。
PUEが低くても、非効率なサーバーを大量に動かしていれば、全体の電力消費は増えます。
今後は、次の指標を組み合わせて見る必要があります。
-
PUE
-
計算性能／ワット
-
生成トークン／電力量
-
サーバーの稼働率
-
再生可能エネルギーの利用率
-
水使用量
-
計算結果一件当たりの二酸化炭素排出量
エッジAIが電力と通信量を減らす
現在のAIサービスの多くは、端末からデータをクラウドへ送り、データセンターで処理しています。
これに対してエッジAIは、スマートフォン、カメラ、自動車、ロボット、工場設備など、データが発生する場所の近くでAI処理を行います。
エッジAIの利点
-
クラウドへ送るデータ量を減らせる
-
通信が切れても処理を続けられる
-
反応時間を短くできる
-
個人情報を端末内に残しやすい
-
データセンター側の負担を減らせる
例えば、監視カメラの映像をすべてクラウドへ送るのではなく、カメラ側で異常を検知し、必要な場面だけを送信できます。
ただし、エッジ機器は電池容量、価格、サイズ、発熱に厳しい制限があります。
そのため、高性能なGPUをそのまま小型化するのではなく、必要なAI処理だけに特化したNPUや低消費電力マイコンが重要になります。
インメモリコンピューティング
インメモリコンピューティングは、データを保存するメモリの内部、または非常に近い場所で計算を行う技術です。
従来方式では、演算装置とメモリの間をデータが何度も往復します。
インメモリ方式では、この往復を減らせるため、消費電力と処理時間を削減できる可能性があります。
特に、AIで多用される行列演算との相性がよいとされています。
主な課題
-
計算精度を保つことが難しい
-
製造ばらつきの影響を受ける
-
従来のソフトウェアをそのまま使えない
-
大規模なAIモデルへの対応が難しい
-
メモリの書き換え寿命や信頼性に課題がある
そのため、すぐにCPUやGPUを置き換えるというより、適した処理から利用が始まると考えられます。
ニューロモルフィックコンピューティング
ニューロモルフィックコンピューティングは、人間や動物の脳の情報処理方法を参考にした技術です。
一般的なコンピューターは、一定の時計信号に合わせて継続的に動作します。
一方、脳の神経細胞は、必要なときにだけ信号を発します。
ニューロモルフィック半導体も、変化や出来事が起きたときに処理する「イベント駆動方式」を利用します。
向いている用途
-
ロボットのセンサー処理
-
異常検知
-
音声や映像のリアルタイム認識
-
自律制御
-
組み合わせ最適化
-
常時監視が必要な省電力端末
IntelのLoihi 2を用いたHala Pointは、脳型コンピューティングの研究用システムです。Intel自身も、実用化に向けて研究を進める段階と位置づけています。Intel「Hala Point」
IBMのNorthPoleも、メモリを演算装置の近くに配置してデータ移動を減らす研究用AIチップです。IBM Research「NorthPole」
これらは有望ですが、一般的なGPUをすぐに置き換える製品ではありません。
対応できるAIモデル、開発環境、プログラミング方法などに制約があり、現時点では研究・評価段階の技術として見る必要があります。
ソフトウェアによる省電力化
省電力化というと、半導体や冷却設備に注目しがちです。
しかし、ソフトウェアの工夫でも電力を大きく減らせる可能性があります。
低精度演算
AIの計算精度を、32ビットから16ビット、8ビット、4ビットなどへ下げます。
必要な精度を維持できれば、計算量、メモリ使用量、通信量を減らせます。
量子化
学習済みAIモデルの数値表現を小さくして、軽量化します。
枝刈り
AIモデルの中で、結果への影響が小さい接続やパラメーターを削除します。
スパース化
ゼロや不要な計算を省略します。
小型モデルへの蒸留
大型モデルの知識を、小さなモデルへ移します。
適切なモデルの選択
すべての処理に最大規模のAIを使う必要はありません。
簡単な分類や定型処理に小型モデルを使い、難しい処理だけを大型モデルへ回すことで、費用と電力を抑えられます。
重要なのは「同じAIモデルを少ない電力で動かす」だけではありません。
「その処理に、本当にその大きさのAIが必要なのか」を見直すことも省電力化です。
日本企業の強みはどこにあるのか
AI用GPUの世界市場では、米国企業が大きな存在感を持っています。
しかし、省電力・高速情報処理はGPUだけで成り立つものではありません。
日本企業には、次の分野で強みを発揮できる可能性があります。
半導体材料・製造装置
微細化、3次元実装、HBMなどの高度な製造には、材料、成膜、洗浄、検査、接合装置が必要です。
検査・計測技術
チップレットや積層メモリでは、完成後に不良が見つかると損失が大きくなります。
組み立て前の検査と、接合後の品質保証が重要になります。
光通信部品
AIデータセンター内の光通信が増えれば、光ファイバー、コネクター、レーザー、光学材料などの重要性が高まります。
液冷・熱対策
ポンプ、配管、冷却液、熱交換器、温度センサー、放熱材料など、幅広い産業が関係します。
パワー半導体
SiCやGaNを使った電源装置は、電力変換時の損失を減らせる可能性があります。
国産プロセッサー
Preferred Networksは、省電力AIアクセラレーターMN-Coreシリーズを開発しています。
富士通は、データセンター向けArmプロセッサー「FUJITSU-MONAKA」を開発しており、2027年の提供を目指しています。富士通「FUJITSU-MONAKA」
日本にとって現実的なのは、すべての分野で一位を目指すことではありません。
演算、メモリ、製造、通信、電源、冷却を結ぶ「省電力システム」として競争力を作ることが重要です。
技術ロードマップ
このロードマップは、各社の計画や現在の研究開発状況を基にした見通しです。
技術の完成度、製造コスト、ソフトウェア対応、市場需要によって時期は変わる可能性があります。
今後の課題
効率化しても総電力が増える可能性
半導体が省電力になっても、AIの利用量がそれ以上に増えれば、社会全体の電力消費は増加します。
これを「リバウンド効果」と呼びます。
メーカー間で数値を比較しにくい
性能／ワットや推論コストは、AIモデル、精度、ソフトウェア、利用率などで変化します。
共通条件で比較できる評価方法が必要です。
サプライチェーンの集中
先端半導体、HBM、製造装置などは、限られた国や企業に生産が集中しています。
災害、輸出規制、国際紛争などによる供給停止リスクがあります。
水と電力の確保
データセンターでは、電力だけでなく冷却用の水も必要になる場合があります。
地域住民や他産業との調整が必要です。
新技術のソフトウェア不足
優れた半導体を開発しても、簡単に使える開発環境や対応アプリケーションがなければ普及しません。
特にインメモリやニューロモルフィックでは、ハードウェアとソフトウェアの同時開発が重要です。
古い設備をどう更新するか
新設データセンターでは最新の液冷や電源設備を導入できますが、既存施設の改修には大きな費用がかかります。
まとめ
省電力・高速情報処理の本質は、単に高性能な半導体を作ることではありません。
ポイントは次のとおりです。
-
AIの普及によってデータセンターの電力需要が増加している
-
最高速度だけでなく性能／ワットが重要になっている
-
GPUにデータを届けるHBMが性能を左右する
-
チップレットと3次元実装で配線距離を短くする
-
バックサイド電源で半導体内部の電力供給を改善する
-
光通信によってチップやサーバー間の電力消費を抑える
-
高発熱化に対応するため液冷が広がる
-
エッジAIによって通信量とクラウド処理を減らす
-
インメモリや脳型計算でデータ移動そのものを減らす
-
ソフトウェアによる軽量化も欠かせない
今後の競争は「世界で最も速いチップを持っているか」だけでは決まりません。
限られた電力、限られた空間、限られた費用で、どれだけ多くの有用な計算を実行できるかが重要になります。
AI時代の本当の競争力とは、「計算能力」ではなく「計算を持続可能にする能力」なのです。
主な出典・参考資料
※企業が公表する性能・電力効率は、それぞれ測定条件が異なります。また、将来の製品化・量産時期は変更される可能性があります。
KJ Blog 
コメントを残す