4. AIサーバの基本構造

AIサーバは一般的に次の5つの要素から構成される。

 

4-1 CPU（中央演算装置）

CPUはサーバの司令塔であり、システム全体の制御を行う。AI計算の主役はGPUであるが、データの前処理やシステム管理はCPUが担当する。

最新のAIサーバでは、1台のサーバに2個以上の高性能CPUが搭載されることが多い。

 

4-2 GPU（AI計算エンジン）

AIサーバの中核となるのがGPUである。GPUは数千個の演算コアを持ち、大量のデータを同時に処理できる。ディープラーニングの計算では膨大な行列計算が行われるが、GPUはこれを高速に処理できる。

AIサーバでは1台に4〜8個、多い場合はそれ以上のGPUが搭載されることもある。

 

4-3 メモリ

AIモデルは非常に巨大であり、数十GBから数百GBのメモリを必要とする場合もある。そのためAIサーバには大容量メモリが搭載される。特にGPUには専用の高速メモリ（HBMなど）が使われており、AI計算の高速化に重要な役割を果たす。

 

4-4 高速ネットワーク

AIの学習では、複数のサーバを接続して巨大な計算システムを構築することが多い。このためAIサーバには高速ネットワークが必要となる。代表的な技術としてInfiniBand、400G Ethernet、NVLinkなどがある。

これらの高速通信により、数百台のAIサーバを一つの巨大コンピュータのように動作させることが可能になる。

 

4-5 ストレージ

AIの学習には膨大なデータが必要となる。画像AIでは数百万枚の画像、言語AIでは数兆語のテキストが使われる。そのためAIサーバにはNVMe SSD、分散ストレージ、オブジェクトストレージなどの高速データ保存装置が接続される（表3参照）。

 

5. AIラックサーバの構成

AIラックサーバの標準構成は表4の通りである。

 

6.AIサーバの役割

AIサーバには大きく2つの用途がある。

 

6-1 AIの学習（Training）

AIの学習とは、大量のデータを使ってニューラルネットワークのパラメータを最適化する作業である。

この処理には膨大な計算が必要であり、大規模AIでは数千個のGPUを使う場合もある。

例えば大規模言語モデル（LLM）の学習には数週間、数百万ドルの計算コストがかかることもある。

 

6-2 AIの推論（Inference）

推論とは、学習済みのAIモデルを使って実際のサービスを提供する処理である。ChatGPTの回答生成、自動翻訳、画像認識、音声認識などが推論である。

推論は学習より計算量は少ないが、大量のユーザーに対応する必要があるため、やはりAIサーバが必要となる。

 

7. AIサーバを支えるデータセンタ

AIサーバは通常、データセンタ内で運用される。しかしAIサーバは従来のサーバよりも消費電力が大きい。GPUサーバは1台あたり1,000W以上の電力を消費することもあり、従来のCPUサーバよりも大幅に電力需要が増加する。そのためAIデータセンタでは大容量電源、高性能冷却、液冷システムなどの設備が重要となる。多くの企業で活用が急速に拡大しているAI・機械学習に関して、推進の妨げの1つとなっている「高性能サーバの消費電力問題」である。

近年ではAI向けデータセンタの建設が世界中で進んでおり、巨大な産業となりつつある。

 

8. AIサーバ市場の拡大

生成AIの急速な普及により、AIサーバ市場は急成長している。AIサービスを提供する企業は大規模GPUクラスタ、AI専用スーパーコンピュータを構築している。

例えば、Google、Microsoft、Amazon、Metaなどの企業は、数万個規模のGPUを持つAIデータセンタを運用している。

またサーバメーカーでは、GPUサーバ、AI専用ラックなどの需要が急増しており、AIサーバはIT産業の中心分野となりつつある。

 

9. AIサーバの現地見学可能な主な場所

日本ではAIサーバを実際に見学できる公開施設は限定的であるが、データセンタ事業者のツアーやイベントでGPU搭載AIラックサーバを間近で観察することが可能である。

 

1. IDCフロンティア（東京府中データセンタ）

GPU/AI専用高負荷ラック（15-20kVA）を備え、過去にAI開発者向け見学ツアーを開催。電力設備から稼働GPUサーバまで体感可能。企業・研究者向けに随時受付。

 

2. NTTデータ 三鷹データセンタEAST（東京都三鷹市）

一般公開レビューがあるデータセンタ。サーバルームが稼働中で、AI対応ラックを確認することが可能で、この施設は24時間稼働している。

 

以上、AIサーバについて、AIについての略史を紹介ながらAIサーバの概要を紹介した。参考になれば幸いである。

• 1
• 2