AIの処理には従来のCPUではなく、本来はグラフィックエンジンであったGPUが適している事が判った事で、NVIDIAのGPUが一強状態となっている。
ところが、Googleの開発したTPUは更にAIに特化したプロセッサとして注目されている。
一言でいうと、「何でもこなす万能型」のCPU、「単純作業を大量にこなす物量型」のGPU、そして「AI(機械学習)のためだけに生まれた特化型」のTPUというイメージだ。
それぞれの特徴を一覧表にまとめる。


では、それぞれの役割を詳しく解説すると
1. CPU (Central Processing Unit)
CPUは「指揮官」であり、OSを動かしたり、ブラウザを開いたり、Excelの計算をしたりと、PCで行うあらゆる作業の指示を出す。
• 強み:1つ1つの処理が非常に速く、複雑な命令を順番にこなすのが得意。
• 弱み:数十万個のデータを一斉に計算するような「数の暴力」には向かない。
2. GPU (Graphics Processing Unit)
GPUは「大量の単純作業員」で、もともとは3Dゲームの映像を出すためのものであったが、その「単純な計算を数千個同時に行う」能力が、AIの計算に転用された。
• 強み:並列処理。一度に大量のデータを処理できるため、動画編集やディープラーニングに適している。
• 弱み:複雑なロジックや、前の計算結果を待ってから次の計算をするような処理は苦手。
3. TPU (Tensor Processing Unit)
TPUはGoogleが開発した「AI専用の秘密兵器」で、AIの計算(行列演算)を効率よく行うためだけに設計されており、不要な機能をすべて削ぎ落としている。
• 強み:深層学習における「学習」と「推論」の圧倒的なスピード。電力効率も非常に良い。
• 弱み:Google Cloud(GCP)経由での利用が主で、汎用性はあり無い。
生成AIを使ってみると、その恐るべき処理速度に驚くが、あの性能は一体どのようなハードウェアにより達成しているのだろうか。下の写真は生成AIの処理をするプロセッサだが、いや、その規模に圧倒される。

現在、各団体、企業が猛烈な勢いでAIデーターセンタを建設しているが、その巨大な建屋や膨大な電力供給のための発電インフラなど、従来に無い新たなハードウェアが必要となっている。