AIの学習に必要な性能と型番の選び方

AIの学習とは、たくさんのデータをAIに読ませて、答えを出す仕組みを少しずつ調整していく作業です。とても多くの計算をくり返すため、計算が得意なGPU（画像処理用として生まれた、たくさんの計算を同時にこなす部品）が主に使われます。 必要な性能の考え方として、まず大切なのはGPUのメモリ（VRAM）の大きさです。学習では、AIの中身（パラメータ）に加えて、調整のための途中の値も置く必要があるため、同じAIを動かすだけ（推論）の場合より、ずっと多くのメモリが必要になります。大きなAIを学習するときは、1台のGPUでは足りず、何台ものGPUを高速な線（NVIDIAのNVLinkなど）でつないで使います。データセンター向けのH100、H200、B200や、AMDのInstinct MI300シリーズなどが代表です。小さなAIの試作や、学習済みのAIを少しだけ追加で学習させる（ファインチューニング）なら、VRAMの多いワークステーション向けGPUや、GeForceの上位モデルが使われることもあります。 選ぶときの注意として、AI用のソフトはNVIDIAの仕組み（CUDA）向けが多いので、AMDなど他社のGPUを使う場合は、ソフトが対応しているかを先に確認しましょう。また、データセンター向けGPUは、電力や冷却の設備、対応サーバーが必要です。高性能なAI向け半導体は輸出規制の対象になる場合もあります。 新品が手に入らないときは、ひとつ前の世代（A100など）の中古やリース品を検討する、クラウド（インターネット越しに借りる計算機）で必要な時間だけ借りる、といった方法があります。