はじめに
GPUを増やしてもAIは速くならない
ここ数年、AIの進化はGPUの性能向上とともに加速してきました。
大規模言語モデル（LLM）の学習には数万台規模のGPUが使われ、世界中でAIデータセンターの建設が進んでいます。
「GPUを確保できる企業がAIを制する」と言われるほど、GPUはAIの象徴的存在になりました。
しかし、2030年以降を見据えると、半導体業界では別の課題が急速に存在感を増しています。
それが 「データ移動」 です。
AIは大量の計算を行う技術だと思われがちですが、実際には計算そのものよりも、 GPUとメモリのあいだでデータを行き来させる処理に多くの時間と電力が使われています。
GPUがどれほど高速になっても、必要なデータが届かなければ計算は始まりません。
演算が終われば、その結果をまたメモリへ戻す必要があります。
この「読み出す → 計算する → 書き戻す」という動作が何兆回も繰り返されることで、AIシステム全体の消費電力は増え続けています。
もちろん、この問題を緩和するためにHBM（高帯域メモリ）が登場し、GPUとの通信速度は大きく向上しました。
しかし、AIモデルの巨大化はそれ以上のペースで進んでおり、「データを運ぶ速さを上げるだけでは限界が見えてきた」 のが現状です。
そこで世界中の研究機関や半導体メーカーが注目し始めたのが、 「データをできるだけ動かさずに計算する」という新しい発想。
この考え方を形にしようとしている技術が、 CIM （Computing in Memory：メモリ内演算） です。
CIMは、データを保存しているメモリ自身が演算を担うことで、データ移動そのものを大幅に減らす技術です。
これはAIチップの設計思想そのものを変える可能性を秘めており、今後のAIインフラを支える重要な候補として期待されています。
本コラムでは、
- なぜ今CIMが注目されているのか
- AI開発の競争軸はどこへ向かうのか
- その変化が半導体製造装置や計測技術、日本企業にどのような新たな機会をもたらすのか
という視点から、2035年のAI社会を解説します。
1．AIを遅くしているのはGPUではなく「データ移動」
AIチップというと、多くの人は「GPUが高速に計算している姿」を思い浮かべるでしょう。
確かにGPUは、AIの学習や推論を支える中心的な演算装置です。
しかし、GPUがどれほど高性能になっても、実はそれだけではAIは速くなりません。
理由は、GPUは“計算したいのに、データが届くのを待っている時間”がとても長いからです。
AIの処理では、GPUは常に膨大なデータをメモリから読み出し、計算し、その結果をまたメモリへ書き戻しています。
この「読み出す → 計算する → 書き戻す」という動作が何度も繰り返されることで、AI全体の処理時間と消費電力が大きく左右されます。
このデータ転送は、AIモデルが大きくなるほど増加します。
大規模言語モデルでは、数千億〜数兆個ものパラメータを扱います。
GPUはそれらを何度も読み出して計算するため、計算よりも「データ待ち」の時間が増えることすらあります。
つまり、GPUの性能を2倍にしても、データが追いつかなければAI全体の性能は2倍にならないのです。
１－1．HBMは高速道路を造った。しかし渋滞は解消していない
この問題を緩和するために登場したのが、高帯域メモリ（HBM）です。
HBMはGPUのすぐ近くにメモリを積み重ね、広いデータ転送路を確保することで、従来のDRAMよりも圧倒的に高速な通信を実現しました。
AIブームとともにHBMが急速に重要性を増したのは、このためです。
しかしHBMはあくまで 「データをより速く運ぶ」ための技術 であり、 「データを運ばなくする」技術ではありません。
AIモデルの巨大化はHBMの進化を上回るペースで進んでいます。
高速道路は広くなりました。
しかし、その道路を走る車の台数は、それ以上の勢いで増えているのです。
結果として、データ移動は依然としてAIの性能・消費電力・発熱を制約する大きな要因となっています。
1－2．ボトルネックは「計算能力」から「データ移動」へ
半導体業界では、この状況を「メモリウォール」や「フォン・ノイマン・ボトルネック」と呼びます。
従来はGPUの演算性能を高めればAIも高速化できました。
しかし2030年に向けては、演算性能そのものよりも、
- どれだけデータを動かさずに済むか
- どれだけ効率よくデータを扱えるか
が競争力を左右する時代へ移り始めています。
これは、AIチップの設計思想が根本から変わることを意味します。
これまでの半導体開発は「より速く計算する」ことが目標でした。
これからは 「できるだけデータを動かさずに計算する」ことが新たな目標 になります。
そして、この発想を現実にしようとしているのが、 Computing in Memory （CIM） です。
2．世界は「運ばないAI」を目指し始めた
AIチップの性能向上を妨げている原因が「データ移動」であるなら、発想を変えればよい――。
今、世界中の半導体メーカーや研究機関が取り組んでいるのは、このシンプルな考え方です。
従来のコンピューターでは、データはメモリに保存され、必要になるたびにGPUへ送られます。
GPUは計算を終えると、その結果を再びメモリへ書き戻します。
つまり、演算を一回行うだけでも、データは何度も移動しているのです。
この構造は、1940年代に提案された「フォン・ノイマン型コンピューター」の基本設計に基づいています。
80年以上にわたり改良が続けられてきましたが、 「メモリ」と「演算装置が分かれている」という前提は変わっていません。
「データを運ぶことが問題なら、そもそも運ばなければいいのでは？」
この発想から生まれたのが、 Computing in Memory （CIM） です。
2－1．「演算するメモリ」という発想
CIMを一言で表すなら、 「メモリが保存装置だけでなく、演算装置も兼ねる」 ということです。
もちろん、GPUが不要になるわけではありません。
GPUが得意とする大規模な並列演算や制御処理は今後も重要です。
しかし、AIで最も頻繁に使われる積和演算（MAC演算）などをメモリの近くで実行できれば、 GPUとの間でデータを何度も往復させる必要がなくなります。
つまり、CIMの本質は 「データを動かさない」 という発想にあります。
新しいメモリを作ること自体が目的ではなく、 コンピューターの設計思想そのものを変えようとしている点が重要 なのです。
2－2．ReRAMやMRAMは「目的」ではなく「手段」
CIMを紹介する記事では、ReRAMやMRAMの仕組みを詳しく説明するものが多く見られます。
もちろん、それらは重要な技術です。
- ReRAMは抵抗値の変化を利用して情報を保持する
- MRAMは磁気の状態を利用して情報を保持する
- どちらも電源を切ってもデータが消えない「不揮発性メモリ」である
こうした特徴から、CIMを実現する有力候補と考えられています。
しかし、本当に重要なのは技術名そのものではありません。
注目すべきなのは、
- ReRAMが勝つのか
- MRAMが勝つのか
ではなく、「AI業界全体が、データを動かさないアーキテクチャへ向かい始めた」という大きな流れ です。
今後はReRAMだけでなく、MRAM、PCM、FeRAMなど、複数のメモリ技術が用途に応じて使い分けられる可能性があります。
重要なのは、どの方式であっても 目指す方向は共通している ということです。
2－3．AIチップの競争軸は変わり始めている
これまでAI半導体の競争は、「何TFLOPSの演算性能を実現できるか」が大きな指標でした。
しかし2035年に向けては、それだけでは十分ではありません。
今後は、
- データをどれだけ短い距離で処理できるか
- どれだけ少ない電力で演算できるか
- 発熱をどこまで抑えられるか
といった指標が、AIチップの価値を左右するようになります。
つまり、競争の軸は 「速く計算するAI」から「データを動かさないAI」へ 移り始めています。
そして、この変化はAIチップだけにとどまりません。
3．CIMが変えるのはAIチップではなく半導体産業全体
CIMは「新しいメモリ技術」として語られることが多いですが、半導体メーカーの視点で見ると、本当のインパクトはAIチップそのものではありません。
むしろ、その製造方法や必要となる装置・材料・計測技術が大きく変わるという点にあります。
GPUが進化する場合は、新しいGPUを設計すればいいのですが、CIMが本格的に普及するとなれば、メモリセルが演算にも関わるため、製造プロセス全体の精度を一段と高める必要があります。
製造装置、計測機器、材料メーカーまで含めたサプライチェーン全体が変化する可能性があるのです。
3－1．これまで以上に「ばらつき」が許されなくなる
CIMでは、メモリセルそのものが演算に使われます。
そのため、従来以上に素子特性の均一性が重要になります。
たとえば、メモリセルの抵抗値が設計どおりに形成されなければ、演算結果に誤差が生じる可能性があります。
つまり、従来のように「少し性能がばらつく」では済まされません。
メモリセル一つひとつを高い再現性で製造するためには、以下のような先端プロセスが不可欠になります。
- ALD（原子層堆積）：原子レベルで膜厚を制御する
- ALE（原子層エッチング）：微細加工の精度を極限まで高める
- CMP（化学機械研磨）：ナノメートル単位で表面を均一化する
AIチップの進化は、設計技術だけでは実現できません。
製造技術の精度向上が伴って初めて、CIMは実用化されるのです。
3－2．計測技術の重要性はさらに高まる
ここで、計測技術にも大きな変化が生まれます。
従来の半導体製造では、
- 寸法が合っているか
- 膜厚が規格内か
といった検査が中心でした。
しかしCIMでは、それだけでは不十分であり、演算に使われるメモリセルは、以下のような電気的な特性まで高精度に評価する必要があります。
- 抵抗値
- 電流特性
- 書き込み特性
- 経時変化
つまり、「形が正しい」だけでなく「電気的に正しく動く」ことまで測定する必要があるのです。
AIの性能はGPUだけでは決まりません。
半導体工場で“正しく測れること”が、AI性能を左右する時代に近づいているのです。
3－3．日本企業が活躍できる余地は大きい
AI半導体というと、多くの人はNVIDIAやAMDなどの大手メーカーを思い浮かべます。
しかし、AIチップを量産するためには、数百種類もの装置や材料、計測機器が使われています。
この分野では、日本企業が世界トップクラスの競争力を持つ領域が数多く存在します。
たとえば、
- 成膜装置
- 洗浄装置
- 熱処理装置
- プロセス計測
- ガス供給機器
- 精密バルブ
- 半導体検査装置
などは、日本企業が世界市場で高いシェアを持つ代表的な分野です。
つまり、CIMが普及した未来では、GPUメーカーだけでなく、 その製造を支える企業群の存在感が今以上に高まる可能性があります。
AI時代の競争は、「誰が最も高性能なAIチップを設計するか」だけではありません。
「誰が最も安定して量産できるか」という競争でもあるのです。
そして、その競争の土台を支える製造技術こそ、日本企業が長年培ってきた強みです。
4．AI競争の焦点は『データ移動』へ移る
4－1．AI競争は「GPU」から「データ移動」へ
AIチップの進化はこれまで、 「より多くの演算を、より高速に処理する」 ことが中心でした。
CPUからGPUへ、単一プロセッサから並列演算へ、そしてGPUとHBMを組み合わせた現在のAIアクセラレータへ。
半導体の歴史を振り返ると、その時代ごとのボトルネックを克服することで性能は飛躍的に向上してきました。
しかし2035年に向けて、そのボトルネックは再び変わろうとしています。
今、AIが直面している最大の課題は「演算能力」ではありません。
演算に必要なデータを、いかに効率よく扱うかです。
AIモデルは今後も巨大化を続け、学習データやパラメータ数はさらに増加していきます。
その中で、GPUとメモリの間をデータが何度も往復する現在の構造では、消費電力や発熱が性能向上の足かせになる可能性があります。
だからこそ世界中の半導体メーカーや研究機関は、 「データを動かさないAI」 という新しい設計思想へ舵を切り始めています。
CIMは、その代表例のひとつです。
4－2．GPUが消えるわけではない
ここで誤解してはいけないのは、CIMがGPUを不要にする技術ではないという点です。
GPUは今後もAIの中核となる演算プロセッサであり続けます。
一方でCIMは、GPUが苦手としてきた「大量のデータ移動」を減らす役割を担う可能性があります。
今後のAIチップは、
- GPU
- HBM
- CXL
- CIM
- 光インターコネクト
といった複数の技術を組み合わせ、それぞれの長所を生かす方向へ進化すると考えられます。
重要なのは、それらをどう組み合わせ、システム全体として最適化するかです。
4－3．AI時代の競争力は「量産技術」で決まる
CIMが普及すれば、新しいメモリが売れるだけではありません。
その背後では、製造プロセス全体の高度化が求められます。
- より高精度な成膜技術
- ナノレベルの微細加工
- 超高感度の検査装置
- 電気特性評価技術
- 高純度材料
- プロセス計測
など、多くの製造技術が同時に進化する必要があります。
つまり、AI革命はGPUメーカーだけの競争ではなく、 半導体産業全体を巻き込む競争になるということです。
その意味では、AIチップそのものを設計していない企業にも大きな成長機会があります。
日本企業が強みを持つ製造装置、計測、材料といった分野は、その代表例です。
AIの進化が続く限り、それらを支える技術の価値も高まり続けるでしょう。
おわりに
現在のAI競争では、「誰が最も高性能なGPUを開発するか」に注目が集まっています。
しかし、2035年という少し先の未来を見据えるなら、競争の本当の舞台は別の場所に移りつつあります。
それは、 「いかにデータを動かさずにAIを動かすか」 という新しい設計思想をめぐる競争です。
CIMは、その答えのひとつです。
AIチップの構造そのものを見直し、データ移動を最小化することで、消費電力・発熱・処理効率といった課題を根本から解決しようとしています。
もちろん、すべてのAIチップがCIMへ置き換わるとは限りません。
実用化には、製造コスト、歩留まり、信頼性、ソフトウェア対応など、乗り越えるべき課題が数多く残されています。
それでも、AIがこれからも進化を続けるのであれば、 「データ移動」を減らす技術への挑戦は避けて通れないでしょう。
AI革命の次の主役は、GPUではないかもしれません。
むしろ、 「データを動かさない」という新しい発想こそが、2035年の半導体産業を変えるキーワードになる のではないでしょうか。
