Memory Tax

DDR5の16GB×2枚が10万円を超えている。半年前は3万円弱だった。

AI向けの高帯域メモリが製造ラインを食っている。高帯域メモリを1ビット作ると、通常のDRAMが3ビット分犠牲になる。データセンターが先に持っていき、コンシューマには残りカスが回ってくる。自作PC界隈は阿鼻叫喚だ。

おかしなことが起きている。Amazonのマザーボード売れ筋ランキングで、一世代前のDDR4対応マザーが1位だ。2026年に。ASUSはDDR4マザーの増産を決めた。DDR5が高すぎて、DDR4の在庫と中古を漁る時代になった。そのDDR4も市場から消えつつある。

そしてAppleがMac Studioの512GBオプションを静かに消した。3月5日のことだ。256GBの構成は残ったが、アップグレード価格は400ドル上がった。ユニファイドメモリにもDRAM不足の波が来た。もう少し先の話だと思っていたが、甘かった。

皮肉なことに、ユニファイドメモリはいまのAIワークロードと相性がいい。LLMの推論はメモリ帯域がボトルネックだ。モデルのデータを絶えずメモリから読み出す。通常のPCではモデルをGPUのVRAMに載せる必要があるが、VRAMは高価で容量に限りがある。RTX 5090でも32GBだ。載らないモデルは動かせない。

Macにはその制約がない。CPUもGPUも同じメモリプールを共有する。M5 Maxのメモリ帯域は614GB/s。一般的なDDR5システムの100〜150GB/sと比べて4倍以上速い。128GBのユニファイドメモリに70Bパラメータのモデルを丸ごと載せて推論が回る。GPUを別途買い足す必要がない。

だからいま、ローカルLLMを動かしたい人間がメモリ盛りのMacを買い漁っている。数十万円のMacが「AIマシンとしては安い」という倒錯した状況だ。NVIDIA A100を1枚買う金額で、何台か買える。

そういえば、先日引き取ったIDCラックの予備機材に、DDR4 ECC Registeredが大量にある。いまなら一財産だ。

システム管理者失格だが、障害時の予備機材を投機に回す誘惑と毎日戦っている。