ところで、CoreWeaveというクラウドプロバイダーが、NVIDIAのVera Ruvinの採用を決めたらしい。NVIDIAが言っているAIファクトリーが実現する見通しか。電力5GW。Spectrum-Xチップが搭載しているCOUPE技術で、光ケーブルがCPOで出てくる。AMDのHeliosラックシステムで採用しているBroadcomの Tomahawk 6もCPOだったと思う。実際に使えるようになるのはどちらが早いか。どちらにしても時代が一つ進むと思う。
マイクロソフトがAIチップ Maia 200をリリースしたようだ。TSMC 3nmで製造されている。CoWoSパッケージでHBM3e(1.18Tb/s)が6つ載っていて7TB/s、容量で216GBとなっている。内蔵SRAMは272MB。FP4で10PFLOSだが、電力750Wとのこと。写真を見ると、チップ自体もHBM3eの6個分くらいある。SKHynixのHBM3eはモジュールで11mm四方なので、2mmくらい引いた値がダイサイズだとすると、480～500mm2くらいだろうか。
今のところ、NPUやAIチップ自体をチップ分割した「チップレット構造」になっているものはないと思う。 しばらくはモノリシックで大型化する流れか。(究極はCerebrasかもしれない) 大型＝高性能ではあるが、先端プロセスで大型はコストが高い。なので、CPUはチップレット化した。チップレットにできるアーキテクチャだったというのはあると思う。大型のチップで高価なNPUはコンシューマーには出てこないで、クラウドに入るだけということになるだろう。
朝は起きて、まずはコーヒーの香りで頭を起こす。湯気でメガネが曇った瞬間、ようやく一日が動き出した。
昼前には仕事の棚卸しみたいな時間ができて、ここまでの流れをざっと整理。まあひと区切りついたような感じか。
夜、少し早めに切り上げるか、とおもって帰宅したが、あんまり早くなかった。コーヒー豆が切れたので、近所のスーパーへひとっ走りいってきた。
