M2

蘋果對AI的投入也蠻多的 原本市場還在討論AMD可能會有CP值較高的方案 現在蘋果殺出來
因為cpu早已遇到power wall, 其實現在算力都是靠堆疊GPU

NV出的方案在往GPU自帶CPU上靠攏 就是想要避免cpu ram和gpu ram的IO問題
但AMD早就同時是CPU+GPU的廠商 這塊一定很得心應手
加上蘋果現在也這樣玩了

如同前面提到 MIMD差距不大的情況下 重點就會是SIMD 甚至進入ARM主流的計算
而大小核這件事 Android也早就是這樣玩

現在完全可以說目前已經進入了下一個世代 - CPU/GPU整合的時代了

延續這個概念 隨著各家大廠都走上這條路 大AI的硬體價格會快速下降
今天gooaye提到的MosaicML讓 cuda可以無痛接軌PyTorch 2.0 + ROCm
AMD的GPU也進入了高CP值的方案 加上Apple也進來了

越來越便宜那麼就會形成之前提到的 人人可以local跑大語言模型