最近搜看股票
報價
| 返回 放大 + 縮小 - | ||||
|
Sandisk CTO：全球AI競賽取決於記憶體而非算力 HBF正設計晶片料明年推出
推薦 20 利好 34 利淡 20 AASTOCKS新聞
|
||||
|
||||
|
記憶體生產商Sandisk(閃迪)(SNDK.US)今年以來股價累升約5.7倍，自去年5月以來的一年內累升逾35倍。Sandisk首席技術官(CTO)兼執行副總裁Alper Ilkbahar接及《日經亞洲》訪問時稱，全球AI競賽正變得越來越「以記憶體為中心」而非算力，這趨勢或加劇全球史無前例的記憶體晶片供應緊張局面。 他表示，單靠圖形處理器(GPU)、中央處理器(CPU)及原始運算能力，不足以應付日益複雜的AI工作負載。 Ilkbahar表示，有幾個趨勢正在令記憶體變得更為關鍵。首先，隨著大型語言模型變得更大、更智能，它們需要更多記憶體才能有效運作。其次，OpenAI的ChatGPT、Google的Gemini及Anthropic的Claude等系統越來越依賴所謂的KV(key-value)快取。 簡單而言，KV快取就像AI的短期記憶，讓它能夠記住之前的用戶輸入及對話早期部分，而不必從頭開始重複計算每項內容。這種方法顯著提升了速度與效率，但隨著AI對話及上下文窗口變長，KV快取需要越來越龐大的記憶體容量。 其次是混合專家模型，減少運算但增加記憶體，這就是為何他們將AI競賽稱為以記憶體為中心。 Ilkbahar表示，現在客戶正主動作出預先承諾，並簽訂長期採購協議以確保未來供應。他表示，相信下一件大事將是高頻寬快閃記憶體(HBF)，目前正在設計晶片，HBF記憶體晶粒將於今年底提供樣品，配備控制器的完整產品預計明年推出。 Sandisk表示，隨著AI推論工作負載需要更大記憶體容量，HBF可發揮更大作用。該公司稱，HBF能提供遠高於高頻寬記憶體(HBM)的容量與記憶體密度，同時保持相近的頻寬，更適合未來的AI推論需求。Sandisk已與SK海力士合作，共同制定HBF技術標準。(da/u)AASTOCKS新聞 |
||||
已將連結複製到剪貼簿
 |
||||
