決定性運算
傳統 CPU/GPU 因快取記憶體與指令動態排程具非決定性,LPU 則移除複雜特性,確保每次執行過程與結果完全一致。
切片式設計
TSP 晶片顛覆核心概念,將功能單元移出並採二維網格排列,指令垂直運行、資料水平流動,解決資料相依性。
軟體定義硬體
將指令執行的控制權交給編譯器,由軟體在時間與空間兩個維度精確掌控資料流向,最大化執行效率。
超大規模擴展
透過 8 顆 TSP 組成節點、9 節點組成機架,最高支援 10,440 顆晶片互聯,且任意兩點通訊跳數不超過 5 次。
推論運算專才
LPU 專為 LLM 推論量身打造,利用靜態運算路徑,在處理如 Llama 3 等具有數千億參數的模型時展現極高吞吐量。
觀眾怎麼看
整理 37 則有效留言信心 高觀眾高度關注輝達收購 LPU 的戰略意圖,並對其技術可行性與商業化前景展開熱烈討論。
多數觀眾認為輝達收購 LPU 是為了消滅潛在競爭對手,防止客戶轉向 TPU 或其他替代方案,而非單純追求技術整合。
觀眾質疑 LPU 長期燒錢且難以獲利,擔憂其晶片良率、高單價以及 SRAM 成本過高等問題,認為其商業模式尚不明朗。
補充指出 LPU 在即時互動推論(如聊天機器人)具備低延遲優勢,而 GPU 則在通用訓練場景中仍佔據主導地位。
觀眾討論 LPU 依賴靜態編譯排程的特性,質疑這是否會導致硬體靈活性降低,以及不同晶片間的編譯器相容性問題。
有留言指出影片對軟體架構的解釋存在疑慮,認為 LPU 的運作邏輯與現有 GPU 架構並無本質上的創新差異。
留言內容僅代表部分觀眾觀點,且部分技術細節未經證實。