AI 存儲從 DRAM 轉向 SSD
未來 AI 將從訓練轉向推論，儲存媒介將從高成本 HBM/DRAM 逐漸增加 Flash/SSD 的使用比例。
這部在講什麼知識講解
說明 AI 推論中 RAG 技術面臨的 DRAM 成本與容量瓶頸，並介紹鎧俠（Kioxia）的 AiSAQ 技術如何透過將向量索引移至 SSD，在維持效能的同時大幅降低成本。
適合誰關注 AI 硬體架構與資料庫優化的技術人員。
關鍵概念AI 發展的五大趨勢、向量資料庫與 RAG 的運作原理、AiSAQ 節省 400 倍 DRAM 的具體數據。
最值得看17:32 AiSAQ 技術如何將索引完全卸載至 SSD 的核心機制。
概念地圖
概念與關係意義優先，時間戳用來導航
RAG 解決 LLM 資訊過時與隱私問題
透過檢索增強生成（RAG）存取外部最新或機密資料，無需重新訓練模型即可提升回答準確性。
傳統 HNSW 演算法極度耗費 DRAM
隨資料量增加，儲存向量索引所需的 DRAM 可能達數 TB，導致硬體擴充成本過高。
AiSAQ 達成 400 倍 DRAM 節減
將產品量化向量索引完全移至 SSD，DRAM 需求從 60GB 降至 155MB，且每秒查詢次數（QPS）與準確率維持不變。
縮短啟動延遲與提升租戶密度
直接存取 SSD 無需預載索引至記憶體，利於單一伺服器切割區域給不同客戶並加快服務啟動。
讓下一支影片也替你省時間
把你常看的 YouTube 影片，也變成這樣的重點摘要
安裝摘要王後，打開任何 YouTube 影片就能一鍵整理重點，先看值得看的段落，不必再複製網址。
用摘要王先看重點，把時間留給想看的段落。免費註冊，我們會把 YouTube 電腦版安裝連結和教學寄到你的信箱。
免費註冊，再送 5 小時影片摘要額度・30 天有效
使用 Google 免費開始・每個新帳號限領一次
一個選填問題
剛才這份摘要有幫你節省時間嗎？
如果願意，點一下最接近你的感受就好。
謝謝，你的回答會幫我們把摘要做得更有用。
看完可以做什麼
在規劃大數據量或私有雲 AI 知識庫時，優先評估導入基於 NVMe SSD 的向量搜尋方案以大幅降低伺服器 DRAM 採購預算。需要留意：AiSAQ 技術需搭配特定的鎧俠企業級 SSD（如 CM7、CD8P 系列）及支援 NVMe/PCIe 介面的硬體環境才能發揮最佳化效能。
生成於 2026-07-11
檢舉
觀眾怎麼看
整理 32 則有效留言信心 高觀眾對AiSAQ技術解決RAG記憶體瓶頸表示高度關注，並針對其與競品差異及實際應用效益提出多項疑問。
觀眾指出影片中將Product Quantization翻譯為「產品量化」有誤，正確應為「乘積量化」。
觀眾提到群聯aiDAPTIV+與鎧俠AiSAQ皆為解決RAG記憶體瓶頸的方案，並好奇兩者技術優劣差異。
觀眾質疑SSD作為記憶體替代方案的壽命、效能瓶頸，以及是否能真正取代DRAM的效能表現。
觀眾關注此技術對記憶體市場價格的衝擊，以及如何實際安裝與應用於個人電腦環境。
觀眾認同目前自組RAG系統時，DRAM成本過高是主要瓶頸，對能降低成本的替代方案有需求。
留言樣本數有限，且部分觀眾對技術細節理解存在差異，觀點僅供參考。