文章
警惕中青年的“隐形杀手”——心源性猝死\_哔哩哔哩\_bilibili
摆脱压力-成功的恶性循环|我的脑子不转了②
压力对大脑、身体运转的影响|我的脑子不转了③(完)
能够感受到遗憾与悔恨,本身是一种能力|生命情感对话①
课间闲聊(2)AI技术的发展不是一个单纯的科技议题
Ep 001|持续大量的记录自己,真的可以逆天改命
续航、安全、成本,动力电池的「终极方案」是什么?| S10E07
光進銅退還是光銅並進?獨家解析輝達 GTC 2026!震撼全整理!AI算力暴增一萬倍,揭露「五層架構+超級推論革命」! [1Rms3FYgfPo]
人工智慧不是算不動,而是記不夠!Kioxia AiSAQ技術讓SSD取代DRAM解鎖效能瓶頸! [_rUpsipbQDA].md
本站点使用 MrDoc 构建
-
+
人工智慧不是算不動,而是記不夠!Kioxia AiSAQ技術讓SSD取代DRAM解鎖效能瓶頸! [_rUpsipbQDA].md
# 文章总结:人工智慧不是算不動,而是記不夠!Kioxia AiSAQ技術讓SSD取代DRAM解鎖效能瓶頸! 本文主要介紹了人工智慧(AI)發展的五大趨勢,並重點討論了如何利用Kioxia(铠侠)的AiSAQ(全称为“All‑in‑Storage Approximate Nearest Neighbor Search”,字幕中亦称为iSAC、ISEC等技术)技術,以固態硬碟(SSD)取代動態隨機存取記憶體(DRAM)來解決向量資料庫擴充性瓶頸,從而降低成本的技術方案。 ## 一、人工智慧的五大發展趨勢 1. **從訓練為主轉向推理為主**:過去以AI訓練為重心,未來將逐步增加AI推理(Inference)的重要性。 2. **從圖形處理器(GPU)為主轉向AI加速器**:未來會增加專用AI加速器(如ASIC)的比重。 3. **從雲端運算轉向中端/邊緣運算**:邊緣AI(Edge AI)的重要性將上升。 4. **從DRAM記憶體轉向快閃記憶體(SSD)**:傳統AI運算依賴DRAM,但其容量小、成本高;未來將更多使用大容量、低成本的SSD。 5. **從電運算、電通訊轉向光電整合**:光學與電子共同封裝技術將成為發展方向。 ## 二、向量資料庫與索引的擴充性問題 - **檢索增強生成(RAG)** 是讓大型語言模型(LLM)能夠存取外部資料、提升回答準確性的關鍵技術。 - RAG使用**向量資料庫**來儲存和搜尋與使用者查詢相關的上下文。 - 隨著資料規模不斷擴大,向量索引的大小可能超過原始資料本身,需要**大量的DRAM**來儲存。 - DRAM價格高、容量有限,導致AI推理成本大幅上升,且存在擴充性瓶頸。 ## 三、Kioxia AiSAQ(iSAC)技術的核心思想 - **目標**:用大容量、低成本的SSD取代大部分DRAM,同時保持高效的向量搜尋效能。 - **原理**: - 傳統的近似最近鄰搜尋(ANNS)演算法(如分層可導航小世界圖HNSW)需將整個索引與向量資料全部載入DRAM。 - Microsoft的**DiskANN**技術已將大部分資料卸載到SSD,僅保留少量量化向量在DRAM中。 - Kioxia的**AiSAQ**更進一步,將**量化索引與向量資料全部移至SSD**,DRAM僅保留極少量元資料,從而最大程度降低DRAM需求。 ## 四、AiSAQ技術的主要優勢 1. **大幅降低DRAM使用量**:測試顯示,相比傳統HNSW索引(需約64 GB DRAM),AiSAQ僅需約155 MB DRAM,減少約**400倍**的DRAM需求。 2. **保持高效能**: - 每秒查詢數(QPS)可超過 **12,000** 次。 - 準確率(召回率)仍維持在 **96%** 以上。 3. **高儲存密度與多租戶支援**: - 單一伺服器可透過SSD分割為多個區域,同時服務不同客戶,不受DRAM容量限制。 4. **快速服務啟動**: - 處理器可直接存取SSD中的資料,無需預先將大量資料載入DRAM,大幅縮短服務啟動時間。 ## 五、支援的硬體產品 - AiSAQ技術專為Kioxia設計的**高速企業級與資料中心級SSD**而優化。 - 使用的通訊介面包括 **PCIe(周邊元件快速連接)** 與 **NVMe(非揮發性記憶體快速)**。 - 產品示例:**CM7系列**(企業級)與**CD8P系列**(資料中心級)SSD。 ## 六、基準測試結果 - 在相同測試條件下,AiSAQ技術與傳統DRAM內索引(HNSW)相比: - DRAM使用量從 **64 GB** 降至 **155 MB**(約400倍減少)。 - QPS > 12,000,準確率 > 96%。 - 證明以SSD為基礎的向量搜尋技術能夠在**成本大幅下降**的同時,滿足大規模AI應用的效能要求。 ## 七、結論 - 隨著AI應用日益普及,向量資料庫的規模將持續擴張,傳統DRAM方案的成本與擴充性限制將成為瓶頸。 - Kioxia的**AiSAQ(iSAC)技術**透過將向量搜尋引擎與大容量SSD緊密整合,成功將DRAM需求降低數百倍,同時保持高吞吐量與高準確率。 - 該技術為未來AI解決方案的**低成本、高擴充性**鋪平了道路,使SSD在AI推理中扮演更重要的角色。 ## 八、潛在受益股票 本文介紹的技術趨勢可能對以下相關公司及其股票產生積極影響: ### 儲存芯片與SSD製造商 1. **Kioxia(鎧俠)** – 該技術的直接開發方,若未來IPO將直接受益。 2. **西部數據(Western Digital, WDC)** – 與Kioxia有密切合作關係,共同開發快閃記憶體技術。 3. **三星電子(Samsung Electronics, 005930.KS)** – 全球最大的NAND快閃記憶體和SSD供應商,將受益於SSD在AI中需求增長。 4. **SK海力士(SK Hynix, 000660.KS)** – 重要的NAND和DRAM製造商,旗下子公司Solidigm也專注於SSD。 5. **美光科技(Micron Technology, MU)** – 提供DRAM和NAND解決方案,AI儲存需求增長可能帶動業績。 6. **英特爾(Intel, INTC)** – 旗下SSD業務和Optane技術(雖已停產)在儲存領域仍有積累。 ### AI加速器與邊緣運算 7. **輝達(NVIDIA, NVDA)** – AI加速器龍頭,從訓練到推論的全棧解決方案提供商。 8. **AMD(AMD)** – 在CPU、GPU及AI加速器領域不斷發力。 9. **英特爾(同上)** – 也在推出AI專用晶片。 ### 光電整合與先進封裝 10. **台積電(TSMC, TSM)** – 先進製程和CoWoS封裝技術為光電整合提供基礎。 11. **英特爾** – 在封裝技術方面也有佈局。 ### 其他受益方 12. **慧榮科技(Silicon Motion, SIMO)** – SSD控制器設計公司,將隨SSD需求增長而受益。 13. **Marvell Technology (MRVL)** – 提供儲存控制器和資料處理晶片。 > 註:以上列舉僅供參考,不構成任何投資建議。實際投資需結合市場情況、公司基本面及個人風險承受能力。 --- *本文總結基於影片字幕內容,部分技術名詞因字幕轉譯可能略有出入,實際細節請參考官方資料。*
peipeo
2026年5月18日 08:52
转发文档
收藏文档
上一篇
下一篇
手机扫码
复制链接
手机扫一扫转发分享
复制链接
Markdown文件
PDF文档(打印)
分享
链接
类型
密码
更新密码