人工智慧不是算不動，而是記不夠！Kioxia AiSAQ技術讓SSD取代DRAM解鎖效能瓶頸！ [_rUpsipbQDA].md

# 文章总结：人工智慧不是算不動，而是記不夠！Kioxia AiSAQ技術讓SSD取代DRAM解鎖效能瓶頸！

本文主要介紹了人工智慧（AI）發展的五大趨勢，並重點討論了如何利用Kioxia（铠侠）的AiSAQ（全称为“All‑in‑Storage Approximate Nearest Neighbor Search”，字幕中亦称为iSAC、ISEC等技术）技術，以固態硬碟（SSD）取代動態隨機存取記憶體（DRAM）來解決向量資料庫擴充性瓶頸，從而降低成本的技術方案。

## 一、人工智慧的五大發展趨勢
1. **從訓練為主轉向推理為主**：過去以AI訓練為重心，未來將逐步增加AI推理（Inference）的重要性。
2. **從圖形處理器（GPU）為主轉向AI加速器**：未來會增加專用AI加速器（如ASIC）的比重。
3. **從雲端運算轉向中端/邊緣運算**：邊緣AI（Edge AI）的重要性將上升。
4. **從DRAM記憶體轉向快閃記憶體（SSD）**：傳統AI運算依賴DRAM，但其容量小、成本高；未來將更多使用大容量、低成本的SSD。
5. **從電運算、電通訊轉向光電整合**：光學與電子共同封裝技術將成為發展方向。

## 二、向量資料庫與索引的擴充性問題
- **檢索增強生成（RAG）** 是讓大型語言模型（LLM）能夠存取外部資料、提升回答準確性的關鍵技術。
- RAG使用**向量資料庫**來儲存和搜尋與使用者查詢相關的上下文。
- 隨著資料規模不斷擴大，向量索引的大小可能超過原始資料本身，需要**大量的DRAM**來儲存。
- DRAM價格高、容量有限，導致AI推理成本大幅上升，且存在擴充性瓶頸。

## 三、Kioxia AiSAQ（iSAC）技術的核心思想
- **目標**：用大容量、低成本的SSD取代大部分DRAM，同時保持高效的向量搜尋效能。
- **原理**：
  - 傳統的近似最近鄰搜尋（ANNS）演算法（如分層可導航小世界圖HNSW）需將整個索引與向量資料全部載入DRAM。
  - Microsoft的**DiskANN**技術已將大部分資料卸載到SSD，僅保留少量量化向量在DRAM中。
  - Kioxia的**AiSAQ**更進一步，將**量化索引與向量資料全部移至SSD**，DRAM僅保留極少量元資料，從而最大程度降低DRAM需求。

## 四、AiSAQ技術的主要優勢
1. **大幅降低DRAM使用量**：測試顯示，相比傳統HNSW索引（需約64 GB DRAM），AiSAQ僅需約155 MB DRAM，減少約**400倍**的DRAM需求。
2. **保持高效能**：
   - 每秒查詢數（QPS）可超過 **12,000** 次。
   - 準確率（召回率）仍維持在 **96%** 以上。
3. **高儲存密度與多租戶支援**：
   - 單一伺服器可透過SSD分割為多個區域，同時服務不同客戶，不受DRAM容量限制。
4. **快速服務啟動**：
   - 處理器可直接存取SSD中的資料，無需預先將大量資料載入DRAM，大幅縮短服務啟動時間。

## 五、支援的硬體產品
- AiSAQ技術專為Kioxia設計的**高速企業級與資料中心級SSD**而優化。
- 使用的通訊介面包括 **PCIe（周邊元件快速連接）** 與 **NVMe（非揮發性記憶體快速）**。
- 產品示例：**CM7系列**（企業級）與**CD8P系列**（資料中心級）SSD。

## 六、基準測試結果
- 在相同測試條件下，AiSAQ技術與傳統DRAM內索引（HNSW）相比：
  - DRAM使用量從 **64 GB** 降至 **155 MB**（約400倍減少）。
  - QPS > 12,000，準確率 > 96%。
- 證明以SSD為基礎的向量搜尋技術能夠在**成本大幅下降**的同時，滿足大規模AI應用的效能要求。

## 七、結論
- 隨著AI應用日益普及，向量資料庫的規模將持續擴張，傳統DRAM方案的成本與擴充性限制將成為瓶頸。
- Kioxia的**AiSAQ（iSAC）技術**透過將向量搜尋引擎與大容量SSD緊密整合，成功將DRAM需求降低數百倍，同時保持高吞吐量與高準確率。
- 該技術為未來AI解決方案的**低成本、高擴充性**鋪平了道路，使SSD在AI推理中扮演更重要的角色。

## 八、潛在受益股票
本文介紹的技術趨勢可能對以下相關公司及其股票產生積極影響：

### 儲存芯片與SSD製造商
1. **Kioxia（鎧俠）** – 該技術的直接開發方，若未來IPO將直接受益。
2. **西部數據（Western Digital, WDC）** – 與Kioxia有密切合作關係，共同開發快閃記憶體技術。
3. **三星電子（Samsung Electronics, 005930.KS）** – 全球最大的NAND快閃記憶體和SSD供應商，將受益於SSD在AI中需求增長。
4. **SK海力士（SK Hynix, 000660.KS）** – 重要的NAND和DRAM製造商，旗下子公司Solidigm也專注於SSD。
5. **美光科技（Micron Technology, MU）** – 提供DRAM和NAND解決方案，AI儲存需求增長可能帶動業績。
6. **英特爾（Intel, INTC）** – 旗下SSD業務和Optane技術（雖已停產）在儲存領域仍有積累。

### AI加速器與邊緣運算
7. **輝達（NVIDIA, NVDA）** – AI加速器龍頭，從訓練到推論的全棧解決方案提供商。
8. **AMD（AMD）** – 在CPU、GPU及AI加速器領域不斷發力。
9. **英特爾（同上）** – 也在推出AI專用晶片。

### 光電整合與先進封裝
10. **台積電（TSMC, TSM）** – 先進製程和CoWoS封裝技術為光電整合提供基礎。
11. **英特爾** – 在封裝技術方面也有佈局。

### 其他受益方
12. **慧榮科技（Silicon Motion, SIMO）** – SSD控制器設計公司，將隨SSD需求增長而受益。
13. **Marvell Technology (MRVL)** – 提供儲存控制器和資料處理晶片。

> 註：以上列舉僅供參考，不構成任何投資建議。實際投資需結合市場情況、公司基本面及個人風險承受能力。

---
*本文總結基於影片字幕內容，部分技術名詞因字幕轉譯可能略有出入，實際細節請參考官方資料。*