Hail the Judge
Ta chơi xong không trả tiền, vậy đâu có gọi là bán
Kioxia Holdings (HD) đang phát triển 1 ổ SSD (Solid State Drive) mới dành cho trung tâm dữ liệu AI (AIDC), khả năng truyền dữ liệu tốc độ cao, dự kiến được thương mại hóa vào năm 2026. SSD này cải thiện chỉ số IOPS (số thao tác nhập/xuất mỗi giây) lên hơn một bậc so với SSD thông thường, khắc phục hạn chế của bộ nhớ băng thông cao (HBM) và thúc đẩy sử dụng SSD trong AIDC. Bằng cách tăng hiệu suất GPU và giảm chi phí vận hành trung tâm dữ liệu, công nghệ này hứa hẹn định hình tương lai lưu trữ AI.
SSD mới của Kioxia sử dụng XL-Flash, một loại bộ nhớ lớp lưu trữ (SCM) không bay hơi, kết hợp tốc độ đọc/ghi cao và độ trễ thấp. Công nghệ này tăng IOPS lên hơn 10 lần so với SSD NAND truyền thống, đạt khoảng 3-5 triệu IOPS so với 300.000-500.000 IOPS của SSD doanh nghiệp thông thường. Trong AIDC, GPU kết hợp với HBM chuyển dữ liệu tốc độ cao để xử lý học và suy luận AI. Tuy nhiên, HBM yêu cầu thao tác làm mới dữ liệu (refresh) do đặc tính DRAM gây ra thời gian chết khi GPU không nhận dữ liệu, làm giảm hiệu suất.
SSD của Kioxia giải quyết vấn đề độ trễ giữa DRAM và NAND, cho phép lưu trữ dữ liệu dư thừa từ HBM hoặc thực hiện hoán đổi dữ liệu nhanh hơn. Ngoài ra, SSD này có thể thay thế một phần HBM bằng cách lưu trữ dữ liệu ít quan trọng, giảm nhu cầu sử dụng HBM đắt đỏ (giá 30.000 USD/64GB so với 500 USD/4TB SSD).
HBM dù cung cấp băng thông cao (3-4TB/s), có chi phí sản xuất cao và tiêu thụ năng lượng lớn (20-30W/64GB). Thao tác làm mới dữ liệu của HBM gây độ trễ 10-20 micro giây làm gián đoạn luồng dữ liệu đến GPU, đặc biệt trong các mô hình AI lớn như GPT-4. SSD XL-Flash của Kioxia, độ trễ đọc dưới 5 micro giây và khả năng lưu trữ không bay hơi, giảm thiểu vấn đề này bằng cách đóng vai trò bộ đệm tốc độ cao. Ví dụ, dữ liệu không cần truy cập tức thời có thể được chuyển sang SSD, giải phóng HBM cho các tác vụ ưu tiên.
Kioxia cũng dự kiến phân bổ dữ liệu theo loại, HBM xử lý dữ liệu thời gian thực và SSD lưu trữ dữ liệu tuần tự hoặc ít truy cập. Điều này không chỉ giảm 30-40% nhu cầu HBM mà còn tăng tuổi thọ hệ thống nhờ đặc tính không bay hơi của NAND. Công nghệ này tận dụng BiCS FLASH 3D thế hệ 8 của Kioxia, đạt dung lượng 2TB QLC, phù hợp cho trung tâm dữ liệu lớn.
#KIOXIA #kioxiassd
SSD mới của Kioxia sử dụng XL-Flash, một loại bộ nhớ lớp lưu trữ (SCM) không bay hơi, kết hợp tốc độ đọc/ghi cao và độ trễ thấp. Công nghệ này tăng IOPS lên hơn 10 lần so với SSD NAND truyền thống, đạt khoảng 3-5 triệu IOPS so với 300.000-500.000 IOPS của SSD doanh nghiệp thông thường. Trong AIDC, GPU kết hợp với HBM chuyển dữ liệu tốc độ cao để xử lý học và suy luận AI. Tuy nhiên, HBM yêu cầu thao tác làm mới dữ liệu (refresh) do đặc tính DRAM gây ra thời gian chết khi GPU không nhận dữ liệu, làm giảm hiệu suất.
SSD của Kioxia giải quyết vấn đề độ trễ giữa DRAM và NAND, cho phép lưu trữ dữ liệu dư thừa từ HBM hoặc thực hiện hoán đổi dữ liệu nhanh hơn. Ngoài ra, SSD này có thể thay thế một phần HBM bằng cách lưu trữ dữ liệu ít quan trọng, giảm nhu cầu sử dụng HBM đắt đỏ (giá 30.000 USD/64GB so với 500 USD/4TB SSD).
HBM dù cung cấp băng thông cao (3-4TB/s), có chi phí sản xuất cao và tiêu thụ năng lượng lớn (20-30W/64GB). Thao tác làm mới dữ liệu của HBM gây độ trễ 10-20 micro giây làm gián đoạn luồng dữ liệu đến GPU, đặc biệt trong các mô hình AI lớn như GPT-4. SSD XL-Flash của Kioxia, độ trễ đọc dưới 5 micro giây và khả năng lưu trữ không bay hơi, giảm thiểu vấn đề này bằng cách đóng vai trò bộ đệm tốc độ cao. Ví dụ, dữ liệu không cần truy cập tức thời có thể được chuyển sang SSD, giải phóng HBM cho các tác vụ ưu tiên.
Kioxia cũng dự kiến phân bổ dữ liệu theo loại, HBM xử lý dữ liệu thời gian thực và SSD lưu trữ dữ liệu tuần tự hoặc ít truy cập. Điều này không chỉ giảm 30-40% nhu cầu HBM mà còn tăng tuổi thọ hệ thống nhờ đặc tính không bay hơi của NAND. Công nghệ này tận dụng BiCS FLASH 3D thế hệ 8 của Kioxia, đạt dung lượng 2TB QLC, phù hợp cho trung tâm dữ liệu lớn.
#KIOXIA #kioxiassd