The Storm Riders
Writer
Các nhà khoa học Trung Quốc vừa công bố một thiết bị mà họ gọi là "thực thể điện toán lấy cảm hứng từ não bộ đầu tiên trên thế giới", một siêu máy tính AI mang tên BIE-1. Thiết bị này được lấy cảm hứng từ cách hoạt động của não người và mặc dù tuyên bố "đầu tiên trên thế giới" có thể chưa hoàn toàn chính xác, BIE-1 vẫn mang đến những con số hiệu suất thần kinh đáng kinh ngạc. Theo báo cáo, BIE-1 được trang bị 1.152 lõi CPU và 4.8 TB bộ nhớ DDR5, đồng thời tuyên bố tiêu thụ ít hơn 90% điện năng so với các hệ thống máy chủ trung tâm dữ liệu AI tiêu chuẩn.
Theo thông tin từ South China Morning Post, BI Explorer 1 đã được Viện Khoa học và Công nghệ Thông minh Quảng Đông (GDIIST) tiết lộ tại một buổi thuyết trình ở Macao. Các nhà phát triển đã so sánh kích thước của máy chủ với một chiếc tủ lạnh mini, một phép so sánh phù hợp vì thiết bị này được cho là không bao giờ vượt quá nhiệt độ CPU 70°C ngay cả khi hoạt động ở tải tối đa.
Lĩnh vực điện toán giống não bộ thực tế không phải là mới, bất chấp những lời quảng bá về BIE-1. Hệ thống máy tính thần kinh Hala Point của Intel có lẽ là ví dụ nổi tiếng nhất về máy tính lấy cảm hứng từ não bộ, được cung cấp sức mạnh bởi 1.152 CPU Loihi 2, mỗi CPU có khả năng mô phỏng một triệu tế bào thần kinh. SpiNNaker 2 là một cỗ máy khác cùng loại, được thiết kế mà không sử dụng bất kỳ ổ SSD, HDD hoặc GPU nào để chạy các mô hình AI lấy cảm hứng từ não bộ hoặc lưu trữ dữ liệu.
Điểm khác biệt của BIE-1 so với máy tính lấy cảm hứng từ não bộ hiện nay nằm ở kích thước và các tuyên bố về hiệu suất. Trong khi các nền tảng Hala Point và SpiNNaker 2 là phần cứng có kích thước máy chủ truyền thống, mỗi nền tảng chiếm nhiều đơn vị giá đỡ máy chủ để triển khai hoàn chỉnh, BIE-1 là cỗ máy độc lập hoạt động bằng nguồn điện tiêu chuẩn, tuyên bố tiêu thụ ít hơn 90% điện năng so với "một siêu máy tính có kích thước bằng căn phòng" trong khi vẫn cung cấp hiệu suất tương đương. Rõ ràng, từ "siêu máy tính" có một định nghĩa khá linh hoạt nên tuyên bố này rất khó định lượng.
GDIIST tuyên bố trên trang web của mình rằng BIE-1 "có mức tiêu thụ điện năng thấp và độ ồn thấp, có thể được gọi là một siêu máy tính thu nhỏ, giúp năng lực điện toán thông minh cao cấp trở nên dễ tiếp cận. Nó có thể dễ dàng triển khai tại nhà, văn phòng nhỏ và thậm chí cả môi trường di động."
BIE-1 chứa 1.152 lõi CPU (tương đương với 1.152 CPU Loihi 2 của Intel Hala Point), 4.8 TB bộ nhớ DDR5 và 204 TB không gian lưu trữ. Cả phần cứng và phần mềm CPU đều là các hệ thống độc lập, độc đáo, với các lõi CPU được thiết kế để mô phỏng các tế bào thần kinh não, và phần mềm được thiết kế để hoạt động như một mạng lưới thần kinh AI, thực hiện các tác vụ đào tạo và suy luận AI tiêu chuẩn bằng một phương pháp cực kỳ độc đáo.
Các nhà nghiên cứu tuyên bố cỗ máy này đạt tốc độ đào tạo 100.000 token mỗi giây và tốc độ suy luận 500.000 token mỗi giây. Để so sánh những con số khổng lồ này, máy chủ AI Blackwell GB200 NVL72 hàng đầu của Nvidia quảng cáo tốc độ suy luận 1,5 triệu token mỗi giây.
Máy tính BIE-1 gần như chắc chắn sẽ đóng một vai trò lớn trong việc làm cho điện toán thần kinh trở nên dễ tiếp cận hơn đối với các kỹ sư mới, khi được bán dưới dạng một đơn vị duy nhất thay vì một hệ thống gắn trên giá đỡ hoặc một phần của một hệ thống trung tâm dữ liệu lớn hơn. GDIIST hy vọng rằng BIE-1 có thể được sử dụng cho một số trường hợp sử dụng AI "quan trọng" hơn, chẳng hạn như nghiên cứu y tế.
Giá cả và tính khả dụng của BIE-1 hiện vẫn chưa được tiết lộ, một phần vì chúng ta có rất ít nguồn tin trực tiếp về thiết bị này trên internet phương Tây. Tuy nhiên, bất kỳ công nghệ tiên tiến nào với hơn 200 TB bộ nhớ tốc độ cao chắc chắn sẽ có giá không hề rẻ. Nếu BIE-1 thực sự đáp ứng được một nửa các tuyên bố của mình, đó chắc chắn sẽ là một chiến thắng lớn cho điện toán thần kinh và phần cứng AI của Trung Quốc.
Theo thông tin từ South China Morning Post, BI Explorer 1 đã được Viện Khoa học và Công nghệ Thông minh Quảng Đông (GDIIST) tiết lộ tại một buổi thuyết trình ở Macao. Các nhà phát triển đã so sánh kích thước của máy chủ với một chiếc tủ lạnh mini, một phép so sánh phù hợp vì thiết bị này được cho là không bao giờ vượt quá nhiệt độ CPU 70°C ngay cả khi hoạt động ở tải tối đa.
Lĩnh vực điện toán giống não bộ thực tế không phải là mới, bất chấp những lời quảng bá về BIE-1. Hệ thống máy tính thần kinh Hala Point của Intel có lẽ là ví dụ nổi tiếng nhất về máy tính lấy cảm hứng từ não bộ, được cung cấp sức mạnh bởi 1.152 CPU Loihi 2, mỗi CPU có khả năng mô phỏng một triệu tế bào thần kinh. SpiNNaker 2 là một cỗ máy khác cùng loại, được thiết kế mà không sử dụng bất kỳ ổ SSD, HDD hoặc GPU nào để chạy các mô hình AI lấy cảm hứng từ não bộ hoặc lưu trữ dữ liệu.
Điểm khác biệt của BIE-1 so với máy tính lấy cảm hứng từ não bộ hiện nay nằm ở kích thước và các tuyên bố về hiệu suất. Trong khi các nền tảng Hala Point và SpiNNaker 2 là phần cứng có kích thước máy chủ truyền thống, mỗi nền tảng chiếm nhiều đơn vị giá đỡ máy chủ để triển khai hoàn chỉnh, BIE-1 là cỗ máy độc lập hoạt động bằng nguồn điện tiêu chuẩn, tuyên bố tiêu thụ ít hơn 90% điện năng so với "một siêu máy tính có kích thước bằng căn phòng" trong khi vẫn cung cấp hiệu suất tương đương. Rõ ràng, từ "siêu máy tính" có một định nghĩa khá linh hoạt nên tuyên bố này rất khó định lượng.
GDIIST tuyên bố trên trang web của mình rằng BIE-1 "có mức tiêu thụ điện năng thấp và độ ồn thấp, có thể được gọi là một siêu máy tính thu nhỏ, giúp năng lực điện toán thông minh cao cấp trở nên dễ tiếp cận. Nó có thể dễ dàng triển khai tại nhà, văn phòng nhỏ và thậm chí cả môi trường di động."
BIE-1 chứa 1.152 lõi CPU (tương đương với 1.152 CPU Loihi 2 của Intel Hala Point), 4.8 TB bộ nhớ DDR5 và 204 TB không gian lưu trữ. Cả phần cứng và phần mềm CPU đều là các hệ thống độc lập, độc đáo, với các lõi CPU được thiết kế để mô phỏng các tế bào thần kinh não, và phần mềm được thiết kế để hoạt động như một mạng lưới thần kinh AI, thực hiện các tác vụ đào tạo và suy luận AI tiêu chuẩn bằng một phương pháp cực kỳ độc đáo.
Các nhà nghiên cứu tuyên bố cỗ máy này đạt tốc độ đào tạo 100.000 token mỗi giây và tốc độ suy luận 500.000 token mỗi giây. Để so sánh những con số khổng lồ này, máy chủ AI Blackwell GB200 NVL72 hàng đầu của Nvidia quảng cáo tốc độ suy luận 1,5 triệu token mỗi giây.
Máy tính BIE-1 gần như chắc chắn sẽ đóng một vai trò lớn trong việc làm cho điện toán thần kinh trở nên dễ tiếp cận hơn đối với các kỹ sư mới, khi được bán dưới dạng một đơn vị duy nhất thay vì một hệ thống gắn trên giá đỡ hoặc một phần của một hệ thống trung tâm dữ liệu lớn hơn. GDIIST hy vọng rằng BIE-1 có thể được sử dụng cho một số trường hợp sử dụng AI "quan trọng" hơn, chẳng hạn như nghiên cứu y tế.
Giá cả và tính khả dụng của BIE-1 hiện vẫn chưa được tiết lộ, một phần vì chúng ta có rất ít nguồn tin trực tiếp về thiết bị này trên internet phương Tây. Tuy nhiên, bất kỳ công nghệ tiên tiến nào với hơn 200 TB bộ nhớ tốc độ cao chắc chắn sẽ có giá không hề rẻ. Nếu BIE-1 thực sự đáp ứng được một nửa các tuyên bố của mình, đó chắc chắn sẽ là một chiến thắng lớn cho điện toán thần kinh và phần cứng AI của Trung Quốc.