lượng tử hóa ai

Microsoft vừa tạo ra một bước tiến đáng chú ý trong lĩnh vực Trí tuệ Nhân tạo (AI) với việc giới thiệu BitNet b1.58 2B4T – mô hình AI "1-bit" lớn nhất từng được huấn luyện. Điểm đột phá lớn nhất của BitNet là khả năng hoạt động hiệu quả hoàn toàn trên CPU, bao gồm cả các chip tiết kiệm năng...

Một rào cản lớn ngăn cản việc ứng dụng rộng rãi các Mô hình ngôn ngữ lớn (LLM) mạnh mẽ như Llama 3 hay Qwen 2.5 trên các thiết bị cá nhân chính là kích thước khổng lồ và yêu cầu phần cứng "khủng" (GPU đắt tiền, nhiều bộ nhớ RAM) của chúng. Tuy nhiên, một nhóm nghiên cứu quốc tế bao gồm các nhà...