nén mô hình ai

Các Mô hình ngôn ngữ lớn (LLM) với hàng trăm tỷ tham số từ OpenAI, Meta hay DeepSeek đã và đang làm thay đổi thế giới với khả năng đáng kinh ngạc. Tuy nhiên, sức mạnh này đi kèm với một cái giá không hề rẻ: chi phí huấn luyện khổng lồ (ví dụ Google chi 191 triệu USD cho Gemini 1.0 Ultra) và mức...

Một rào cản lớn ngăn cản việc ứng dụng rộng rãi các Mô hình ngôn ngữ lớn (LLM) mạnh mẽ như Llama 3 hay Qwen 2.5 trên các thiết bị cá nhân chính là kích thước khổng lồ và yêu cầu phần cứng "khủng" (GPU đắt tiền, nhiều bộ nhớ RAM) của chúng. Tuy nhiên, một nhóm nghiên cứu quốc tế bao gồm các nhà...