Phát hiện chính
Theo bài viết gốc của The New Stack, Quasar 438B đạt tốc độ đầu ra khoảng 183 token mỗi giây và bắt đầu phản hồi sau khoảng 1,1 giây. Tuy vậy, điểm lập trình thấp hơn hệ thống dẫn đầu, còn yêu cầu phần cứng, mức nén và hiệu quả trong quy trình tác nhân thực tế chưa được công bố.
Nội dung
Multiverse Computing, một công ty Tây Ban Nha, ra mắt Quasar 438B vào thứ Tư. Đây là mô hình quy mô lớn đầu tiên của công ty, được thiết kế cho lập trình và các tác nhân dùng trong doanh nghiệp.
Theo số liệu Artificial Analysis được The New Stack dẫn lại, Quasar đạt 43 điểm trên Chỉ số Trí tuệ và 69,3 điểm trên Terminal-Bench v2.1. Tốc độ đầu ra được ghi nhận ở mức khoảng 183 token mỗi giây. Multiverse giới thiệu đây là mô hình châu Âu có điểm Chỉ số Trí tuệ cao nhất, trên Mistral Medium 3.5 với 30 điểm và NVIDIA Nemotron 3 Ultra với 38 điểm.
Quasar không đạt hiệu suất lập trình ngang các mô hình mạnh nhất. Đặt cược của Multiverse nằm ở chỗ một mô hình có 438 tỷ tham số vẫn có thể đủ nhanh và đủ rẻ cho tác nhân phải suy luận, gọi công cụ rồi kiểm tra kết quả nhiều lần. Cách vận hành lặp lại này cũng là nền tảng của một tác nhân lập trình AI.
Mô hình có cửa sổ ngữ cảnh một triệu token, hỗ trợ tiếng Anh và tiếng Tây Ban Nha, đồng thời được cung cấp qua giao diện lập trình CompactifAI của Multiverse.
Tuyên bố nén còn thiếu dữ liệu kiểm chứng
Multiverse phát triển CompactifAI để thu nhỏ mô hình AI lớn, qua đó giảm bộ nhớ và năng lực tính toán cần thiết khi vận hành. Theo công ty, công nghệ này có thể giảm kích thước mô hình từ 80% đến 95% mà chỉ làm giảm nhẹ độ chính xác.
Tuy nhiên, The New Stack cho biết Multiverse chưa công bố Quasar đã được nén bao nhiêu hoặc mô hình ban đầu là gì. Công ty cũng chưa nêu phần cứng cần thiết, mức bộ nhớ tiết kiệm được hay mức giảm nhu cầu tính toán. Những dữ liệu này quyết định liệu tốc độ được công bố có chuyển thành lợi thế chi phí trong thực tế hay không.
Vào tháng 7, Multiverse công bố vòng gọi vốn hạng C trị giá 570 triệu USD nhằm mở rộng thư viện mô hình nén và thương mại hóa công nghệ. Theo The New Stack, Quasar là phép thử lớn nhất cho hướng tiếp cận đó đến nay.
Khoảng trống thông tin về phần cứng càng đáng chú ý khi một tác nhân có thể gọi mô hình và các công cụ khác nhiều lần trước khi hoàn thành nhiệm vụ. Vì vậy, tốc độ sinh token chỉ phản ánh một phần của bài toán hạ tầng AI.
Điểm lập trình cho thấy sự đánh đổi
Trong so sánh của Multiverse được The New Stack thuật lại, Quasar đạt 69,3 điểm trên Terminal-Bench v2.1. Kết quả này cao hơn Mistral Medium 3.5 nhưng vẫn thấp hơn đáng kể so với các hệ thống hàng đầu. Claude Opus 5 đứng đầu phép đo với 89,1 điểm.
Multiverse định vị Quasar cho kỹ thuật phần mềm, trợ lý kỹ thuật, nghiên cứu và tự động hóa quy trình. Cửa sổ ngữ cảnh một triệu token cho phép tác nhân làm việc với kho mã lớn và giữ lại thông tin khi nhiệm vụ tiến triển. Đổi lại, xử lý lượng ngữ cảnh lớn hơn cũng cần nhiều năng lực tính toán hơn.
Điều này đặc biệt quan trọng với lập trình. Một đoạn mã có thể vượt qua toàn bộ bài kiểm tra nhưng vẫn gây khó khăn cho tác nhân tiếp theo nếu hệ thống không còn theo dõi được những gì đã xảy ra trước đó.
Tốc độ sinh token chưa phải độ trễ toàn bộ tác vụ
Theo Artificial Analysis được The New Stack dẫn lại, Quasar bắt đầu phản hồi sau khoảng 1,1 giây. Mô hình có thể tạo câu trả lời dài 500 token, gồm cả quá trình suy luận, trong khoảng 15,3 giây.
Các con số này cho thấy tốc độ phản hồi nhanh, nhưng không mô tả toàn bộ thời gian hoàn thành nhiệm vụ. Tác nhân còn phải chờ công cụ bên ngoài, xử lý ngữ cảnh ngày càng dài và gọi mô hình nhiều lần. Lớp công cụ dành cho tác nhân hiện cũng chưa theo kịp đầy đủ nhu cầu của các mô hình như Quasar.
Mô hình độc quyền để lại câu hỏi về vận hành thực tế
Quasar là mô hình độc quyền và chỉ được cung cấp qua giao diện lập trình của Multiverse. Nhà phát triển không thể kiểm tra trọng số hoặc chạy mô hình trên phần cứng của riêng mình. Theo The New Stack, hạn chế này khiến việc xác định liệu tốc độ được báo cáo có duy trì trong các quy trình tác nhân hằng ngày trở nên khó khăn.
Quasar xuất hiện trong lúc các công ty AI châu Âu xây dựng thêm mô hình và hạ tầng tính toán riêng thay vì phụ thuộc vào các nhà cung cấp điện toán siêu quy mô của Mỹ. Multiverse chọn con đường khác: dùng công nghệ nén để giảm chi phí và tăng tốc một mô hình có hơn 400 tỷ tham số.
Những phép đo hiện có cho thấy Quasar nhanh và có năng lực đáng kể, nhưng chưa đủ để kết luận mô hình sẽ vận hành hiệu quả ra sao trong một chuỗi tác vụ dài. Câu trả lời còn phụ thuộc vào phần cứng, mức nén, chi phí và độ trễ tích lũy mà Multiverse chưa công bố.
Hãy tiếp tục theo dõi Sine để cập nhật các phép đo thực tế của Quasar khi có thêm dữ liệu vận hành.
