Nội dung thử nghiệm AI cục bộ
Surface Laptop Ultra chạy AI cục bộ nhanh nhất khi dùng mô hình được lượng tử hóa phù hợp hoặc kiến trúc hỗn hợp chuyên gia. Trong thử nghiệm của The New Stack, Nemotron 3.5 Bolt đạt 56 đến 60 token mỗi giây khi cắm sạc. Qwen 3.8 27B 8 bit chỉ đạt 8 đến 9 token mỗi giây. Hiệu năng AI giảm khoảng 20% đến 25% khi chuyển sang dùng pin.
Microsoft định vị Surface Laptop Ultra như một lựa chọn thay thế MacBook Pro cho người làm sáng tạo, lập trình viên và nhà phát triển AI. Phiên bản được The New Stack thử nghiệm có RAM 64 GB, ổ SSD 1 TB và giá 4.300 USD. Người đánh giá nhận thấy máy có thể chạy các công cụ AI cục bộ mà không tạo ra khác biệt lớn về trải nghiệm so với máy để bàn.
Máy dựa trên nền tảng RTX Spark dùng N1X của Nvidia. Cấu hình tối đa gồm GPU Blackwell RTX 6.144 lõi, CPU 20 lõi và bộ nhớ hợp nhất 128 GB. Người thử nghiệm dùng máy trong một tuần, kể cả khi di chuyển, rồi so sánh với Mac Studio dùng M4 Max và RAM 48 GB. GPU Blackwell nhanh hơn một chút trong phần lớn tác vụ được thử.
Các công cụ được cài đặt gồm Unsloth Studio, Ollama và Hermes Agent. Nhóm phần mềm này cũng thường xuất hiện trong quy trình xây dựng tác tử lập trình AI. Tốc độ sinh mã và khả năng giữ mô hình trong bộ nhớ ảnh hưởng trực tiếp đến trải nghiệm.
Suy luận cục bộ nhanh khi chọn đúng mô hình
Tốc độ suy luận trên Surface Laptop Ultra phụ thuộc nhiều vào kiến trúc và mức lượng tử hóa của mô hình. Nemotron 3.5 Bolt đạt 56 đến 60 token mỗi giây, Gemma 4 26B-A4B đạt khoảng 40 token mỗi giây, còn Qwen 3.8 27B tăng từ 8 đến 9 lên 25 đến 28 token mỗi giây khi chuyển từ 8 bit xuống 4 bit.
| Mô hình | Cấu hình | Tốc độ khi cắm sạc |
|---|---|---|
| Nemotron 3.5 Bolt | 9 tỷ tham số hoạt động | 56 đến 60 token/giây |
| Qwen 3.8 27B | 8 bit | 8 đến 9 token/giây |
| Qwen 3.8 27B | 4 bit | 25 đến 28 token/giây |
| Gemma 4 26B-A4B | 8 bit, hỗn hợp chuyên gia | Khoảng 40 token/giây |
Nguồn cho các kết quả trong bảng là thử nghiệm của The New Stack. Nemotron 3.5 Bolt được lượng tử hóa mạnh và có 9 tỷ tham số hoạt động, phù hợp với Hermes Agent hoặc OpenCode khi người dùng cần phản hồi nhanh.
Lượng tử hóa thay đổi tốc độ ra sao
Kết quả thay đổi rõ rệt với mô hình đặc. Qwen 3.8 27B ở mức lượng tử hóa 8 bit chỉ đạt 8 hoặc 9 token mỗi giây trong Unsloth Studio. Bộ nhớ của máy đủ chứa mô hình, nhưng băng thông bộ nhớ trở thành điểm nghẽn. Khi hạ xuống 4 bit, tốc độ tăng lên 25 đến 28 token mỗi giây.
Gemma 4 26B-A4B ở 8 bit đạt khoảng 40 token mỗi giây trong cùng bài thử. Kết quả này cho thấy kiến trúc hỗn hợp chuyên gia phù hợp hơn với việc chạy mô hình lớn trên máy cá nhân vì mỗi lượt xử lý chỉ kích hoạt một phần tham số.
Người thử nghiệm không có MacBook hoặc Mac Studio dùng M5 để đối chiếu trực tiếp. Bài viết gốc dẫn kết quả của Tom's Hardware, theo đó Surface Laptop Ultra nhìn chung vượt MacBook Pro dùng M5 Max trong các tác vụ AI.
Hiệu năng giảm đáng kể khi rút sạc
Surface Laptop Ultra không duy trì toàn bộ tốc độ suy luận khi chuyển sang dùng pin. Trong thử nghiệm của The New Stack, Qwen 3.8 4 bit giảm xuống khoảng 18 token mỗi giây. Nemotron 3.5 Bolt còn 42 đến 45 token mỗi giây. Mức giảm hiệu năng AI ước tính từ 20% đến 25%.
Các kết quả suy luận cao nhất đều được đo khi máy nối với bộ sạc 140 W. Microsoft cho biết hệ thống giữ được 99,6% hiệu năng khi chạy bằng pin, nhưng The New Stack ghi nhận mức giảm lớn hơn trong các tác vụ AI.
Qwen 3.8 ở 4 bit giảm từ 25 đến 28 token mỗi giây xuống khoảng 18 token mỗi giây khi dùng pin. Nemotron 3.5 Bolt giảm từ 56 đến 60 xuống khoảng 42 đến 45 token mỗi giây. The New Stack ước tính tác vụ AI mất khoảng 20% đến 25% hiệu năng sau khi rút sạc. Trò chơi cũng giảm ở mức tương tự.
The New Stack không thực hiện bài đo thời lượng pin chính thức. Microsoft công bố thời lượng duyệt web chủ động là 12 giờ, còn quan sát trong bài thử cho thấy máy có thể chỉ hoạt động được vài giờ nếu liên tục chạy AI cục bộ.
RAM 64 GB rộng rãi nhưng chưa thật sự tối ưu
RAM 64 GB đủ cho nhiều mô hình thuộc nhóm 27 tỷ đến 30 tỷ tham số, đồng thời để lại dung lượng cho bộ nhớ đệm KV và các ứng dụng khác. Tuy nhiên, dung lượng lớn hơn không giải quyết được điểm nghẽn băng thông bộ nhớ, như kết quả của Qwen 3.8 27B bản 8 bit cho thấy.
The New Stack mô tả cấu hình RAM 64 GB là “một khoảng khá lạ”. Nhiều mô hình nhỏ hơn hiện thuộc nhóm 27 tỷ đến 30 tỷ tham số, nên dung lượng bổ sung chủ yếu tạo khoảng trống cho bộ nhớ đệm KV và phần mềm khác. Trong khi đó, chưa có nhiều mô hình nằm trong khoảng dung lượng 32 đến 48 GB để khai thác hết phần bộ nhớ còn lại.
Theo The New Stack, nâng lên RAM 128 GB đưa giá Surface Laptop Ultra lên 5.900 USD. Cấu hình này chứa được các mô hình lớn hơn, nhưng người mua vẫn cần kiểm tra liệu mô hình thực tế có tận dụng được lượng bộ nhớ tăng thêm hay không. RAM lớn không tự động khắc phục giới hạn băng thông.
Sức mạnh đi cùng nhiệt độ và tiếng quạt
Surface Laptop Ultra nóng lên và phát ra tiếng quạt rõ ràng khi xử lý truy vấn AI phức tạp trong thời gian dài. Hai quạt lắng xuống nhanh sau khi tải GPU giảm, còn máy thường hoạt động yên tĩnh trong các tác vụ hằng ngày không dùng nhiều tài nguyên.
Microsoft công bố Surface Laptop Ultra đạt tối đa 1 petaflop hiệu năng AI FP4. Theo trải nghiệm của The New Stack, lượng năng lực tính toán đó khiến máy nóng lên và hai quạt phát ra tiếng đủ rõ khi AI xử lý truy vấn phức tạp trong thời gian dài.
Tiếng quạt không quá lớn, nhưng có thể gây khó chịu khi Hermes hoặc một tác tử lập trình phải chạy liên tục. Đây là yếu tố cần tính đến với người dùng hạ tầng AI tại chỗ vì tải kéo dài khác đáng kể so với vài lượt hỏi đáp ngắn.
Khi không chạy tải nặng, máy hoạt động yên tĩnh và quạt thường không quay trong phần lớn tác vụ hằng ngày. Sau khi tải GPU giảm, tiếng quạt cũng lắng xuống nhanh. The New Stack lưu ý Surface RTX Spark Dev Box dùng cùng nền tảng N1X có khoảng một nghìn khe thông gió, cho thấy kiểm soát nhiệt là một phần quan trọng của thiết kế.
Những điểm đáng chú ý ngoài hiệu năng AI
Ngoài khả năng chạy AI, Surface Laptop Ultra có bàn di chuột xúc giác, màn hình cảm ứng 15 inch tỷ lệ 3:2, hệ thống cổng kết nối đa dạng và ổ SSD có thể thay thế. Máy cũng chạy được một số trò chơi ở độ phân giải cao, nhưng khối lượng 2 kg và màn hình phản chiếu có thể ảnh hưởng đến trải nghiệm di động.
Bàn di chuột có kích thước lớn và hỗ trợ phản hồi xúc giác. Theo The New Stack, hiện chỉ một số ứng dụng hỗ trợ tính năng này, trong đó có DaVinci Resolve. Khi chỉnh sửa, phản hồi xúc giác giúp người dùng cảm nhận thời điểm vạch phát bám đúng vị trí.
Hệ thống loa tạo trường âm thanh nổi rộng nhờ các khe thoát âm ở hai bên gần mép trước. Đầu nối sạc USB-C nam châm mới mang lại cảm giác tương tự cổng Connect trên các thiết bị Surface khác, dù dây sạc rời cũng dễ bị thất lạc.
Trò chơi và màn hình
Microsoft không quảng bá Surface Laptop Ultra như một máy tính chơi trò chơi, nhưng The New Stack vẫn kiểm tra khả năng này. Cyberpunk 2077 chạy ở độ phân giải 2K, bật dò tia và đạt khoảng 60 khung hình mỗi giây. Khi bật tạo khung hình và điều chỉnh một số thiết lập, độ phân giải 4K cũng khả thi. Bản làm lại của The Witcher 3 đạt 60 khung hình mỗi giây ở 4K khi tắt dò tia.
Màn hình cảm ứng 15 inch có tỷ lệ 3:2 và độ phân giải 3270 × 2180. The New Stack đánh giá độ phân giải này gần với một màn hình 3K nâng cao, nên chạy trò chơi ở 4K chỉ thực sự có ý nghĩa khi nối màn hình ngoài. Màn hình sáng và hiển thị đẹp, nhưng bề mặt phản chiếu mạnh có thể gây mất tập trung.
Windows ARM, cổng kết nối và khả năng nâng cấp
Windows trên ARM ổn định hơn so với một năm trước. The New Stack không gặp vấn đề trong thời gian thử nghiệm, dù vẫn có ứng dụng hoặc trò chơi không chạy được hay hoạt động chưa tốt. Ngày càng nhiều nhà phát triển, trong đó có OpenCode, cung cấp ứng dụng dành cho Windows ARM64.
Khả năng kết nối gồm hai cổng USB-C, một cổng USB-A, một cổng HDMI, giắc tai nghe và khe đọc thẻ SD. Số cổng này có thể giúp người dùng phụ kiện cũ không phải mang thêm bộ chia USB-C.
Theo The New Stack, máy nặng 4,41 pound, tương đương 2 kg, nên khác biệt dễ nhận thấy với người đã quen dùng MacBook Air. Ổ SSD có thể thay thế bằng cách tháo bốn vít ở mặt dưới, và việc mở máy không làm mất bảo hành.
Surface Laptop Ultra phù hợp với ai?
Surface Laptop Ultra phù hợp với người cần máy Windows ARM có GPU mạnh để phát triển và thử nghiệm AI cục bộ khi di chuyển. Máy kém phù hợp hơn nếu công việc yêu cầu duy trì tải nặng bằng pin, ưu tiên hoạt động yên tĩnh hoặc cần một thiết bị nhẹ để mang theo thường xuyên.
Kết quả của The New Stack cho thấy máy chạy AI cục bộ nhanh khi mô hình dùng lượng tử hóa phù hợp hoặc kiến trúc hỗn hợp chuyên gia. Nemotron 3.5 Bolt và Gemma 4 26B-A4B cho tốc độ sử dụng thực tế tốt hơn Qwen 3.8 27B bản 8 bit, trong khi Qwen cải thiện rõ rệt khi chuyển xuống 4 bit.
Người dùng phải chấp nhận hiệu năng giảm khi dùng pin, thời lượng hoạt động ngắn hơn dưới tải AI liên tục, tiếng quạt và khối lượng 2 kg. Nếu công việc chủ yếu diễn ra tại bàn, yêu cầu yên tĩnh hoặc cần duy trì tải lâu, các giới hạn này cần được tính trước khi chọn máy.
Hãy theo dõi Sine để tiếp tục cập nhật các thử nghiệm AI cục bộ trên phần cứng cá nhân.
