Perplexity muốn tận dụng nhiều hơn năng lực tính toán vốn có trên máy Mac. Theo The New Stack, Hybrid Compute cho phép Perplexity Computer chuyển từng phần của một tác vụ giữa hai môi trường. Các mô hình mạnh chạy trên đám mây, còn những mô hình nhỏ hơn chạy trực tiếp trên chip Apple.
Công việc vẫn bắt đầu trên đám mây. Nếu một bước liên quan đến thông tin nhạy cảm, Perplexity Computer có thể chuyển riêng bước đó sang mô hình trên máy Mac. Toàn bộ tác vụ không phải khởi động lại.
Hybrid Compute xuất hiện đúng ngày đầu John Ternus đảm nhiệm vị trí tổng giám đốc Apple. The New Stack cho biết ông kế nhiệm Tim Cook sau 15 năm Cook giữ chức vụ này. Ternus từng lãnh đạo bộ phận kỹ thuật phần cứng. Ông cũng đóng vai trò quan trọng khi Apple chuyển từ bộ xử lý Intel sang chip do hãng tự phát triển.
Nội dung về cổng quyền riêng tư kiểm tra dữ liệu trước
Một hệ thống mang tên Privacy Gate, do Perplexity huấn luyện, chạy ngay trên máy Mac để tìm tên, địa chỉ, số tài khoản và các thông tin bí mật. Khi hệ thống phát hiện dữ liệu nhạy cảm, người dùng quyết định phần việc tương ứng có cần được giữ lại trên thiết bị hay không.
Trước khi tác vụ bắt đầu, người dùng có thể xem lại những dữ liệu Perplexity đề xuất xử lý cục bộ. Bước kiểm tra này cũng giúp họ bổ sung những thông tin không muốn gửi lên đám mây nếu hệ thống bỏ sót.
Người dùng còn được chọn mô hình đảm nhiệm phần việc trên máy. Theo The New Stack, lựa chọn ban đầu gồm Gemma E4B, Qwen3.6 35B-A3B và một phiên bản Qwen3.6 35B được Perplexity huấn luyện bổ sung. Perplexity dự kiến hỗ trợ thêm các mô hình khác sau đó.
Việc cài đặt được thực hiện qua ứng dụng Perplexity trên máy tính. Người dùng không cần mở cửa sổ dòng lệnh hoặc tự cấu hình mô hình, một khác biệt đáng chú ý khi so với cách triển khai mô hình cục bộ thông thường.
Mã thông báo tạo trên máy Mac không bị tính phí
Trong lúc tác vụ chạy, ứng dụng hiển thị mức sử dụng bộ xử lý trung tâm, bộ xử lý đồ họa, bộ nhớ và lượng mã thông báo đã tiêu thụ. The New Stack cho biết Perplexity không thu phí đối với mã thông báo do mô hình chạy cục bộ trên máy Mac tạo ra.
Vì vậy, chuyển một phần công việc xuống thiết bị không chỉ phục vụ quyền riêng tư. Cách làm này còn có thể giảm chi phí suy luận mà Perplexity phải gánh khi vận hành mô hình trên hạ tầng đám mây. Đây là một ví dụ cụ thể về cách hạ tầng AI được tổ chức và vận hành khi tài nguyên tính toán nằm ở cả máy chủ lẫn thiết bị của người dùng.
Sự đánh đổi nằm ở năng lực của mô hình. Perplexity dùng những mô hình mạnh nhất trên đám mây, còn máy Mac xử lý công việc bằng các mô hình nhỏ hơn. Giữ nhiều dữ liệu trên thiết bị có thể tăng tính riêng tư và giảm chi phí, nhưng một số bước có thể được thực hiện bằng mô hình kém năng lực hơn. Hybrid Compute để người dùng tự lựa chọn điểm cân bằng này.
Ngữ cảnh phải đi qua ranh giới đám mây và thiết bị
Khó khăn lớn hơn xuất hiện khi tác vụ chuyển từ đám mây xuống máy Mac. Mô hình trên đám mây vẫn cần biết đủ về kết quả xử lý cục bộ để tiếp tục công việc, nhưng không được tiếp cận phần thông tin riêng tư vốn phải nằm lại trên thiết bị.
Perplexity nói Computer có thể chuyển một bước xử lý sang mô hình cục bộ mà không làm mất ngữ cảnh hoặc buộc người dùng bắt đầu lại. Kết quả từ phần việc trên đám mây và máy Mac sau đó được hợp nhất thành một đầu ra duy nhất.
Tuy nhiên, thông báo của Perplexity chưa giải thích chính xác phần ngữ cảnh nào được truyền giữa hai môi trường. Công ty cũng chưa nêu rõ cách lọc thông tin do tác nhân phụ trên máy Mac tạo ra trước khi dữ liệu quay lại quy trình xử lý rộng hơn.
Tác nhân phụ cục bộ có thể làm việc với tệp riêng tư, sử dụng dữ liệu trên máy và thực hiện hành động trong macOS. Người dùng cũng có thể khởi tạo tác vụ trên iPhone rồi giao phần xử lý cục bộ cho máy Mac mà không phải làm lại từ đầu. Cơ chế phân chia công việc này liên quan trực tiếp đến cách tác nhân AI lựa chọn công cụ và thực hiện nhiệm vụ.
Đối với khách hàng doanh nghiệp, Perplexity bổ sung quy tắc áp dụng cho toàn công ty về những dữ liệu phải ở lại thiết bị. Hệ thống cũng lưu lại thông tin nào đã rời khỏi từng máy, đưa yêu cầu quản trị tác nhân AI xuống cấp độ thiết bị cá nhân.
Cách vận hành trên máy Mac khác với DGX Spark
Hybrid Compute đảo ngược cách Perplexity áp dụng cho Nvidia DGX Spark trước đó một tuần. Theo The New Stack, DGX Spark bắt đầu tác vụ ngay trên thiết bị. Hệ thống chỉ kết nối tới các mô hình tiên tiến trên đám mây khi người dùng cho phép. Phiên bản dành cho máy Mac bắt đầu trên đám mây rồi mới chuyển phần việc xuống thiết bị khi cần.
Trong cả hai trường hợp, hệ thống điều phối tác nhân quyết định từng phần công việc sẽ chạy ở đâu. Việc xác định công cụ và lượng ngữ cảnh mà tác nhân thực sự cần ngày càng phức tạp khi tác nhân được cấp quyền truy cập vào nhiều hệ thống và nguồn dữ liệu hơn. Đây cũng là nền tảng của quá trình tích hợp AI ở quy mô lớn, nơi cách phân phối tài nguyên có thể quan trọng không kém bản thân mô hình.
Chip Apple trở thành một phần của hệ thống tác nhân
Chạy một phần đáng kể của tác nhân AI trên thiết bị vẫn đòi hỏi máy Mac tương đối mạnh. The New Stack dẫn khuyến nghị của Perplexity là máy dùng chip Apple, có ít nhất 32 GB bộ nhớ hợp nhất và chạy macOS 15. Tính năng này dành cho người đăng ký gói Pro, Max và khách hàng doanh nghiệp.
Yêu cầu phần cứng cho thấy giới hạn hiện tại của AI cục bộ. Nhiều máy Mac có thể chạy mô hình nhỏ, nhưng một tác nhân cần đủ tài nguyên để xử lý công việc đáng kể vẫn phải dựa vào cấu hình thuộc nhóm cao.
Khi máy Mac có khả năng vận hành những mô hình lớn hơn, tỷ lệ công việc chuyển khỏi đám mây có thể tiếp tục tăng. Hướng đi của Perplexity đặt máy tính cá nhân vào chính quy trình xử lý AI, thay vì chỉ dùng nó làm thiết bị gửi yêu cầu và nhận kết quả.
Nếu đang theo dõi cách AI chuyển dần từ đám mây xuống thiết bị cá nhân, bạn có thể tiếp tục đọc các phân tích công nghệ mới trên Sine.
