Flint là mô hình lập trình miễn phí của Recursive, có thể chạy trực tiếp trên máy tính xách tay và giữ mã nguồn trên thiết bị. Mô hình chỉ kích hoạt 2,5 tỷ trong tổng số 40 tỷ tham số cho mỗi tác vụ. Recursive cho biết hệ thống nghiên cứu AI Eureka Machine đã tham gia gần như toàn bộ quá trình phát triển Flint trong chưa đầy 4 tháng.
Theo TechCrunch, Recursive phát hành Flint vào thứ Tư. Đây là mô hình đầu tiên của startup AI được thành lập năm ngoái. Flint cũng là thử nghiệm ban đầu về việc dùng AI để xây dựng thế hệ AI tiếp theo.
Nội dung thử nghiệm khả năng AI tự cải thiện của Flint
Flint là phép thử công khai ban đầu cho ý tưởng tự cải thiện đệ quy. Theo ý tưởng này, một hệ thống AI góp phần tạo ra mô hình tốt hơn. Mô hình mới sau đó hỗ trợ phát triển thế hệ kế tiếp. Hiện tại, Eureka Machine hoạt động như một trợ lý nghiên cứu AI dưới sự giám sát của con người.
Một số nhà nghiên cứu lo ngại AI tự cải thiện có thể phát triển vượt khỏi tầm kiểm soát của con người. Cách tiếp cận hiện tại của Recursive hẹp hơn viễn cảnh đó. Eureka Machine hoạt động như một trợ lý nghiên cứu AI và đã góp phần tạo ra mô hình đủ nhỏ để chạy trên laptop. Cách làm này liên quan trực tiếp đến câu hỏi rộng hơn về rủi ro khi AI có thêm năng lực và quyền tự chủ.
Theo TechCrunch, Recursive công khai hoạt động vào tháng 5 sau khi huy động 650 triệu USD. Công ty khi đó được định giá 4,65 tỷ USD. Các nhà đầu tư gồm GV, Nvidia và AMD Ventures. Công ty do Richard Socher, cựu khoa học gia trưởng của Salesforce, điều hành.
Flint chạy cục bộ, miễn phí và giữ mã nguồn trên máy
Flint xử lý yêu cầu trên máy tính của người dùng thay vì gửi mã đến máy chủ đám mây của nhà cung cấp. Nhà phát triển có thể dùng mô hình khi không có kết nối mạng, giữ mã nguồn trên thiết bị và không phải trả phí sử dụng dựa trên lượng văn bản được xử lý.
Theo TechCrunch, Flint được cung cấp miễn phí trên Hugging Face theo giấy phép Apache 2.0, cho phép sử dụng và chỉnh sửa. Việc xử lý mã ngay trên thiết bị cũng đặt Flint vào cùng cuộc thảo luận với các hệ thống phân quyền dữ liệu và mô hình AI, nơi vị trí xử lý quyết định ai có thể tiếp cận thông tin.
Flint chỉ kích hoạt 2,5 tỷ trong tổng số 40 tỷ tham số
Flint sử dụng kiến trúc hỗn hợp chuyên gia và chỉ kích hoạt 2,5 tỷ trong tổng số 40 tỷ tham số cho mỗi tác vụ. Theo TechCrunch, việc không vận hành toàn bộ tham số cùng lúc giúp mô hình đủ nhẹ để chạy trên một máy tính xách tay thông thường.
Quy mô của Flint nhỏ hơn đáng kể so với Muse Spark Open của Meta, một mô hình mở dành cho máy Mac được phát hành vào tuần trước. TechCrunch cho biết Muse Spark Open có 816 tỷ tham số và cần ít nhất 1 terabyte bộ nhớ.
Sự khác biệt về số tham số được kích hoạt cho thấy tài nguyên tính toán vẫn quyết định nơi một mô hình có thể hoạt động. Bài viết về hạ tầng AI và cách vận hành giải thích các lớp tài nguyên đứng sau quá trình chạy mô hình.
Flint đạt hơn 150 token mỗi giây trên RTX Spark
Trong thử nghiệm do Recursive công bố, Flint tạo khoảng 131 token mỗi giây trên MacBook Pro dùng chip Apple M4 Pro. Tốc độ trên RTX Spark của Nvidia vượt 150 token mỗi giây. Đây là số liệu của công ty, chưa phải kết quả đánh giá độc lập trên mọi thiết bị hoặc tác vụ lập trình.
Theo số liệu Recursive cung cấp và TechCrunch đăng lại, tốc độ 131 token mỗi giây gần gấp đôi mức 58 đến 69 token mỗi giây của các mô hình tương tự chạy trên cùng thiết bị, gồm Gemma 4 của Google và Nemotron 3.5 Lightning của Nvidia.
Recursive cũng cho biết Flint vượt các mô hình dưới 50 tỷ tham số trong SWE-Bench Verified. Bộ đo này đánh giá khả năng sửa lỗi phần mềm thực tế của AI. Trong điểm trung bình do công ty tổng hợp từ 6 bài kiểm tra, chỉ Qwen3.8 27B của Alibaba đạt kết quả cao hơn Flint.
Flint vẫn cần người dùng chia nhỏ nhiệm vụ
Flint cần nhiều hướng dẫn hơn các trợ lý lập trình trả phí cỡ lớn. Recursive khuyến nghị người dùng chia nhiệm vụ lớn thành những bước nhỏ thay vì giao toàn bộ yêu cầu trong một lần.
Đánh giá được TechCrunch dẫn lại cho biết Will Knight của Wired đã dùng Flint trên máy Mac có 48 GB bộ nhớ. Ông tạo nhiều chương trình, gồm ứng dụng quản lý việc cần làm và công cụ tìm kiếm tài liệu nghiên cứu trên mạng.
Knight nhận thấy các mô hình lập trình nhỏ thường chậm hoặc gặp lỗi nhiều hơn Claude và Codex. Tuy vậy, Flint hoàn thành đúng mọi yêu cầu lập trình trong lần thử của ông. Kết quả từ một lần thử không đại diện cho mọi tác vụ, nhưng cho thấy mô hình nhỏ chạy cục bộ có thể xử lý một số công việc thực tế. Đây cũng là ví dụ trong cuộc tranh luận về việc AI thay đổi công việc của kỹ sư phần mềm.
Eureka Machine đã góp phần xây dựng Flint ra sao
Eureka Machine đề xuất ý tưởng, tiến hành thí nghiệm và dùng kết quả để chọn hướng thử tiếp theo. Theo Recursive, hệ thống tham gia gần như toàn bộ quá trình xây dựng Flint, từ huấn luyện ban đầu và huấn luyện sau đó đến suy luận, trong khi con người vẫn giám sát quy trình.
Công ty cho biết Eureka Machine đã góp phần tạo ra cấu trúc mô hình thưa hơn, các nhân tính toán tùy chỉnh và phương pháp huấn luyện số bit thấp. Phương pháp này giảm kích thước Flint 71% mà gần như không làm giảm chất lượng, theo số liệu do Recursive công bố.
Recursive chưa công bố Eureka Machine đã tiết kiệm bao nhiêu thời gian cho đội ngũ nghiên cứu. Theo thông tin TechCrunch dẫn từ OpenAI, đến giữa tháng 8, các tác tử AI của OpenAI ghi nhận 3,1 ngày làm việc cho mỗi 1 ngày làm việc của một nhà nghiên cứu con người.
Mục tiêu dài hạn của Recursive vẫn cần con người giám sát
Recursive muốn mỗi mô hình mới đảm nhận các giai đoạn công việc dài hơn mà không cần con người hỗ trợ liên tục. Richard Socher nói với Wired rằng mục tiêu dài hạn là đưa Eureka Machine đến khả năng tự cải thiện đệ quy hoàn toàn. Con người hiện vẫn giám sát và có thể dừng hệ thống nếu xảy ra sự cố.
Recursive từng nói với TechCrunch rằng thỏa thuận điện toán trị giá 410 triệu USD ký với Amazon Web Services vào tháng 6 tập trung ít hơn vào số lượng nhân sự và nhiều hơn vào số lượng tác tử. Theo công ty, mỗi mô hình mới sẽ giúp Eureka Machine thực hiện nghiên cứu tốt hơn và xây dựng thế hệ tiếp theo nhanh hơn.
Hãy tiếp tục theo dõi Sine để cập nhật cách các mô hình AI chạy cục bộ đang thay đổi công việc lập trình.
