Lola Vision Systems phát triển phần mềm chuyển mã và mô hình trí tuệ nhân tạo thành tập lệnh cho từng loại chip. Công ty muốn rút ngắn quá trình triển khai AI trên thiết bị. Họ cũng phát triển chip riêng để tự động hóa thêm các công đoạn.
Gần 12 năm trước, Tayo Adesanya bắt đầu làm việc với vi mạch và bộ xử lý trí tuệ nhân tạo. Ông chủ yếu giúp các nhà sản xuất lớn lựa chọn loại chip phù hợp cho thiết bị. Adesanya nói với TechCrunch rằng công việc này cho ông cái nhìn sớm về thị trường. Ông nhận thấy nhu cầu điện toán trí tuệ nhân tạo đang thay đổi theo hướng nào.
Adesanya thành lập Lola Vision Systems vào năm 2024. Công ty hiện đặt trụ sở tại Washington, D.C. Doanh nghiệp này xây dựng phần mềm và chip để chạy mô hình trí tuệ nhân tạo trực tiếp trên thiết bị. Công nghệ này thuộc lớp hạ tầng trí tuệ nhân tạo kết nối mô hình phần mềm với phần cứng thực thi.
Phần mềm của Lola Vision Systems xử lý nội dung như thế nào?
Phần mềm của Lola Vision Systems nhận mã và mô hình AI từ khách hàng. Sau đó, phần mềm chuyển chúng thành chỉ dẫn mà một loại chip cụ thể có thể thực hiện. Adesanya gọi hệ thống này là một chuỗi công cụ biên dịch.
Khách hàng có thể cung cấp mô hình tự phát triển hoặc mô hình nguồn mở. Phần mềm xử lý cả mã lẫn mô hình để tạo ra tập lệnh phù hợp với phần cứng mà khách hàng đang sử dụng.
Theo Adesanya, việc thiết lập thủ công một mô hình trên phần cứng mới có thể mất khoảng 200 giờ. Khoảng thời gian đó mới chỉ đưa hệ thống đến bước bắt đầu thử nghiệm. Lola Vision Systems cho biết công ty đã xây dựng lại lớp phần mềm này. Công ty cũng đang phát triển chip bán dẫn riêng để tự động hóa thêm nhiều công đoạn.
Vì sao thời gian triển khai AI trên chip quan trọng?
Thời gian thiết lập ngắn hơn giúp các nhóm kỹ thuật có thêm thời gian kiểm tra. Họ có thể đánh giá độ chính xác, độ tin cậy và mức tiêu thụ điện. Những yếu tố này đặc biệt quan trọng với doanh nghiệp hàng không vũ trụ và các đơn vị vận hành hệ thống có nhiệm vụ trọng yếu.
Theo Adesanya, quá trình triển khai nhanh hơn giúp các tổ chức chạy những mô hình chính xác hơn trên dữ liệu của họ và giảm điện năng cần thiết. Với các hệ thống hoạt động ngoài thực địa, độ chính xác và độ tin cậy còn ảnh hưởng đến khả năng vượt qua quy trình đánh giá theo quy định.
Lola Vision Systems phát triển phần mềm và chip để chạy mô hình AI trên thiết bị, khác với việc dùng trí tuệ nhân tạo trong thiết kế phần cứng.
Lola Vision Systems giải quyết hạn chế nào của điện toán biên?
Lola Vision Systems tập trung vào các lỗi thiết lập, thời gian sửa lỗi, giới hạn xử lý và mức tiêu thụ điện khi chạy AI trực tiếp trên thiết bị. Những vấn đề này có thể khiến mô hình nhận dạng không đạt mục tiêu đề ra hoặc nhận diện sai vật thể.
Công ty là một trong nhiều doanh nghiệp khởi nghiệp muốn tạo ra lựa chọn thay thế cho công nghệ của NVIDIA. Các lựa chọn này phục vụ việc chạy trí tuệ nhân tạo trên thiết bị. Adesanya cho biết nhiều công ty bắt đầu với Jetson của Nvidia hoặc các mô hình nguồn mở. Jetson là dòng mô đun điện toán nhỏ gọn dành cho tác vụ AI tại thiết bị.
Theo Adesanya, những hệ thống này có thể gặp lỗi hoặc hoạt động kém khi mới thiết lập. Các nhóm kỹ thuật đôi khi mất nhiều ngày hoặc nhiều tuần để hệ thống chạy được. Sau đó, họ tiếp tục sửa lỗi trước khi mô hình có thể sử dụng.
Ngay cả khi đã hoàn tất quá trình thiết lập, mức tiêu thụ điện có thể vượt ngân sách dành cho điện toán biên. Bo mạch cũng có thể không cung cấp đủ năng lực xử lý cho những mô hình cỡ vừa và lớn mà sản phẩm cần. Theo Adesanya, hệ quả là mô hình nhận dạng không đạt mục tiêu đề ra hoặc nhận diện sai vật thể.
Điện toán biên là việc chạy trí tuệ nhân tạo ngay trên thiết bị, chẳng hạn như máy ảnh hoặc thiết bị bay không người lái, thay vì gửi dữ liệu đến một trung tâm dữ liệu ở xa.
Kế hoạch thương mại hóa phần mềm và chip
Trong thời gian chờ chip riêng, Lola Vision Systems dự định cấp phép phần mềm trên các loại phần cứng đang lưu hành. Mô hình này cho phép công ty tạo doanh thu trước khi chip của họ sẵn sàng.
Theo Lola Vision Systems, 12 khách hàng doanh nghiệp đã ký thư bày tỏ ý định mua chip khi sản phẩm được đưa ra thị trường. Công ty cũng cho biết đã có một khách hàng ký kết. Ngoài ra, công ty đang hợp tác với SCALE, chương trình phát triển nhân lực vi điện tử. Quan hệ này giúp Lola Vision Systems làm việc cùng nhiều phòng thí nghiệm bán dẫn hơn.
Adesanya cho biết Lola Vision Systems đã huy động tổng cộng hơn 1 triệu USD. Công ty dự kiến cấp phép phần mềm trên phần cứng hiện có để tạo doanh thu sớm hơn trong khi tiếp tục phát triển chip bán dẫn riêng.
Lola Vision Systems tại Battlefield 200
Sau khoảng một năm phát triển sản phẩm và ký khách hàng đầu tiên, Lola Vision Systems được chọn vào Battlefield 200 của TechCrunch, chương trình gồm 200 doanh nghiệp khởi nghiệp.
Adesanya cho biết TechCrunch từng là một ấn phẩm ông yêu thích khi còn học tại Đại học Purdue. Ông xem chương trình là cơ hội đưa công ty đến với nhiều người hơn, tìm hiểu diễn biến trong lĩnh vực và gặp các nhà đầu tư.
TechCrunch Disrupt diễn ra tại San Francisco từ ngày 13 đến 15 tháng 10. Khi nói về mục tiêu tại sự kiện, Adesanya cho biết ông “mong các nhà đầu tư sẽ viết séc”.
Nếu quan tâm đến cách phần mềm đang thay đổi quan hệ giữa mô hình trí tuệ nhân tạo và chip, bạn có thể tiếp tục theo dõi các bài phân tích công nghệ mới trên Sine.
