AI điều khiển máy bay, phương tiện hoặc robot chỉ nên được triển khai khi tổ chức có đủ bằng chứng về khả năng vận hành an toàn. Tổ chức cũng cần phương án kiểm soát rủi ro, đồng thời tính đến trải nghiệm người dùng và khả năng tiếp nhận công nghệ. Shield AI tập trung vào nhiệm vụ hàng không rủi ro cao. Waabi dùng mô phỏng xe tự hành, còn General Motors phát triển robot làm việc bên cạnh con người.
Một chatbot AI trả lời sai có thể khiến người dùng mất thời gian. Một hệ thống AI điều khiển máy bay, phương tiện hoặc robot có thể gây tai nạn, làm gián đoạn nhiệm vụ hoặc khiến thiết bị phải ngừng hoạt động. Khi AI bước ra khỏi phòng thí nghiệm, tiêu chuẩn gần hoàn thiện không còn đủ.
Theo TechCrunch, Nathan Michael của Shield AI, Raquel Urtasun của Waabi và Mikell Taylor của General Motors sẽ tham gia thảo luận. Họ sẽ giải thích cách xây dựng AI trong những lĩnh vực mà thất bại có thể gây hậu quả trực tiếp. Phiên trao đổi tập trung vào văn hóa an toàn, kiểm thử và xác nhận hệ thống. Nội dung cũng đề cập đến yêu cầu pháp lý và niềm tin trước khi triển khai ngoài đời thực.
Chủ đề này nối tiếp các cuộc thảo luận về an toàn AI tại Disrupt 2026. Điểm khác biệt nằm ở hậu quả trực tiếp: phần mềm tự hành không chỉ tạo nội dung mà còn đưa ra quyết định làm thay đổi chuyển động của máy bay, xe hoặc robot trong không gian có con người.
Shield AI xây hệ thống tự chủ cho nhiệm vụ rủi ro cao
Shield AI phải chứng minh phần mềm tự chủ Hivemind có thể duy trì hoạt động đáng tin cậy trên nhiều nền tảng và trong môi trường rủi ro cao. Hiệu năng của mô hình chỉ là một phần của bằng chứng. Hệ thống còn cần quy trình kiểm thử và bảo đảm an toàn phù hợp với hậu quả của từng nhiệm vụ.
Kinh nghiệm phát triển Hivemind
Nathan Michael, Giám đốc công nghệ của Shield AI, phụ trách phát triển và triển khai Hivemind, phần mềm tự chủ thực hiện nhiệm vụ có thể hoạt động trên nhiều nền tảng. Kinh nghiệm của ông trải rộng từ AI, điều khiển và nhận thức máy đến các hệ thống nhiều robot.
Trước khi làm việc tại Shield AI, Michael có nhiều năm gắn bó với Viện Robot thuộc Đại học Carnegie Mellon. Tại đây, ông điều hành Phòng thí nghiệm Hệ thống Thông minh Bền bỉ. Nền tảng đó gắn trực tiếp với bài toán Shield AI đang theo đuổi. Đó là duy trì khả năng hoạt động của hệ thống tự chủ trong môi trường có mức rủi ro cao.
Theo TechCrunch, Hivemind được chọn vào tháng 2 năm 2026 làm nhà cung cấp công nghệ tự chủ cho một chương trình của Không quân Mỹ. Chương trình này phát triển nguyên mẫu máy bay chiến đấu phối hợp không người lái. Một tháng sau, Shield AI công bố huy động 1,5 tỷ USD trong vòng G. Mức định giá sau đầu tư là 12,7 tỷ USD.
Quy mô đầu tư không tự chứng minh Hivemind đã sẵn sàng cho mọi nhiệm vụ. Shield AI vẫn phải cho thấy hệ thống có thể đáp ứng các yêu cầu vận hành cụ thể, vì một lỗi phần mềm có thể ảnh hưởng đến toàn bộ nhiệm vụ.
Waabi dùng mô phỏng để kiểm thử xe tự hành
Waabi dùng môi trường mô phỏng Waabi World để huấn luyện, kiểm thử và đặt hệ thống Waabi Driver vào các tình huống gây áp lực trước khi xe gặp chúng trên đường thật. Tuy nhiên, kết quả trong mô phỏng chưa thay thế bước xác nhận đầy đủ cần thiết để xe tải tự hành vận hành mà không có tài xế.
Raquel Urtasun đã làm việc trong lĩnh vực AI và xe tự hành suốt 25 năm. Trước khi thành lập Waabi, bà là nhà khoa học trưởng kiêm lãnh đạo nghiên cứu và phát triển tại Uber ATG. Theo TechCrunch, Urtasun còn là giáo sư khoa học máy tính tại Đại học Toronto và đồng sáng lập Viện Vector về AI. Bà đã công bố hơn 200 công trình nghiên cứu AI.
Waabi đang chuẩn bị đưa công nghệ tự hành sang quy mô lớn hơn. TechCrunch cho biết công ty huy động 1 tỷ USD vào tháng 1 năm 2026 và công bố hợp tác với Uber để hỗ trợ triển khai ít nhất 25.000 xe taxi tự hành sử dụng Waabi Driver.
Mô phỏng trước khi thử nghiệm trên đường
Waabi World cho phép nhóm phát triển kiểm tra nhiều kịch bản trong môi trường ảo. Việc này diễn ra trước khi phương tiện đối diện với các tình huống đó trên đường công cộng. Cách làm này mở rộng phạm vi kiểm thử mà không cần biến mỗi tình huống thành một thử nghiệm ngoài đời thực.
Dù vậy, Urtasun cho biết xe tải tự hành của Waabi vẫn cần được xác nhận đầy đủ trước khi có thể vận hành mà không cần tài xế. Nhận định này phân biệt một hệ thống thể hiện tốt trong thử nghiệm với một hệ thống đã sẵn sàng chịu trách nhiệm trên đường công cộng.
Cách kiểm thử của Waabi có điểm tương đồng với nhu cầu xác minh kết quả trong các hệ thống phần mềm quy mô lớn. Khi số lượng tình huống tăng lên, một vài màn trình diễn thành công không đủ để kết luận hệ thống đã an toàn.
General Motors đặt con người vào quá trình triển khai robot
Kinh nghiệm của Mikell Taylor cho thấy trải nghiệm người dùng và khả năng tiếp nhận robot cần được tính đến từ khâu thiết kế và lập kế hoạch triển khai. Một robot hoàn thành nhiệm vụ trong khu vực trình diễn vẫn có thể không phù hợp với nơi làm việc nếu nó không thể hoạt động hiệu quả bên cạnh con người.
Mikell Taylor đã có hơn hai thập kỷ xây dựng robot phục vụ công việc thực tế. Hiện bà phụ trách chiến lược robot tại Trung tâm Robot Tự chủ của General Motors. Trước đó, Taylor lãnh đạo nhóm Amazon Robotics phát triển Proteus, robot di động tự chủ đầu tiên của Amazon, theo TechCrunch.
Sự nghiệp robot của Taylor bắt đầu bằng một dự án cá nhân. Bà từng chế tạo một robot làm bạn đồng hành trong dạ hội cuối cấp. Sau đó, bà làm việc với nhiều loại hệ thống, từ phương tiện tự hành dưới nước đến robot công nghiệp. Mục tiêu xuyên suốt là tạo ra robot hữu ích, đáng tin cậy và có thể hoạt động hiệu quả bên cạnh con người.
Robot phải phù hợp với nơi làm việc
Kinh nghiệm của Taylor đưa điều kiện sử dụng thực tế vào cuộc thảo luận. Một robot có thể hoàn thành nhiệm vụ trong khu vực trình diễn được kiểm soát nhưng vẫn không phù hợp với nơi làm việc. Tại đó, robot cần hoạt động hiệu quả bên cạnh những người sử dụng và phối hợp với nó.
Vì vậy, trải nghiệm người dùng và khả năng tiếp nhận công nghệ cần được xem xét từ giai đoạn thiết kế và lập kế hoạch triển khai. Robot phải hữu ích, đáng tin cậy và có thể hoạt động hiệu quả quanh con người trong môi trường làm việc thực tế.
Ba lĩnh vực cùng đối diện một câu hỏi
Máy bay tự chủ, xe không người lái và robot công nghiệp đều cần bằng chứng trước khi được đưa vào vận hành. Bằng chứng đó phải bao quát hiệu năng kỹ thuật, kết quả kiểm thử, yêu cầu pháp lý, điều kiện vận hành và khả năng kiểm soát rủi ro khi hệ thống gặp tình huống ngoài dự kiến.
Shield AI mang đến góc nhìn từ các nhiệm vụ hàng không có mức rủi ro cao. Waabi tập trung vào mô phỏng, kiểm thử và xác nhận xe tự hành trước khi bỏ tài xế. General Motors nhấn mạnh mối quan hệ giữa robot và những người phải làm việc cùng chúng mỗi ngày.
Các cách tiếp cận khác nhau cùng dẫn tới một câu hỏi: bằng chứng nào đủ để đưa hệ thống AI vào vận hành khi sai sót có thể gây hậu quả trực tiếp?
| Tổ chức | Lĩnh vực | Trọng tâm triển khai |
|---|---|---|
| Shield AI | Máy bay tự chủ | Độ tin cậy trong nhiệm vụ rủi ro cao |
| Waabi | Xe tự hành | Mô phỏng, kiểm thử và xác nhận |
| General Motors | Robot | Khả năng phối hợp với con người |
Việc triển khai AI vật lý không thể chỉ dựa trên độ chính xác của mô hình. Hệ thống còn phải vượt qua quy trình kiểm thử, yêu cầu pháp lý, kế hoạch vận hành và sự chấp nhận của con người. Các cuộc tranh luận về mức quyền nên trao cho AI trở nên cụ thể hơn khi phần mềm trực tiếp điều khiển máy móc.
Nội dung phiên thảo luận tại TechCrunch Disrupt 2026
Phiên thảo luận quy tụ Nathan Michael của Shield AI, Raquel Urtasun của Waabi và Mikell Taylor của General Motors trên sân khấu AI trong thế giới thực. Nội dung tập trung vào cách các tổ chức xác định một hệ thống đã sẵn sàng khi lỗi vận hành có thể ảnh hưởng đến phương tiện, thiết bị hoặc con người.
Phiên thảo luận về xây dựng hệ thống AI khi thất bại không phải là một lựa chọn sẽ diễn ra tại TechCrunch Disrupt 2026. Sự kiện được tổ chức từ ngày 13 đến ngày 15 tháng 10 năm 2026 tại Moscone West ở San Francisco.
Theo TechCrunch, chương trình có hơn 200 phiên trên sáu sân khấu chuyên ngành. Chương trình còn có các cuộc thảo luận bàn tròn và phiên trao đổi quy mô nhỏ. Ban tổ chức dự kiến đón hơn 10.000 nhà sáng lập, nhà đầu tư, người điều hành và lãnh đạo công nghệ. Sự kiện cũng có hơn 250 diễn giả và hơn 300 công ty khởi nghiệp trưng bày sản phẩm.
Với các nhóm đang xây dựng sản phẩm AI, giá trị của cuộc thảo luận nằm ở cách ba tổ chức xác định thời điểm một hệ thống đủ sẵn sàng. Khi phần mềm có thể tác động đến phương tiện, thiết bị và con người, quyết định triển khai cần dựa trên bằng chứng kiểm thử và khả năng kiểm soát rủi ro, không chỉ dựa trên một bản trình diễn thành công.
Hãy tiếp tục theo dõi sine.vn để cập nhật cách các doanh nghiệp đưa AI từ phòng thí nghiệm vào môi trường vận hành thực tế.
