Năm phiên an toàn AI tại TechCrunch Disrupt 2026 tập trung vào năm lĩnh vực. Đó là triển khai Claude trong doanh nghiệp, bảo mật tác tử, hạ tầng đám mây, hệ thống tự hành và robot. Các phiên cùng xem xét cách đưa trí tuệ nhân tạo ra khỏi bản trình diễn. Mục tiêu là vận hành an toàn, có kiểm soát và đủ tin cậy trong môi trường thực tế.
Theo bài viết gốc của TechCrunch, các phiên này dành cho những nhà sáng lập đang quyết định mức quyền truy cập của tác tử. Họ cũng phải đặt tiêu chuẩn triển khai hệ tự hành và quản lý hậu quả khi mô hình mắc lỗi. Với doanh nghiệp Việt Nam phục vụ khách hàng quốc tế, an toàn, bảo mật và độ tin cậy là một phần của bài toán thương mại.
1. Anthropic nhìn thấy gì khi doanh nghiệp triển khai Claude?
Phiên của Anthropic phân tích vì sao một số doanh nghiệp tạo được giá trị có thể đo lường từ AI. Những doanh nghiệp khác vẫn dừng ở thử nghiệm sau 18 tháng. Trọng tâm là khoảng cách giữa một bản trình diễn tốt và một hệ thống hoạt động ổn định trong quy trình kinh doanh.
Cat de Jong là Trưởng bộ phận AI ứng dụng tại Anthropic. Bà làm việc trực tiếp với các doanh nghiệp đưa Claude vào những quy trình quan trọng. Kinh nghiệm đó giúp bà nhận ra sự khác biệt giữa các tổ chức đã vận hành AI và các tổ chức vẫn đang thử nghiệm.
Vấn đề này đặc biệt sát với các nhà sáng lập bán phần mềm cho doanh nghiệp. Một bản trình diễn tốt chưa chứng minh rằng sản phẩm có thể vượt qua quy trình phê duyệt, tạo giá trị ổn định và hoạt động trong công việc hằng ngày.
Một chủ đề liên quan là cách nhóm kỹ thuật sử dụng công cụ lập trình AI.
2. Bảo mật tác tử cần được thiết kế ở cấp hạ tầng
Một tác tử có thể gọi công cụ và thay đổi dữ liệu nên tạo ra rủi ro khác với chatbot chỉ cung cấp câu trả lời. Đội ngũ phát triển phải xác định tác tử được truy cập hệ thống nào và được thực hiện hành động gì. Họ cũng cần cơ chế giới hạn quyền khi kiểm soát ở tầng ứng dụng không còn đủ.
Ric Smith của Okta và Gavriel Cohen của NanoCo sẽ phân tích bảo mật tác tử ở cấp hạ tầng. Smith là Chủ tịch Sản phẩm và Công nghệ. Cohen là đồng sáng lập kiêm Tổng giám đốc. Nội dung gồm điểm yếu của mô hình cấp quyền tại tầng ứng dụng và các quyết định kiến trúc khi triển khai AI có khả năng tự hành động.
Bảo mật tác tử không chỉ liên quan đến tài khoản đăng nhập. Giới hạn quyền cần được đưa vào lộ trình sản phẩm trước khi tác tử có thể truy cập công cụ, sửa dữ liệu hoặc thực hiện tác vụ thay mặt người dùng.
Cuộc thảo luận về việc trí tuệ nhân tạo nên được trao bao nhiêu quyền xem xét vấn đề này từ góc nhìn của các lãnh đạo an ninh.
3. Doanh nghiệp AI cần hạ tầng bảo mật nào?
Phiên thảo luận sẽ xem xét cách bảo mật, quản trị và khả năng quan sát trở thành một phần của quá trình đưa AI vào các hệ thống quan trọng. Nội dung tập trung vào những vấn đề hạ tầng mà doanh nghiệp và nhà cung cấp cần cân nhắc khi AI đảm nhận nhiều vai trò tự chủ hơn.
Rudy Mitra, Phó chủ tịch Dịch vụ bảo mật của AWS, Katie Moussouris, Tổng giám đốc Luta Security, và chuyên gia an ninh mạng Wendy Nather sẽ xem xét loại hạ tầng doanh nghiệp cần có khi AI đảm nhận nhiều vai trò tự chủ hơn.
Với nhà sáng lập, phiên này sẽ xem xét khoảng cách giữa khả năng kỹ thuật của sản phẩm và các vấn đề bảo mật mà doanh nghiệp đặt ra khi cân nhắc triển khai. Quyền truy cập, quản trị và khả năng quan sát là những chủ đề thuộc cuộc thảo luận đó.
4. Xây hệ thống AI khi sai sót gây hậu quả vật lý
Với phương tiện, máy bay, robot và hệ thống công nghiệp, lỗi AI có thể tác động trực tiếp đến con người hoặc thiết bị. Mức độ an toàn trước khi triển khai phụ thuộc vào kiểm thử, xác nhận và quy trình vận hành. Khả năng xử lý hậu quả trong thế giới vật lý cũng là một điều kiện.
Nathan Michael, Giám đốc Công nghệ của Shield AI, Mikell Taylor, Giám đốc Chiến lược robot tại General Motors, và Raquel Urtasun, nhà sáng lập kiêm Tổng giám đốc Waabi, sẽ trình bày góc nhìn từ quốc phòng và hệ thống tự hành.
Phiên thảo luận đề cập đến văn hóa an toàn, kiểm thử và xác nhận AI. Nội dung còn bao gồm rào cản pháp lý và việc xây dựng niềm tin khi sai sót gây hậu quả vật lý. Từ các chủ đề này, doanh nghiệp Việt Nam phát triển phần cứng hoặc phần mềm điều khiển có thể cân nhắc cách đưa hoạt động kiểm thử vào chu trình phát triển.
5. Robot còn thiếu gì để có bước ngoặt như ChatGPT?
Robot chưa có những kho dữ liệu huấn luyện lớn như dữ liệu từng thúc đẩy mô hình ngôn ngữ và xe tự lái. Phiên sẽ xem xét liệu quy trình dữ liệu, môi trường mô phỏng và mô hình nền tảng có thể giúp thu hẹp khoảng trống này hay không.
Les Karpas là Trưởng bộ phận AI vật lý toàn cầu của NVIDIA Inception. Ông sẽ phân tích những điều kiện cần để xây dựng và kiểm thử robot. Phiên thảo luận cũng xem xét cách triển khai robot có năng lực tốt hơn nhưng vẫn đủ tin cậy trong thực tế.
Chủ đề này có liên hệ với việc phát triển robot cho môi trường thực tế. Năng lực vật lý chỉ tạo ra giá trị thương mại khi hệ thống có thể hoạt động ổn định và khiến người dùng đủ tin tưởng để giao việc.
Năm phiên có nội dung chung nào?
Cả năm phiên đều xem xét điều kiện để AI rời môi trường trình diễn và hoạt động an toàn. Phạm vi áp dụng gồm doanh nghiệp và thế giới vật lý. Câu trả lời bao gồm triển khai mô hình, phân quyền cho tác tử và hạ tầng bảo mật. Kiểm thử hệ tự hành và dữ liệu dành cho robot cũng nằm trong nội dung này.
Theo TechCrunch, năm phiên này thuộc chương trình có hơn 200 phiên trên sáu sân khấu. Chương trình còn có các cuộc thảo luận bàn tròn và phiên chuyên đề. TechCrunch Disrupt 2026 được tổ chức từ ngày 13 đến 15 tháng 10 tại Moscone West ở San Francisco.
TechCrunch cho biết sự kiện dự kiến đón hơn 10.000 người. Thành phần gồm nhà sáng lập, nhà đầu tư, người vận hành và lãnh đạo công nghệ. Sự kiện còn có hơn 250 diễn giả và hơn 300 startup trưng bày.
Điều kiện để được triển khai
Một mô hình thông minh hơn chưa bảo đảm sản phẩm sẽ được sử dụng. Điều đó cũng đúng với tác tử làm được nhiều việc hơn hoặc robot có năng lực mới. Khách hàng còn cần biết hệ thống có thể vận hành an toàn và được kiểm soát. Họ cũng cần biết hậu quả sẽ được xử lý thế nào khi hệ thống gặp lỗi.
TechCrunch cũng cho biết vé được giảm tối đa 200 USD nếu mua trước hạn. Hạn mua là 23 giờ 59 phút theo giờ Thái Bình Dương ngày 25 tháng 9. Theo TechCrunch, vé thứ hai được giảm 50%. Các mức giảm này thuộc chương trình bán vé tại thời điểm bài gốc được công bố.
Nếu đang xây sản phẩm AI, nhà sáng lập có thể chọn phiên theo rủi ro cần giải quyết trước khi triển khai. Các chủ đề gồm mức độ áp dụng trong doanh nghiệp, quyền của tác tử và hạ tầng bảo mật. An toàn vật lý và dữ liệu dành cho robot là hai chủ đề còn lại.
