Mùa hè thổi phồng AI cho thấy một khuôn mẫu lặp lại. Doanh nghiệp công bố một năng lực gây chấn động và truyền thông khuếch đại tuyên bố. Sau đó, giới chuyên môn phát hiện kết quả kém thuyết phục hơn ấn tượng ban đầu. Theo Timnit Gebru và Emily M. Bender, công chúng nên phân biệt năng lực đã được kiểm chứng với thông cáo tiếp thị. Trách nhiệm phải thuộc về những người thiết kế, cấp quyền và triển khai hệ thống.
Vài tháng qua chứng kiến hàng loạt tuyên bố lớn về trí tuệ nhân tạo. Cuối tháng 4, Anthropic nói mô hình Claude Mythos tìm lỗ hổng phần mềm tốt hơn phần lớn chuyên gia bảo mật. Sau đó là sự cố xâm nhập liên quan đến OpenAI và Hugging Face. Anthropic và Meta tiếp tục công bố các vụ việc tương tự. Anthropic còn tuyên bố một mô hình của mình tạo ra bước đột phá toán học. OpenAI cũng đưa ra tuyên bố tương tự.
Gần đây hơn, kỹ sư Anthropic Jacob Coxon gây chú ý khi rời công ty. Ông nói Anthropic cùng OpenAI đang lao tới một dạng siêu trí tuệ có khả năng tự cải thiện. Theo Coxon, hai công ty đang đánh cược bằng mạng sống con người. Báo chí đưa tin về những sự kiện này với giọng điệu khẩn cấp. Nhiều bài viết lặp lại cách các công ty nhân cách hóa phần mềm của họ.
Bài viết này được viết lại cho độc giả Việt Nam từ phân tích của Timnit Gebru và Emily M. Bender trên MIT Technology Review. Lập luận cốt lõi của hai tác giả là khoảng cách giữa thông cáo ban đầu và kết luận sau khi giới chuyên môn kiểm tra thường lớn hơn nhiều so với những gì công chúng được nghe.
nội dung: Sự ồn ào đến trước, kiểm chứng đến sau
Mỗi sự kiện đều bắt đầu bằng tuyên bố gây chấn động từ doanh nghiệp, đôi khi được trình bày như lời thú nhận trong các vụ xâm nhập trái phép. Truyền thông nhanh chóng khuếch đại câu chuyện. Chỉ khi chuyên gia trong đúng lĩnh vực có thời gian xem xét, một bức tranh khác mới xuất hiện, nhưng thường nhận được ít sự chú ý hơn.
Trách nhiệm trong các sự cố bảo mật
Với các vụ được mô tả là AI tự đi xâm nhập, chuyên gia an ninh mạng chỉ ra một nguyên nhân khác. Vấn đề nằm nhiều hơn ở sự cẩu thả của OpenAI và việc không áp dụng những biện pháp bảo mật cơ bản đã có từ lâu. Cách giải thích này khác hẳn câu chuyện về mô hình nổi loạn hay tác tử AI tự tạo ra cả một nền văn minh.
Sự khác biệt ấy quan trọng với độc giả Việt Nam vì ngôn ngữ dùng để kể một sự cố sẽ quyết định ai bị xem là chủ thể chịu trách nhiệm. Khi sản phẩm được mô tả như một thực thể tự hành, quyết định thiết kế, quyền truy cập và quy trình kiểm soát của doanh nghiệp dễ bị đẩy khỏi cuộc thảo luận. Những tranh luận về việc AI nên được trao bao nhiêu quyền trong hoạt động an ninh vì thế cần bắt đầu từ hệ thống do con người xây dựng, không phải từ hình ảnh một cỗ máy có ý chí riêng.
Đột phá toán học không thể chỉ dựa vào thông cáo
Trong trường hợp của OpenAI, các nhà toán học ban đầu sửng sốt trước thông cáo nói chatbot Astra đã giải những bài toán mà kết quả chính không có tiến triển trong ít nhất một thập kỷ. Sau khi xem xét kỹ hơn, họ nhận ra kết quả không mới như ấn tượng ban đầu.
Phản ứng sau khi giới toán học kiểm tra
Theo phần tổng hợp của MIT Technology Review, các nhà toán học sau đó cáo buộc OpenAI có hành vi sai trái trong nghiên cứu và đạo văn. Họ cũng bác bỏ cách mô tả rằng Astra đã thực hiện một bước nhảy trí tuệ sâu sắc. Scientific American trình bày các chỉ trích của giới chuyên môn đối với những tuyên bố đột phá này.
Chỉ vài tuần sau, OpenAI lại công bố một kết quả toán học khác. Trước thông báo đó hai ngày, Tristan Buckmaster, giáo sư toán tại Viện Courant thuộc Đại học New York, công bố một tuyên bố cho rằng OpenAI đã lấy công trình của người khác và ghi công không đúng cách.
Hệ thống AI vẫn có thể hỗ trợ nghiên cứu. Tuy nhiên, giới chuyên gia còn phải kiểm tra tính mới và xác định nguồn gốc đóng góp.
Vì sao toán học và lập trình được chọn để phô diễn AI
Toán học và lập trình thường được xem là những đỉnh cao của năng lực trí tuệ. Một hệ thống làm tốt trong hai lĩnh vực này dễ được quảng bá như công cụ có thể làm mọi thứ. Đồng thời, đây là những lĩnh vực có nhiều bài toán mà đáp án đề xuất có thể được kiểm tra tương đối rõ ràng.
Lợi thế của đầu ra có thể kiểm tra
Đặc điểm đó giúp doanh nghiệp điều chỉnh mô hình thuận lợi hơn. Đầu ra là chuỗi từ hoặc đoạn mã có thể được đánh giá bằng các phép kiểm tra. Doanh nghiệp vì thế không phải luôn thuê người đọc và gắn nhãn từng câu trả lời. Tuy nhiên, khả năng tối ưu cho một bài kiểm tra không chứng minh rằng hệ thống có năng lực suy luận tổng quát. Nó cũng không chứng minh hệ thống hiểu vấn đề như con người.
Hàng trăm nhà toán học đã ký Tuyên bố Leiden. Họ cảnh báo rằng ngành công nghệ có động lực thương mại mạnh để phóng đại năng lực sản phẩm. Tuyên bố đề nghị nhà hoạch định chính sách tham vấn chuyên gia, trong đó có các nhà toán học. Việc tham vấn cần diễn ra thay vì chỉ dựa vào thông cáo báo chí hoặc các bài tường thuật phổ biến về kết quả toán học.
Đây cũng là lý do các tuyên bố về AI làm thay đổi hoạt động rà soát mã cần được đọc cùng phương pháp đánh giá và giới hạn của thử nghiệm. Một con số hoặc màn trình diễn chỉ có ý nghĩa khi người đọc biết hệ thống được giao quyền gì, được kiểm tra ra sao và con người phải sửa lại bao nhiêu.
Nỗi sợ siêu trí tuệ có thể làm lệch trọng tâm
Theo Gebru và Bender, những tuyên bố rằng siêu trí tuệ nguy hiểm sắp xuất hiện không dựa trên thực hành khoa học hay kỹ thuật vững chắc. Chúng gắn với các hệ tư tưởng về siêu nhân học, ưu sinh và mong muốn biến con người số trong tưởng tượng thành một tương lai có vẻ tất yếu.
Sức ép từ cảm giác cấp bách
Cảm giác mọi thứ đang tiến quá nhanh tạo sức ép lên công chúng và nhà hoạch định chính sách. Hai tác giả nêu đề xuất của Thượng nghị sĩ Bernie Sanders nhằm ngăn chặn việc phát triển siêu trí tuệ nhân tạo. Họ đánh giá đề xuất này xuất phát từ ý định tốt. Tuy nhiên, nó đặt sai trọng tâm vì chấp nhận chính khung diễn giải do ngành công nghệ tạo ra.
Gọi sản phẩm là siêu trí tuệ hoặc mô hình nổi loạn trao cho phần mềm một mức độ chủ động mà lẽ ra phải được quy về công ty xây dựng và triển khai nó. Khung diễn giải này giúp doanh nghiệp quảng bá sản phẩm như một năng lực vượt con người, đồng thời tránh câu hỏi về trách nhiệm.
Nếu phần mềm độc hại được dùng để xâm nhập một công ty khác, cần xem xét cách con người thiết kế và vận hành hệ thống. Quyền mà họ đã cấp cho hệ thống cũng phải được làm rõ. Nếu công trình học thuật bị sao chép, doanh nghiệp và nhóm nghiên cứu phải trả lời về lựa chọn của họ. Trách nhiệm tương tự áp dụng khi dữ liệu khách hàng được dùng để huấn luyện mà chưa có sự đồng ý. Câu chuyện về một cỗ máy tương lai có quyền năng vô hạn không giải quyết những hành vi đang diễn ra.
Ngay cả câu hỏi liệu AI có thực sự đe dọa toàn bộ nhân loại cũng cần tách dự báo giả định khỏi tác động đã có bằng chứng. Nếu không, một kịch bản xa xôi có thể chiếm hết sự chú ý dành cho những quyết định cụ thể của doanh nghiệp hôm nay.
Trung tâm dữ liệu là vấn đề đang hiện hữu
Ngành AI từng mô tả phong trào phản đối trung tâm dữ liệu, vốn nhận được sự ủng hộ từ nhiều khuynh hướng chính trị, như một sự xao nhãng khỏi nhiệm vụ kiểm soát những cỗ máy siêu phàm sắp xuất hiện. Cách đặt vấn đề này yêu cầu công chúng lo về một thực thể hư cấu hơn là hậu quả vật chất của cơ sở hạ tầng đang hoạt động.
MIT Technology Review nêu tác động của trung tâm dữ liệu đối với khủng hoảng khí hậu và sức khỏe của người sống gần cơ sở. Bài viết cũng đề cập hóa đơn điện tăng khi công chúng phải trợ cấp cho hoạt động của chúng. Một vấn đề khác là nguồn nước bị chuyển sang phục vụ làm mát. Đây là các tác động có thể được điều tra, đo lường và quy trách nhiệm.
Vì vậy, phản đối trung tâm dữ liệu không phải là né tránh cuộc tranh luận về AI. Đó là yêu cầu xem xét chi phí môi trường và xã hội của hạ tầng đang được xây dựng.
Chậm lại để đặt đúng câu hỏi
Các quyết định chính sách không nên được đưa ra chỉ vì doanh nghiệp tạo cảm giác cấp bách. Nhà hoạch định chính sách và cộng đồng cần thời gian nghe ý kiến chuyên gia độc lập, kiểm tra tuyên bố và đặt chúng vào đúng bối cảnh.
Điều đáng giữ lại sau mùa hè thổi phồng AI không phải là niềm tin rằng mọi thông cáo đều sai. Công chúng cần phân biệt năng lực đã được kiểm chứng với lỗi quản trị của doanh nghiệp. Câu chuyện tiếp thị gán ý chí cho phần mềm cũng cần được nhận diện. Khi làn sóng tuyên bố tiếp theo xuất hiện, công chúng có thể dừng lại. Ba câu hỏi cần được đặt ra: ai đưa ra bằng chứng, ai đã kiểm tra và ai phải chịu trách nhiệm?
Hãy tiếp tục theo dõi Sine để đọc các phân tích AI đặt bằng chứng và trách nhiệm lên trước sự ồn ào.
