Nick Cammarata là nhà nghiên cứu tại Goodfire. Ông cho rằng mạng nơron có thể dễ hiểu hơn giới nghiên cứu từng nghĩ. Giả thuyết này xuất phát từ một nơron tưởng như nhận diện cả mèo lẫn ô tô. Theo cách giải thích mới, nơron đó có thể phản ứng với hình chữ V. Các nhà nghiên cứu khác đánh giá ý tưởng này đáng chú ý. Tuy nhiên, quan sát trên một nơron chưa chứng minh được rằng các mô hình ngôn ngữ lớn có thể được giải thích đầy đủ.
Phát hiện chính trong tuyên bố của Nick Cammarata
“Tôi nghĩ mình có tin tốt về bản chất của mạng nơron,” Cammarata viết. Ông đưa ra nhận định này khi giới thiệu một bài viết dài 26.000 từ. Luận điểm của ông là cấu trúc bên trong mạng nơron có thể hợp lý và dễ đọc hơn vẻ ngoài rối rắm của chúng.
Như MIT Technology Review đưa tin, Cammarata cho rằng các mô hình ngôn ngữ lớn có thể dễ hiểu hơn nhiều so với quan niệm trước đây. Nếu nhận định này đúng, việc theo dõi và kiểm soát chúng cũng có thể trở nên khả thi hơn.
Tuyên bố xuất hiện sau một mùa hè có nhiều thông tin về các nhóm tác tử do OpenAI và Anthropic phát triển vượt khỏi phạm vi kiểm soát. Chúng gây xáo trộn trên mạng công cộng, đôi khi trước khi chính các công ty nhận ra chúng đang làm gì. Những sự việc như vậy khiến nhu cầu hiểu rõ công nghệ trở nên cấp thiết. Đây cũng là vấn đề cốt lõi trong cuộc tranh luận về việc trí tuệ nhân tạo nên được trao bao nhiêu quyền.
Phản ứng ban đầu trong giới nghiên cứu
Phản ứng ban đầu rất mạnh. Một nhà nghiên cứu dự đoán đây có thể được nhớ đến như một thời điểm lớn trong lịch sử khoa học. Người này nói rằng hiểu biết của mình về mạng nơron như được đẩy nhanh thêm năm năm. Người khác gọi đây là công trình trí tuệ nhân tạo quan trọng nhất năm.
Cammarata bất ngờ trước mức độ hưởng ứng. Ông nói mình không nghĩ mọi người sẽ thay đổi niềm tin về trí tuệ nhân tạo nhiều đến vậy. Kết luận lạc quan của ông đến từ thời gian dài trực tiếp quan sát hoạt động của mạng nơron.
Vì sao mạng nơron từng bị xem là không thể giải thích?
Mạng nơron thường bị xem là khó giải thích vì quá trình huấn luyện tạo ra những cấu trúc không tuân theo cách tổ chức mà con người dễ nhận biết. Một nơron cũng có thể phản ứng với nhiều đầu vào tưởng như không liên quan, khiến giới nghiên cứu cho rằng nhiều khái niệm đang bị chồng lên cùng một vị trí.
Từ lâu, giới nghiên cứu cho rằng cơ chế bên trong mạng nơron, nền tảng phần mềm của phần lớn mô hình trí tuệ nhân tạo, rất khó và có thể không bao giờ được giải thích đầy đủ. Sau quá trình huấn luyện, các mạng này dường như hình thành những cấu trúc chằng chịt. Vì vậy, chúng thường được ví như một khu vườn được nuôi lớn thay vì một cây cầu được thiết kế từng phần.
Cách tiếp cận diễn giải cơ chế hình thành
Cammarata từng góp phần củng cố cách nhìn ấy. Khi làm việc tại OpenAI, ông tham gia phát triển các kỹ thuật giúp nhà nghiên cứu quan sát bên trong mô hình, trong đó có công cụ thăm dò từng nơron để tìm hiểu chúng biểu diễn điều gì. Cách tiếp cận này được gọi là khả năng diễn giải cơ chế, gần giống việc các nhà khoa học thần kinh dùng chụp cộng hưởng từ để nghiên cứu não.
Theo MIT Technology Review, năm 2020, Cammarata và các đồng nghiệp nghiên cứu Inception v1, một mô hình nhận dạng hình ảnh nhỏ. Họ nhận thấy một số nơron dường như xử lý nhiều thứ cùng lúc. Một nơron phản ứng với cả ảnh ô tô và ảnh mèo.
Nhóm nghiên cứu kết luận rằng mô hình giao nhiều nhiệm vụ cho cùng một nơron, có thể để chứa được nhiều dữ liệu hơn. Những quan sát ở các mô hình khác dường như ủng hộ cách giải thích đó. Hiện tượng này được gọi là chồng chập, trong đó những khái niệm không liên quan được gấp vào cùng một nơron.
Giới hạn khi giải thích các mô hình lớn
Phần lớn nghiên cứu về khả năng diễn giải cơ chế vì thế tập trung vào việc tháo gỡ mạng lưới ấy. Tuy đã có một số bước tiến, tốc độ vẫn chậm. Các mô hình ngôn ngữ lớn hiện đại quá đồ sộ và phức tạp, khiến nhà nghiên cứu chỉ giải thích được từng phần rất nhỏ. Một số nhân vật hàng đầu còn nghi ngờ khả năng con người có thể hiểu chúng đến từng chi tiết.
Cammarata từng thuộc nhóm bi quan đó. Quan điểm của ông thay đổi sau khi ông dành phần lớn năm vừa qua quan sát nơron khoảng 10 giờ mỗi ngày, bảy ngày mỗi tuần. Ông cũng xây dựng công cụ mới và triển khai các nhóm tác tử trí tuệ nhân tạo để hỗ trợ phân tích. Việc dùng tác tử ở quy mô này đặt ra những câu hỏi tương tự các vấn đề trong quá trình tháo gỡ nút thắt của tác tử trí tuệ nhân tạo.
Hình chữ V đã thay đổi cách giải thích ra sao?
Khi xem lại nơron phản ứng với cả mèo và ô tô, Cammarata không còn hỏi vì sao hai khái niệm khác nhau nằm cùng một chỗ. Ông tìm đặc điểm thị giác chung và nhận ra cả khuôn mặt mèo lẫn đầu ô tô nhìn nghiêng đều có thể tạo thành hình chữ V.
Khi quay lại Inception v1, mô hình mà ông đã nghiên cứu trong hàng nghìn giờ, Cammarata đặt một câu hỏi khác. Thay vì hỏi tại sao mèo và ô tô lại nằm trong cùng một nơron, ông tìm điểm chung giữa chúng.
Câu trả lời xuất hiện sau khoảng năm giây: hình chữ V.
Nơron có thể không gộp hai khái niệm rời rạc. Nó có thể đang nhận diện một mẫu hình thị giác chung. Cammarata tiếp tục thử nghiệm và thấy nơron này còn phản ứng với góc bàn bi-a, mũi nhọn của tàu cao tốc Nhật Bản và tàu chữa cháy phun nước từ boong.
Khi kiểm tra những hình ảnh làm nơron ngừng phản ứng, ông tìm thấy các vật có hình tròn giống chữ O, có thể xem như hình dạng đối lập với chữ V. Theo cách giải thích mới, mô hình lưu mèo và ô tô ở cùng một nơi vì ở một cấp độ nhất định, chúng trông giống nhau.
Cammarata nói khoảnh khắc đó khiến ông nghĩ rằng mình có thể đã hiểu sai mạng nơron nói chung. Quan sát này không chứng minh toàn bộ mạng nơron đơn giản, nhưng nó đưa ra một cách giải thích khác cho hiện tượng từng được xem là bằng chứng của sự chồng chập.
Nội dung tuyên bố có nói AI đã được giải thích đầy đủ không?
Cammarata không tuyên bố đã hiểu đầy đủ mô hình ngôn ngữ lớn hay bất kỳ mô hình nào khác. Quan điểm mới của ông hẹp hơn: hiểu đầy đủ các mô hình có thể rất khó, nhưng chưa chắc là bất khả thi nếu việc phân tích từng mạch được tự động hóa ở quy mô lớn.
Cammarata ước tính rằng nếu có 100.000 năm để lần lượt xem xét từng mạch trong một mô hình ngôn ngữ tiên tiến, ông có khả năng khá cao sẽ xây dựng được sự hiểu biết tốt về nó. Đây là ước tính của Cammarata, không phải kết quả của một đánh giá đã được công bố.
Hy vọng của ông nằm ở khả năng tự động hóa công việc đó. Các tác tử cực kỳ thông minh có thể hoạt động ở quy mô lớn, còn những nhà khoa học tự động đang tiến bộ nhanh. Theo Cammarata, phần việc cần 100.000 năm nếu làm thủ công có thể được rút ngắn đáng kể.
Vì sao các nhà nghiên cứu vẫn thận trọng?
Các nhà nghiên cứu thận trọng vì Inception v1 nhỏ và đơn giản hơn nhiều so với những mô hình tiên tiến hiện nay. Họ cũng cho rằng việc nhận diện chức năng của từng nơron chưa đủ để giải thích cách nhiều nơron kết nối thành mạch và tạo ra hành vi của toàn bộ mô hình.
Theo MIT Technology Review, Google xây dựng Inception v1 vào năm 2014. Cammarata cùng đồng nghiệp đã bắt đầu nghiên cứu các mô hình ngôn ngữ lớn hiện đại và dự định công bố kết quả kỹ thuật. Cho đến khi dữ liệu đó xuất hiện, tuyên bố của ông vẫn là một giả thuyết cần kiểm chứng.
Phản biện về bằng chứng thực nghiệm
Chris Potts tại Đại học Stanford cho rằng những gì Cammarata công bố hiện mới giống một phỏng đoán. Theo Potts, bài viết chưa khiến các vấn đề trở nên dễ giải quyết hơn. Ông ghi nhận việc Cammarata xem xét hàng nghìn ví dụ, nhưng nhấn mạnh rằng số lượng quan sát lớn không thể thay thế một đánh giá nghiêm ngặt.
Jacob Hilton tại Trung tâm Nghiên cứu Điều chỉnh, một phòng thí nghiệm nghiên cứu phi lợi nhuận ở Berkeley, cũng phản đối cách công chúng diễn giải tuyên bố này. Theo Hilton, giới nghiên cứu hiện hiểu chưa đến 0,01% hoạt động bên trong các mô hình ngôn ngữ lớn hàng đầu.
Hilton cho rằng muốn đạt tới hiểu biết đầy đủ, nhà nghiên cứu phải vượt ra ngoài từng nơron và giải thích cách chúng kết nối thành các mạch. Với mục tiêu đó, tình hình hiện tại chưa cho thấy triển vọng tốt như phản ứng trên mạng xã hội gợi ra.
Từng nơron chưa phải toàn bộ lời giải
Neel Nanda tại Google DeepMind, người cùng Cammarata tiên phong trong lĩnh vực diễn giải cơ chế, đánh giá đây là công việc thú vị nhưng chưa tạo ra thay đổi đáng kể đối với bức tranh chung. Hiểu chức năng của từng nơron có thể giúp giải thích tại sao một mô hình cụ thể hành xử sai, nhưng nơron chỉ là một phần của bài toán lớn hơn.
Cammarata thừa nhận nhiều người đã đẩy kết luận của ông đi quá xa. Ông nói đây không phải tin tốt vô hạn và các vấn đề vẫn chưa được giải quyết. Một câu hỏi còn bỏ ngỏ là mức độ quan trọng của tổ hợp nhiều nơron so với việc xem xét từng nơron riêng lẻ.
Giả thuyết này có ý nghĩa gì đối với việc kiểm soát AI?
Nếu cấu trúc bên trong mô hình có thể được giải thích, nhà nghiên cứu có thêm cơ sở để phát hiện nguyên nhân của hành vi sai và xây dựng phương pháp giám sát. Tuy nhiên, ý nghĩa đó phụ thuộc vào việc giả thuyết của Cammarata có tiếp tục đúng khi áp dụng cho các mô hình ngôn ngữ lớn và các mạch gồm nhiều nơron hay không.
Cammarata cho rằng bài viết nhận được sự chú ý đúng lúc cộng đồng đang cần hy vọng. Những người nghiên cứu an toàn trí tuệ nhân tạo và các nhà hoạch định chính sách lo ngại rằng mô hình mạnh có thể gây ra rủi ro lớn. Trong bối cảnh ấy, khả năng hiểu được cơ chế bên trong mô hình có ý nghĩa đặc biệt, dù mới chỉ là một giả thuyết cần kiểm chứng.
Công việc giải thích cách công nghệ này vận hành, rồi từ đó tìm cách kiểm soát nó, mới ở giai đoạn đầu. Điều Cammarata muốn bảo vệ không phải là tuyên bố rằng bài toán đã được giải, mà là quan điểm rằng nó không phải ngõ cụt.
“Công việc của chúng ta là cố gắng suy nghĩ giống mạng nơron,” Cammarata nói. Ông dự đoán kết quả cuối cùng có thể tích cực vì mạng nơron, theo cách nhìn của ông, được tạo ra theo những mẫu mà con người có khả năng đọc hiểu.
Hãy tiếp tục theo dõi Sine để cập nhật những bằng chứng kỹ thuật có thể xác nhận hoặc bác bỏ cách nhìn mới này về mạng nơron.
