Abliteration.ai đang biến một kỹ thuật vốn phổ biến trong cộng đồng mô hình mở thành dịch vụ thương mại. Nền tảng này lưu trữ các phiên bản mô hình đã bị loại bỏ phần lớn cơ chế từ chối yêu cầu nguy hiểm. Danh sách đó có GLM-5.3 mới được Z.ai phát hành. Người dùng có thể gửi yêu cầu ngay trên trình duyệt hoặc kết nối qua giao diện lập trình ứng dụng.
Theo TechCrunch, việc tiếp cận một mô hình AI trọng số mở có năng lực cao đã trở nên dễ dàng hơn đáng kể. Mô hình này gần như không còn rào chắn. Khả năng tiếp cận đó có thể giúp giới phòng thủ nghiên cứu đối thủ tốt hơn. Tuy nhiên, nó cũng có thể khiến những công cụ nguy hiểm trở nên phổ biến hơn.
Từ kỹ thuật trong cộng đồng mở thành dịch vụ
Tên Abliteration.ai bắt nguồn từ kỹ thuật loại bỏ xu hướng từ chối yêu cầu có hại của mô hình. Các nhà nghiên cứu và nhà phát triển đã áp dụng kỹ thuật này với mô hình trọng số mở trong nhiều năm. Hugging Face hiện lưu trữ hàng nghìn mô hình đã trải qua quá trình đó.
Công ty được thành lập vào cuối năm ngoái và đăng ký pháp nhân chính thức vào tháng 3. Điểm khác biệt nằm ở cách cung cấp. Thay vì buộc người dùng tải mô hình đã chỉnh sửa rồi tự tìm năng lực tính toán để vận hành, Abliteration.ai lưu trữ sẵn mô hình và bán quyền truy cập.
Cách làm này phụ thuộc trực tiếp vào hạ tầng AI và năng lực vận hành mô hình. Đồng sáng lập Devon cho biết công ty đã đạt một số thỏa thuận với các nhà cung cấp đám mây lớn và thanh toán chi phí hoàn toàn bằng doanh thu khách hàng. TechCrunch không công bố họ của Devon theo đề nghị của ông vì ông vẫn làm việc tại một công ty khác. Abliteration.ai chưa huy động vốn đầu tư mạo hiểm nhưng đang đàm phán về việc này.
Mô hình đã đáp ứng những yêu cầu nguy hiểm
TechCrunch cho biết họ có thể nhanh chóng tạo tài khoản miễn phí và sử dụng phiên bản GLM-5.3 đã bị gỡ rào chắn trên trình duyệt. Trong thử nghiệm, mô hình chấp nhận viết chương trình Python nhằm đánh cắp mật khẩu Chrome đã lưu. Nó cũng cung cấp quy trình chi tiết để nuôi cấy tại nhà một mầm bệnh nguy hiểm đối với con người.
Công ty tuyên bố mục tiêu là hỗ trợ hoạt động tấn công mạng phục vụ kiểm thử, kiểm thử đội đỏ và thử nghiệm tác tử mà các mô hình khác từ chối thực hiện. Lập luận của Abliteration.ai là đội phòng thủ không thể chống lại một hành vi nếu họ không tái tạo được hành vi đó. Một mô hình từ chối viết mã khai thác hoạt động được cũng khó hỗ trợ đội đỏ mô phỏng đúng năng lực của kẻ tấn công.
Những tác tử được dùng trong quy trình này có liên quan đến cách tác tử AI viết mã hoạt động. Tuy nhiên, cùng một khả năng có thể phục vụ kiểm thử hợp pháp hoặc hạ thấp rào cản thực hiện hành vi gây hại.
Lo ngại về khả năng lạm dụng ở quy mô lớn
Andrew Yoon, trưởng bộ phận nghiên cứu của tổ chức an toàn AI phi lợi nhuận CivAI, nói rằng việc gỡ cơ chế từ chối có thể biến mô hình thành một thực thể sẵn sàng tuân theo gần như mọi yêu cầu. Ông dự đoán các mô hình đã bị chỉnh sửa theo cách này sẽ được sử dụng để gây hại trong tương lai gần.
Phần lớn chuyên gia trao đổi với TechCrunch cho rằng không thể ngăn hoàn toàn việc gỡ rào chắn khỏi mô hình trọng số mở. Yoon đề xuất chính phủ can thiệp ở những mắt xích khác. Nhà cung cấp có thể phải dùng bộ phân loại để phát hiện và chặn hoạt động nguy hiểm liên quan đến tấn công mạng hoặc vũ khí sinh học. Ông cũng đề xuất quy định xác minh danh tính đối với doanh nghiệp cho thuê quyền truy cập trực tiếp vào bộ xử lý đồ họa tiên tiến. Doanh nghiệp phải từ chối phục vụ khi có lý do nghi ngờ hành vi lạm dụng.
Tranh luận này có điểm chung với những lo ngại rộng hơn về sự cố căn chỉnh trong hệ thống AI: nhà phát triển phải quyết định mô hình được phép làm gì, ai có thể sử dụng nó và trách nhiệm thuộc về bên nào khi biện pháp bảo vệ bị loại bỏ.
Abliteration.ai vẫn duy trì một số giới hạn nội dung
Abliteration.ai cung cấp một lớp kiểm duyệt để khách hàng tự bổ sung rào chắn theo nhu cầu. Bản thân nền tảng cũng giữ lại một số giới hạn nhỏ. Trong thử nghiệm của TechCrunch, mô hình không cung cấp hướng dẫn tự sát. Devon cho biết ông đang triển khai thêm biện pháp nhằm ngăn nội dung bạo lực.
Dịch vụ chưa áp dụng quy trình xác minh danh tính khách hàng ngoài việc ghi nhận thẻ tín dụng dùng để thanh toán. Công ty thừa nhận việc quyết định ai được quyền truy cập là vấn đề khó và vẫn chưa xác định xong giới hạn trách nhiệm của mình.
Devon nói không ai muốn chịu trách nhiệm khi một người dùng thực hiện hành vi cực đoan, nhưng câu hỏi khó là trách nhiệm của doanh nghiệp nên dừng ở đâu. Với một công ty còn non trẻ, ranh giới đó vẫn đang được xây dựng.
Lập luận của phía phòng thủ mạng
Devon cho rằng mô hình đã gỡ rào chắn có thể mô phỏng tác nhân xấu, nhờ đó đội phòng thủ theo kịp tốc độ của kẻ tấn công. Theo ông, quyền tiếp cận các công cụ này sẽ thúc đẩy an ninh mạng dù kết luận đó nghe có vẻ trái với trực giác.
Khách hàng của Abliteration.ai được cho là gồm một số công ty khởi nghiệp kiểm thử đội đỏ giai đoạn đầu tại Anh và châu Âu. Các công ty này hỗ trợ ngân hàng, hãng hàng không và doanh nghiệp quản lý hạ tầng trọng yếu cải thiện an ninh mạng. Devon cho biết một khách hàng lớn đang kiểm thử đội đỏ các tác tử của ngân hàng và không thể thực hiện đầy đủ công việc nếu chỉ dùng những mô hình nguyên bản hiện nay.
Việc dùng mô hình trong kiểm thử đội đỏ đặt ra một câu hỏi tương tự như khi thảo luận về AI nhận diện tin nhắn lừa đảo: đội phòng thủ nên cho hệ thống tiếp cận loại dữ liệu và hành vi nào để đánh giá rủi ro mà không mở rộng khả năng lạm dụng.
Ngành an ninh mạng chưa thống nhất về giá trị thực tế
Một số công ty kiểm thử đội đỏ tác tử đồng ý rằng kẻ xấu đã tự gỡ rào chắn mô hình để thực hiện tấn công đối kháng. Tuy vậy, họ không thống nhất về mức độ cần thiết của kỹ thuật này trong công việc phòng thủ.
Ahmed Aly, giám đốc điều hành công ty Fabraix, cho biết doanh nghiệp của ông dựa nhiều hơn vào việc tinh chỉnh mô hình mở. Những mô hình này vốn đã có ít rào chắn. Quá trình gỡ cơ chế từ chối còn có thể làm mất một phần kiến thức và năng lực của mô hình. Theo Aly, mô hình đã bị gỡ rào chắn có thể hoạt động kém hiệu quả hơn nếu mục tiêu là gây thiệt hại thực sự trong lĩnh vực mạng hoặc sinh học.
Alessio Lomuscio, giám đốc công nghệ của Safe Intelligence, đồng ý rằng năng lực mô hình có thể suy giảm. Dù vậy, ông cho rằng các phiên bản này vẫn có thể bộc lộ những hành vi hữu ích khi kiểm tra sức chịu đựng của hệ thống.
Cách Armadin đánh giá kỹ thuật này
David Slater là nhà sáng lập kiêm kiến trúc sư trưởng của nền tảng an ninh mạng Armadin. Ông nói các mô hình đã gỡ rào chắn chưa nằm trong quy trình làm việc của công ty. Theo Slater, việc vượt qua giới hạn của các thế hệ mô hình trọng số mở trước đây vốn không quá khó. Người dùng đã có thể buộc chúng thực hiện yêu cầu mà không cần kỹ thuật mới.
Armadin vẫn đang nghiên cứu kỹ thuật này. Slater cho rằng cộng đồng mở cần hiểu rõ năng lực thật của mô hình. Các thử nghiệm sẽ diễn ra dù công khai hay trong môi trường kín. Hoạt động công khai cho nhà nghiên cứu thêm công cụ để xác định giới hạn năng lực. Họ cũng có thể đánh giá mức độ thiệt hại có thể xảy ra.
Câu hỏi chưa có lời giải về trách nhiệm
Khi các mô hình ngày càng mạnh được phát hành cùng bộ trọng số có thể tải xuống, việc loại bỏ rào chắn gần như không thể bị ngăn chặn hoàn toàn. Tranh cãi vì thế chuyển sang một câu hỏi khác: biến mô hình đã chỉnh sửa thành dịch vụ dễ dùng sẽ giúp internet an toàn hơn nhờ tăng năng lực phòng thủ, hay nguy hiểm hơn vì nhiều người có thể tiếp cận công cụ gây hại.
Abliteration.ai đặt cược vào vế đầu. Các nhà phê bình nhìn thấy vế sau. Bằng chứng TechCrunch thu được cho thấy dịch vụ đã giảm đáng kể công sức cần thiết để sử dụng GLM-5.3 không còn phần lớn cơ chế từ chối, trong khi chính công ty vẫn chưa hoàn thiện quy trình xác minh người dùng và giới hạn trách nhiệm.
Hãy tiếp tục theo dõi Sine để cập nhật cách các mô hình AI mở đang làm thay đổi an ninh mạng và trách nhiệm của nhà cung cấp.
