Một số nhà sinh học tại Đại học Imperial London cho rằng trí tuệ nhân tạo hiện chưa đủ khả năng hỗ trợ phát triển hoàn chỉnh một vũ khí sinh học, nhưng giới khoa học vẫn chưa thống nhất về mức độ rủi ro. Công nghệ này có thể hạ thấp rào cản bằng cách cung cấp tri thức chuyên môn, hướng dẫn thí nghiệm và công cụ thiết kế. Nguy cơ đó buộc ngành công nghệ sinh học phải tăng cường sàng lọc vật liệu di truyền và giám sát việc sử dụng mô hình. Ngành cũng phải chuẩn bị năng lực ứng phó nếu các biện pháp bảo vệ thất bại.
Những người đứng đầu một số công ty trí tuệ nhân tạo lớn đang công khai cảnh báo về chính công nghệ họ phát triển. Theo MIT Technology Review, Tổng giám đốc Anthropic Dario Amodei cho rằng tiến bộ ở tuyến đầu cần được làm chậm. Tổng giám đốc OpenAI Sam Altman cũng cho rằng ngành này phải kiểm soát nhịp độ phát triển.
Một kịch bản cụ thể là trí tuệ nhân tạo giúp con người thiết kế, tạo ra và phát tán vũ khí sinh học. Công cụ gây hại có thể là virus nhắm vào một nhóm người theo đặc điểm di truyền hoặc một loại nấm phá hủy mùa màng. Một khả năng khác là chất độc không mùi, không vị được đưa vào nguồn nước và khó bị phát hiện.
Nội dung cảnh báo: công cụ tìm thuốc tạo ra phân tử có khả năng gây độc
Năm 2022, các nhà nghiên cứu tại Collaborations Pharmaceuticals sử dụng một mô hình tạo phân tử vốn được phát triển để tìm thuốc điều trị bệnh ở người. Trong chưa đầy sáu giờ, mô hình tạo ra 40.000 phân tử có tiềm năng trở thành tác nhân chiến tranh hóa học.
Theo công bố của nhóm được MIT Technology Review dẫn lại, mô hình đã tạo ra 40.000 phân tử trong chưa đầy sáu giờ. Một số phân tử được thiết kế để độc hơn các chất độc thần kinh đã biết.
Kết quả này khiến David Magnus, giáo sư y khoa và đạo đức y sinh tại Đại học Stanford, đặc biệt lo ngại. Ông đã đánh giá rủi ro từ việc lạm dụng khoa học y tế và công nghệ sinh học từ cuối thập niên 1990, nhưng cho rằng diễn biến sau thí nghiệm năm 2022 đã tăng nhanh hơn nhiều.
Các mô hình ngôn ngữ lớn có thể trả lời câu hỏi thuộc nhiều lĩnh vực khoa học. Chúng cũng cung cấp hướng dẫn và video đào tạo về cách tiến hành thí nghiệm. Dunja Sabra là nhà nghiên cứu an ninh sinh học tại Đại học Hamburg. Bà mô tả các mô hình này như những hệ thống được huấn luyện bằng tri thức và kinh nghiệm của gần như mọi nhà khoa học từng sống trên hành tinh.
Rào cản kỹ thuật đang thấp dần
Nguy cơ tăng lên khi trí tuệ nhân tạo trở nên dễ tiếp cận hơn. Cùng lúc đó, công cụ chỉnh sửa gen, sinh học tổng hợp và phòng thí nghiệm tại nhà cũng phổ biến hơn. Sự kết hợp này không loại bỏ những khó khăn thực nghiệm. Tuy vậy, nó có thể giúp người không có chuyên môn sâu tiếp cận kiến thức và quy trình vốn khó tìm hơn trước đây.
Sabra nhận định rằng một người đủ quyết tâm cuối cùng có thể thành công. Ngành công nghệ sinh học đã có một số lớp bảo vệ. Người muốn tạo bộ gen mới thường phải đặt mua các đoạn vật liệu di truyền. Doanh nghiệp cung cấp những đoạn này có quy trình sàng lọc yêu cầu đáng ngờ.
Nghiên cứu tiềm ẩn rủi ro cũng có thể trải qua kiểm thử đối kháng. Trong quy trình này, các nhà khoa học độc lập tìm khả năng công nghệ bị lạm dụng, sau đó một nhóm khác xây dựng biện pháp giảm thiểu.
Các công ty trí tuệ nhân tạo điều chỉnh mô hình để hạn chế việc cung cấp thông tin khoa học nguy hiểm. Tuy nhiên, tranh luận về việc gỡ rào chắn trí tuệ nhân tạo cho thấy giới hạn kỹ thuật có thể bị tìm cách vượt qua. Câu hỏi trí tuệ nhân tạo nên được trao bao nhiêu quyền vì thế không chỉ liên quan đến dữ liệu hay an ninh mạng mà còn chạm tới an toàn sinh học.
Các biện pháp bảo vệ chưa kín
Các biện pháp bảo vệ hiện nay gồm sàng lọc yêu cầu, giới hạn phản hồi của mô hình và kiểm thử đối kháng, nhưng chưa thể ngăn mọi hành vi lạm dụng. Báo cáo của Anthropic cho thấy đã có người tìm cách dùng mô hình của hãng để tăng khả năng lây truyền hoặc mức độ nguy hiểm của virus và lập bản đồ chuỗi độc tố.
Theo báo cáo được MIT Technology Review dẫn lại, một số người đã cố dùng mô hình của Anthropic để làm virus chikungunya dễ lây truyền hơn. Những người khác tìm cách tạo một dạng cúm gia cầm nguy hiểm hơn với con người hoặc xây dựng bản đồ các chuỗi độc tố có nguồn gốc từ nọc độc.
Magnus mô tả đây là cuộc giằng co liên tục. Các tổ chức phải xây dựng công cụ giám sát và sàng lọc tốt hơn. Trong khi đó, trí tuệ nhân tạo có thể tìm đường vòng qua những công cụ này. Theo ông, con người cuối cùng có thể phải dùng chính trí tuệ nhân tạo để hạn chế việc lạm dụng công nghệ đó.
Jacob Coxon từng làm việc tại Anthropic và OpenAI. Ông rời Anthropic sau khi cáo buộc hai công ty chưa hành động đủ trách nhiệm. Coxon nói những người xây dựng trí tuệ nhân tạo thực sự tin công nghệ này có thể giết toàn bộ loài người trước khi thập niên hiện tại kết thúc. Evan Hubinger, một nhân viên Anthropic, công khai đồng tình. Ông cho rằng xác suất điều đó xảy ra trong thập niên tới cao hơn 10%.
Giới khoa học chưa thống nhất về mức độ rủi ro
Giới khoa học chưa thống nhất liệu trí tuệ nhân tạo hiện đã làm thay đổi đáng kể nguy cơ vũ khí sinh học hay chưa. Một số nhà nghiên cứu cho rằng mô hình có thể hỗ trợ tìm kiếm và thiết kế, nhưng việc tạo và thử nghiệm mầm bệnh vẫn khó, tốn thời gian và phụ thuộc nhiều vào kỹ năng thực hành của con người.
Một số nhà sinh học tại Đại học Imperial London cho rằng công cụ trí tuệ nhân tạo hiện chưa đủ năng lực để hoàn chỉnh một vũ khí sinh học. Theo quan điểm này, các rào chắn hiện có có thể đã đủ để giảm nguy cơ trước mắt.
Wendy Barclay là giáo sư bệnh truyền nhiễm tại Đại học Imperial London. Bà lưu ý rằng nguy cơ đại dịch lớn nhất hiện nay đến từ các mầm bệnh đang lưu hành, không phải vũ khí sinh học. Barclay nêu H5N1 làm ví dụ. Theo MIT Technology Review, virus cúm gia cầm này đã giết hàng triệu con chim và lây lan rộng trong đàn bò sữa tại Mỹ. Virus cũng được phát hiện ở chồn nuôi nhốt tại một trang trại ở Utah vào tháng trước thời điểm bài gốc được xuất bản.
Sabra nhìn xa hơn trong khoảng từ năm đến 10 năm. Bà cho rằng các quốc gia nên củng cố hệ thống y tế, chuẩn bị thuốc giải cho những độc tố đã biết và dự trữ thuốc. Mục tiêu không phải khẳng định thảm họa chắc chắn xảy ra mà là bảo đảm hệ thống có thể phản ứng nếu rào chắn thất bại.
Lời cảnh báo dành cho ngành công nghệ sinh học
Ngành công nghệ sinh học cần phát triển năng lực sàng lọc, giám sát và ứng phó cùng tốc độ với các công cụ thiết kế sinh học. Cảnh báo từ các nhà nghiên cứu không chứng minh rằng trí tuệ nhân tạo đã tự tạo được vũ khí sinh học, nhưng cho thấy mô hình có thể làm lộ những phương án gây hại mà ngay cả chuyên gia trước đó cũng chưa nhận ra.
Kevin Esvelt là nhà sinh học tại Viện Công nghệ Massachusetts. Ông từng phát minh công nghệ giúp một đặc điểm di truyền lan nhanh trong toàn bộ quần thể, cùng phương pháp hạn chế công nghệ đó. Esvelt cho biết một mô hình ngôn ngữ lớn đã tiết lộ một dạng vũ khí sinh học mới. Trước đó, ông không nhận ra dạng vũ khí này là khả thi.
Những cảnh báo này cho thấy tri thức chuyên môn và hướng dẫn thử nghiệm đang được kết nối với công cụ thiết kế. Sự kết nối đó có thể hạ thấp rào cản đối với người muốn gây hại. Với ngành công nghệ sinh học, đổi mới và kiểm soát không thể được xử lý riêng biệt. Khi công nghệ dễ tiếp cận hơn, năng lực sàng lọc, giám sát và ứng phó cũng phải phát triển nhanh hơn.
Theo dõi Sine để tiếp tục cập nhật cách trí tuệ nhân tạo đang thay đổi an toàn sinh học và trách nhiệm của ngành công nghệ.
