Vua Charles III kêu gọi các lãnh đạo kiểm soát AI trước khi quá muộn, nhưng không phủ nhận tiềm năng của công nghệ trong y học và khoa học. Thông điệp chính của ông là AI phải nằm trong tầm kiểm soát và tiếp tục phục vụ con người, cộng đồng và thế giới tự nhiên.
Nhà vua đưa ra cảnh báo tại một hội nghị riêng ở Scotland vào thứ Năm. Theo TechCrunch, sự kiện quy tụ Jensen Huang của Nvidia cùng lãnh đạo OpenAI và Anthropic. Các khách mời khác gồm Bộ trưởng AI mới của Anh Kanishka Narayan, người đứng đầu cơ quan tình báo đối ngoại Anh và Paolo Benanti, cố vấn về AI của Giáo hoàng.
Vua Charles cảnh báo điều gì về AI?
Vua Charles cho rằng tốc độ phát triển và bản chất của AI vừa hấp dẫn, vừa đáng lo ngại sâu sắc. Ông đề nghị các lãnh đạo xây dựng biện pháp kiểm soát phù hợp. Các biện pháp này cần được áp dụng trước khi AI phát triển hoặc được sử dụng theo cách có thể gây thảm họa.
Việc nhà vua trực tiếp nói về AI gây chú ý. Do các giới hạn hiến định, hoàng gia Anh thường thận trọng khi đề cập những vấn đề chính trị nhạy cảm. AI hiện nằm giữa những tranh luận lớn về an toàn, quyền lực công nghệ và lợi ích quốc gia.
Trong bài phát biểu, Vua Charles thừa nhận AI đã cho thấy khả năng cải thiện và cứu sống con người, đặc biệt trong y học và khoa học. Tuy nhiên, ông cũng nhắc tới những cảnh báo từ chính những người tạo ra công nghệ. Theo lời nhà vua, AI có nguy cơ phát triển những năng lực đen tối hơn, thậm chí có thể tước đoạt mạng sống.
Chẳng phải chúng ta cần có những biện pháp kiểm soát đầy đủ trước khi mọi thứ trở nên quá muộn hay sao?
Rủi ro tồn vong trong nội dung cảnh báo
Cảnh báo của Vua Charles được đưa ra chỉ vài tuần sau khi một nhà nghiên cứu của Anthropic nghỉ việc. Người này viết rằng các công ty AI đang chạy đua chế tạo những cỗ máy thông minh hơn bất kỳ con người nào. Người này còn cảnh báo nhân loại có thể không sống sót qua cuộc đua đó.
Vua Charles cho rằng thế giới cần nghiêm túc xem xét những mối nguy mang tính tồn vong nếu AI rơi vào tay kẻ xấu. Câu hỏi ông đặt ra với những người tham dự là liệu xã hội có cần áp dụng các biện pháp kiểm soát đầy đủ trước khi quá muộn hay không.
Thông điệp này liên quan trực tiếp đến mức quyền hạn nên trao cho các hệ thống tự động. Những lo ngại tương tự đang xuất hiện trong lĩnh vực an ninh mạng, nơi các lãnh đạo bảo mật phải xác định AI nên được cấp bao nhiêu quyền trong trung tâm vận hành an ninh.
Nhà vua muốn AI phục vụ lợi ích công cộng
Vua Charles đề nghị các lãnh đạo khai thác mặt tích cực của AI, đồng thời xây dựng hợp tác và đồng thuận quốc tế. Theo ông, phát triển công nghệ phải đi cùng trách nhiệm bảo đảm AI phục vụ con người, cộng đồng và thế giới tự nhiên.
Khi kết thúc bài phát biểu, nhà vua nhấn mạnh rằng xã hội không được đánh mất những giá trị bền vững khi đón nhận công nghệ mới.
Nhiệm vụ của các lãnh đạo không chỉ là thúc đẩy công nghệ, mà còn phải bảo đảm công nghệ tiếp tục phục vụ con người, cộng đồng và thế giới tự nhiên.
Lời kêu gọi hợp tác xuất hiện sau khi Anthropic chỉ cho khách hàng tại Mỹ tiếp cận các mô hình Fable và Mythos. Quyết định này gây bất ngờ cho giới công nghệ châu Âu và làm nổi lên câu hỏi về chủ quyền AI, tức khả năng một quốc gia hoặc khu vực tự kiểm soát hạ tầng, mô hình và quyền truy cập công nghệ.
Phát triển phần mềm là một lĩnh vực khác đang đặt ra câu hỏi về mức độ kiểm soát phù hợp. Cuộc thảo luận về AI viết mã và chất lượng đầu ra cũng xoay quanh cách con người giám sát công nghệ.
Ai tham dự hội nghị AI tại Scotland?
Hội nghị có đại diện của các công ty AI, Chính phủ Anh, cơ quan tình báo và các tổ chức xã hội. Vua Charles ở lại khoảng 20 phút trước khi để các khách mời tiếp tục thảo luận.
OpenAI cử Giám đốc tài chính Sarah Frair tham dự. Anthropic cử Tino Cuéllar, người phụ trách các vấn đề toàn cầu.
Cuéllar cho biết Anthropic vinh dự được tham gia cuộc thảo luận và cảm kích trước việc nhà vua triệu tập các lãnh đạo trong ngành cùng đại diện từ nhiều thành phần xã hội để bàn về vai trò của AI trong việc phục vụ lợi ích công cộng.
Tranh luận về việc tăng tốc hay kiểm soát AI
Hội nghị diễn ra trong bối cảnh các lãnh đạo công nghệ và chính trị bất đồng về tốc độ phát triển AI. Một bên kêu gọi giảm tốc để xử lý rủi ro an toàn, trong khi bên kia coi vị thế dẫn đầu về AI là lợi thế chiến lược cần duy trì.
Đây không phải lần đầu Vua Charles đề cập cả lợi ích lẫn thách thức của AI. Ông từng nói về chủ đề này vào năm 2023 và 2024. Tuy nhiên, hội nghị lần này diễn ra khi AI đang ảnh hưởng đến ngày càng nhiều ngành nghề và cuộc thảo luận xã hội.
Cũng trong tháng này, Sam Altman của OpenAI, Elon Musk và Dario Amodei của Anthropic kêu gọi giảm tốc độ phát triển AI. Jensen Huang của Nvidia và Tổng thống Mỹ Donald Trump nhanh chóng bác bỏ đề xuất đó. Ông Trump nói Mỹ đang dẫn trước Trung Quốc về AI và muốn duy trì vị trí này vì bên chiến thắng trong cuộc đua AI sẽ nắm lợi thế lớn.
Sự đối lập giữa các quan điểm cho thấy lợi ích của các tập đoàn công nghệ, chính phủ và xã hội đang va chạm. Cuộc tranh luận này còn liên quan đến các mô hình AI trọng số mở của Trung Quốc tại Mỹ.
Trong năm qua, OpenAI và Anthropic đều gợi mở khả năng thực hiện những đợt chào bán cổ phiếu lần đầu có quy mô lớn. Tuy nhiên, OpenAI gần đây cho biết kế hoạch niêm yết trong năm nay đã đình trệ khi những lo ngại về an toàn AI vẫn chưa được giải quyết.
Thông điệp chính từ hội nghị
Hội nghị tại Scotland không đưa ra câu trả lời đơn giản cho việc nên tăng tốc hay kìm hãm AI. Phát biểu của Vua Charles tập trung vào một yêu cầu cụ thể: AI phải nằm trong tầm kiểm soát và tiếp tục phục vụ con người.
Hãy tiếp tục theo dõi Sine để cập nhật những chuyển động mới trong cuộc tranh luận về phát triển và kiểm soát AI.
