Thị trưởng New York Zohran Mamdani cho rằng chính quyền liên bang Mỹ đã từ bỏ trách nhiệm quản lý trí tuệ nhân tạo. Ông kêu gọi người New York giành lại quyền quyết định cách AI được triển khai. Quyền đó bao gồm việc sử dụng AI trong trường học, việc làm, nhà ở và đời sống hằng ngày. Theo ông, công chúng không phải chấp nhận công nghệ như một lực lượng tất yếu.
Theo bài tường thuật của TechCrunch, Mamdani thảo luận về tương lai của AI tại Webster Hall ở Manhattan. Sự kiện diễn ra vào tối thứ Hai cùng nhà hoạt động kiêm diễn viên Ilana Glazer. Cuộc trò chuyện thuộc Đại hội AI của Người dân. Viện AI Now, một tổ chức nghiên cứu tác động xã hội của AI, tổ chức sự kiện này.
Nội dung cuộc thảo luận: Người dân không buộc phải chấp nhận AI
Mamdani phản bác quan niệm rằng AI tất yếu phải tác động đến việc làm, tâm trí trẻ em và phẩm giá con người. Theo ông, giới chức có trách nhiệm buộc các công ty AI giải trình. Công chúng cũng phải có quyền chất vấn và quyết định cách công nghệ được đưa vào đời sống.
“Không có điều gì là bắt buộc phải xảy ra”, Mamdani nói tại sự kiện. Ông mô tả một quá trình AI len dần vào đời sống. Quá trình này khiến công chúng choáng ngợp và tin rằng họ không còn lựa chọn nào khác.
Quan điểm này xuất hiện khi chính quyền liên bang Mỹ ít can thiệp vào việc quản lý AI. Vì vậy, các thành phố phải tự xây dựng biện pháp ứng phó. Cuộc tranh luận cũng đặt ra câu hỏi AI có thể gây ra rủi ro nghiêm trọng đến mức nào. Rủi ro tăng khi các tổ chức triển khai công nghệ nhanh hơn khả năng giám sát.
New York hạn chế AI trong trường học
New York áp dụng cách tiếp cận thận trọng với AI trong giáo dục. Thành phố cấm sử dụng công nghệ này tại các trường tiểu học và trung học cơ sở.
Tháng trước, Mamdani đã ban hành lệnh cấm sử dụng AI tại các trường tiểu học và trung học cơ sở. Glazer, người cũng là một phụ huynh, nói rằng việc công nghệ xuất hiện trong lớp học khiến cô lo lắng.
“Tôi cảm thấy rất bất an. Việc này giống như diễn ra mà không có sự đồng thuận, như thể AI bắt buộc phải có trong trường học. Hai năm trước nó đâu có ở đó. Tại sao bây giờ nó lại bắt buộc phải có?”, Glazer đặt câu hỏi.
Lệnh cấm và phát biểu của Glazer cùng phản bác giả định rằng trường học phải chấp nhận AI chỉ vì công nghệ này đã xuất hiện. Cả hai tập trung vào quyền của công chúng trong việc quyết định AI có nên được đưa vào lớp học hay không.
Đề xuất công khai ảnh nhà ở tạo bằng AI
Mamdani cũng đề xuất một chính sách sẽ yêu cầu các bên tham gia thị trường bất động sản công khai ảnh hoặc video trong tin đăng được tạo bằng AI. Đề xuất này hướng trách nhiệm minh bạch đến chủ nhà, môi giới và nền tảng đăng tin, thay vì buộc người tìm nhà tự nhận diện nội dung nhân tạo.
Trong mùa hè, Mamdani đưa ra đề xuất chính sách cho thị trường bất động sản. Theo đề xuất, chủ nhà, môi giới và các nền tảng sẽ phải thông báo rõ khi ảnh hoặc video trong tin đăng được tạo bằng AI. Mục tiêu là bảo vệ người New York trước những hình ảnh có thể gây hiểu lầm về bất động sản.
Cùng với hạn chế trong trường học, đề xuất này thách thức giả định rằng công chúng chỉ có thể thích nghi sau khi AI đã được triển khai. Việc công khai ảnh hoặc video tin đăng được tạo bằng AI sẽ giúp người tìm nhà có thêm thông tin trước khi đưa ra quyết định.
Cảnh báo về việc tin AI quá mức
Mamdani cho rằng AI không thể được xem là công nghệ luôn đúng hoặc không thể bị chất vấn. Ông viện dẫn một cuộc điều tra về hoạt động quân sự. Theo lập luận của ông, phụ thuộc quá nhiều vào AI có thể gây hậu quả nghiêm trọng. Nguy cơ tăng khi con người không duy trì cơ chế giám sát và trách nhiệm giải trình.
Mamdani nhắc đến vụ quân đội Mỹ không kích một trường học ở Iran vào tháng Hai. Theo điều tra của Bloomberg, cuộc tấn công khiến hơn 150 người thiệt mạng. Trong số đó có ít nhất 123 trẻ em. Những người tham gia cuộc điều tra nội bộ của Lầu Năm Góc đã trao đổi với Bloomberg. Họ nói việc phụ thuộc quá nhiều vào AI khi xác định mục tiêu là một yếu tố dẫn đến vụ việc.
“Có một mong muốn nói về AI như thể nó không thể sai, không thể bị chất vấn và chỉ những người đang phát triển nó mới có thể quản lý nó”, Mamdani nói. Ông cho rằng Facebook từng đưa ra lập luận tương tự vào năm 2008.
Theo Mamdani, lập luận này giúp các tổ chức tránh trách nhiệm giải trình ở nhiều cấp độ. Nó cũng bảo vệ mức định giá tiềm năng trước khi phát hành cổ phiếu lần đầu ra công chúng. TechCrunch cho biết Anthropic được kỳ vọng sẽ lên sàn trong năm nay. OpenAI nói rằng công ty sẽ lên sàn vào năm 2027.
Khoảng trống quản lý ở cấp liên bang
Mamdani mô tả chính sách AI hiện tại của liên bang là sự từ bỏ trách nhiệm quản lý. Theo ông, thảo luận ở cấp quốc gia thường xem AI như một cuộc chạy đua với Trung Quốc. Tác động đối với con người và yêu cầu buộc doanh nghiệp giải trình không được đặt ở vị trí tương xứng.
Lực lượng Đặc nhiệm Siêu trí tuệ của Tổng thống Donald Trump được công bố vào đầu tháng này. Lực lượng này chủ yếu hướng đến việc để các công ty AI lớn tự quản lý thay vì thiết lập thêm hạn chế liên bang. Cách tiếp cận xuất hiện giữa lúc lo ngại về ảnh hưởng của AI đối với đời sống tiếp tục tăng. Những người tố giác tại Anthropic, Google DeepMind và OpenAI còn cảnh báo rằng AI có thể dẫn đến sự tuyệt chủng của loài người.
Tranh luận về quyền tự quản của doanh nghiệp cũng gắn với câu hỏi AI nên được trao bao nhiêu quyền trước khi con người mất khả năng can thiệp hiệu quả.
Mamdani cho rằng nước Mỹ cần một khuôn khổ khác sau nhiệm kỳ của chính quyền liên bang hiện tại. Ông yêu cầu thay đổi cách xã hội suy nghĩ và thảo luận về AI, cũng như cách đặt ra trách nhiệm giải trình khi công nghệ này được áp dụng.
Tiếp tục theo dõi Sine để cập nhật những quyết định quản lý AI có thể định hình cách công nghệ đi vào trường học, việc làm và đời sống hằng ngày.
