Ba người leo núi trẻ tuổi đã được giải cứu khỏi núi Shasta ở California sau khi dùng Google Gemini để lên kế hoạch cho chuyến đi. Văn phòng Cảnh sát trưởng hạt Siskiyou cho biết công cụ này đã đưa ra lời khuyên không phù hợp. Theo cơ quan này, nhóm mang theo ít thức ăn và nước uống hơn nhiều so với nhu cầu thực tế. Cơ quan này khuyến cáo người leo núi nên kiểm tra thông tin với trạm kiểm lâm địa phương thay vì dựa hoàn toàn vào trí tuệ nhân tạo.
Nội dung vụ giải cứu ba người leo núi
Hành trình lên đỉnh núi Shasta
TechCrunch dẫn thông tin ban đầu từ Chicago Tribune và báo cáo của Văn phòng Cảnh sát trưởng hạt Siskiyou. Cả ba bắt đầu leo núi lúc 3 giờ sáng. Người leo núi được khuyến cáo quay lại nếu chưa lên đến đỉnh vào 12 giờ trưa. Nhóm vẫn tiếp tục hành trình và chỉ tới đỉnh lúc 7 giờ tối.
Khi trời tối, nhóm tìm đường xuống núi rồi gọi cho văn phòng cảnh sát trưởng để hỏi đường. Họ phải qua đêm tại hẻm núi Mud Creek trước khi được kiểm lâm thuộc Cục Lâm nghiệp Mỹ và các tình nguyện viên giải cứu vào sáng hôm sau.
Lời khuyên của Google Gemini thiếu những gì?
Không thể quy toàn bộ trách nhiệm cho Google Gemini. Tuy nhiên, Văn phòng Cảnh sát trưởng hạt Siskiyou cho biết lượng thức ăn và nước uống được đề xuất không đáp ứng nhu cầu. Chặng leo dự kiến kéo dài 8 giờ đã trở thành hành trình nhiều ngày.
Cơ quan này khuyến cáo người chuẩn bị leo núi Shasta gọi trước cho trạm kiểm lâm địa phương để nhận thông tin chính xác nhất. Kế hoạch do AI tạo ra cần được đối chiếu với điều kiện thực địa. Người dùng cũng cần kiểm tra hướng dẫn của cơ quan quản lý và các nguồn thông tin tại chỗ. Nguyên tắc này cũng áp dụng khi người dùng kiểm tra giới hạn của AI thời tiết của Google trước khi đưa ra quyết định ngoài thực địa.
Sự cố không phủ nhận mọi ứng dụng của AI. Nó cho thấy người dùng cần biết công cụ dựa vào dữ liệu nào và dữ liệu đó có còn phù hợp hay không. Người dùng cũng cần xác định những điều kiện mà AI có thể bỏ sót. Yêu cầu này đặc biệt quan trọng khi áp dụng AI nhưng vẫn phải hiểu AI trong các tình huống liên quan trực tiếp đến an toàn.
Hãy tiếp tục theo dõi Sine để cập nhật những câu chuyện thực tế về cách AI ảnh hưởng đến các quyết định hằng ngày.
