Internet đang gặp một vấn đề về niềm tin. Nội dung do AI tạo ra không còn chỉ xuất hiện dày đặc trên mạng xã hội. Nó đã đi vào hồ sơ xin việc, đánh giá sản phẩm và cả yêu cầu bồi thường bảo hiểm. Theo TechCrunch, các nền tảng và người dùng vì thế phải tìm cách xác định đâu là nội dung thật.
Khoảng trống niềm tin mà Pangram muốn xử lý
Internet còn thiếu một lớp xác thực đáng tin cậy. Trong vài năm qua, một số công ty khởi nghiệp đã tìm cách lấp khoảng trống đó. Pangram là một trong số đó. Công ty xây dựng hệ thống phát hiện nội dung AI và gần đây còn giới thiệu công cụ nhận diện hình ảnh do AI tạo ra.
Pangram hoạt động ở lớp ứng dụng phía trên hạ tầng AI. Công ty đánh giá nội dung sau khi các mô hình đã tạo ra văn bản hoặc hình ảnh. Theo TechCrunch, công ty đã huy động 9 triệu USD cho hệ thống phát hiện AI.
Thỏa thuận với Substack đưa công nghệ đến người đọc
TechCrunch cho biết Pangram đã thiết lập quan hệ hợp tác với Substack. Nền tảng này sử dụng công nghệ của Pangram để cho người đọc biết những tác giả họ theo dõi có dùng AI khi viết bản tin hay không.
Đây là một cách tiếp cận khác với việc dùng AI để phân loại nội dung có dấu hiệu rủi ro, chẳng hạn trường hợp Amazon dùng AI để nhận diện tin nhắn lừa đảo. Với Pangram, đối tượng cần nhận diện là mức độ tham gia của AI vào quá trình tạo nội dung.
Ranh giới của nội dung không dừng ở hai nhãn thật và giả
Max Spero, đồng sáng lập kiêm giám đốc điều hành Pangram, tham gia chương trình Equity của TechCrunch để bàn về triển vọng của các công cụ phát hiện AI. Trọng tâm của cuộc trao đổi là ranh giới giữa nội dung được AI hỗ trợ và nội dung do AI tạo ra.
Cách đặt vấn đề này cho thấy phép phân loại chỉ gồm “thật” và “giả” không mô tả hết quá trình sản xuất nội dung. Một tác giả có thể dùng AI trong một phần công việc, trong khi sản phẩm hoàn chỉnh vẫn có sự tham gia của con người. Nhiệm vụ của công cụ phát hiện vì thế không chỉ là tìm dấu vết của AI mà còn phải phản ánh đúng mức độ AI đã tham gia.
Điều đáng chú ý với độc giả trong nước
Các trường hợp TechCrunch nêu ra gồm hồ sơ xin việc, đánh giá sản phẩm và yêu cầu bồi thường bảo hiểm. Đây đều là những loại nội dung mà quyết định của nền tảng hoặc người tiếp nhận có thể phụ thuộc vào mức độ đáng tin cậy của thông tin.
AI ngày càng tham gia sâu vào quy trình tạo nội dung. Vì vậy, câu hỏi hữu ích không chỉ là nội dung có phải do AI viết hay không. Cần phân biệt rõ AI đã hỗ trợ phần nào, con người chịu trách nhiệm đến đâu và kết quả phát hiện sẽ được trình bày với người đọc như thế nào.
Hãy tiếp tục theo dõi Sine để cập nhật cách các công cụ phát hiện AI đang định hình lại niềm tin trên internet.
