Nội dung vụ việc và cách DetectifAI hoạt động
Tarini Padmanabhuni thành lập DetectifAI sau khi ông cô bị lừa bởi một cuộc gọi giả giọng bắt chước người thân. Công ty cho biết họ đang phát triển mô hình phát hiện âm thanh do trí tuệ nhân tạo tạo ra. Theo DetectifAI, mô hình được thiết kế đủ nhỏ để chạy trực tiếp trên điện thoại, với mục tiêu đánh giá giọng nói ngay trong cuộc gọi.
Khi điện thoại đổ chuông, ông của Padmanabhuni tin rằng người ở đầu dây bên kia là anh hoặc em trai mình. Giọng nói ấy báo rằng người anh em trai của ông đã bị bắt cóc và yêu cầu ông trả tiền chuộc để đưa người thân về an toàn. Ông làm theo, rồi mới biết người anh em trai ấy đang ở một nơi khác và không hay biết chuyện gì vừa xảy ra.
Giọng nói trong cuộc gọi là sản phẩm giả mạo được trí tuệ nhân tạo tạo ra để bắt chước người anh em trai của ông. Theo Padmanabhuni, điều khiến cô day dứt không phải số tiền bị mất mà là việc ông cô không có cách nhận ra giọng nói đó là giả. Câu chuyện được TechCrunch thuật lại trong bài viết về hành trình cô xây dựng công nghệ phát hiện giả giọng.
Từ một cuộc gọi lừa đảo đến DetectifAI
Vụ lừa đảo xảy ra khoảng hai năm trước và trở thành động lực để Padmanabhuni thành lập DetectifAI. Công ty có trụ sở tại San Francisco. DetectifAI cho biết công nghệ của mình hướng tới việc giúp người dùng nhận biết giọng nói do trí tuệ nhân tạo tạo ra trước khi tin hoặc hành động.
Theo số liệu của Cục Điều tra Liên bang Mỹ được TechCrunch dẫn lại, người Mỹ mất gần 900 triệu USD vì các vụ lừa đảo sử dụng trí tuệ nhân tạo trong năm 2025. Con số này tăng 24% so với năm 2024. Nhóm từ 60 tuổi trở lên mất số tiền cao gấp đôi nhóm từ 50 đến 59 tuổi.
Thị trường phát hiện giả giọng đã có Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety và Nuance, công ty cũng thuộc Microsoft. Padmanabhuni cho rằng các sản phẩm hiện nay chủ yếu xử lý dữ liệu trên máy chủ từ xa. Điều đó khiến nhà sản xuất điện thoại khó tích hợp công nghệ trực tiếp vào thiết bị, trong khi người đang bị nhắm tới có ít công cụ tự bảo vệ ngay trong cuộc gọi.
Mô hình nhỏ chạy ngay trên điện thoại
DetectifAI thiết kế các mô hình trí tuệ nhân tạo gọn nhẹ ngay từ đầu thay vì thu nhỏ một mô hình vốn dành cho điện toán đám mây. Theo công ty, các mô hình này đủ nhỏ để hoạt động trong hệ điều hành điện thoại thông minh và kiểm tra âm thanh mà không cần gửi dữ liệu ra khỏi thiết bị.
Công nghệ đưa ra đánh giá tức thời về khả năng một giọng nói được tạo bằng trí tuệ nhân tạo. Quá trình kiểm tra có thể diễn ra trong cuộc gọi, tin nhắn thoại hoặc nội dung âm thanh khác. Cách xử lý tại chỗ cũng liên quan đến cuộc thảo luận rộng hơn về việc trí tuệ nhân tạo trên thiết bị luôn tiếp nhận âm thanh và cách bảo vệ người dùng khi công nghệ đi sâu hơn vào thiết bị cá nhân.
DetectifAI trước tiên bán công nghệ cho các nhà sản xuất điện thoại. Công ty cấp phép bộ công cụ phát triển phần mềm để nhà sản xuất có thể tích hợp tính năng phát hiện giả giọng vào hệ điều hành.
Padmanabhuni so sánh chiến lược này với vai trò của AT&T trong lần ra mắt iPhone đầu tiên. Khi đó, thỏa thuận độc quyền giúp nhà mạng tạo khác biệt trước đối thủ. Theo lập luận của cô, hãng điện thoại đầu tiên đưa DetectifAI vào sản phẩm sẽ có lợi thế cạnh tranh. Cô dự đoán khả năng phát hiện giả giọng cuối cùng có thể trở thành một thông số phổ biến như độ phân giải máy ảnh.
Công nghệ được cấp phép qua bộ công cụ phát triển
Sản phẩm cốt lõi của DetectifAI là một bộ mã mà doanh nghiệp khác có thể tích hợp vào sản phẩm và cấp phép qua các kênh sẵn có. Padmanabhuni cho biết nguồn thu thứ hai của công ty sẽ đến từ việc cấp phép công nghệ cho doanh nghiệp và các công ty phòng chống gian lận.
Theo Padmanabhuni, DetectifAI đã có doanh thu ban đầu. Công ty đang xử lý hơn 100.000 cuộc gọi mỗi tháng cho các tổ chức tài chính tại Ấn Độ. Các tác tử giọng nói sử dụng trí tuệ nhân tạo thực hiện những cuộc gọi này để thu hồi nợ và theo dõi hồ sơ vay. Hệ thống kiểm tra từng cuộc gọi để phát hiện giả giọng và xác minh người gọi có đúng là người họ tự nhận hay không.
Padmanabhuni không tiết lộ tên khách hàng vì các thỏa thuận bảo mật. Hoạt động này cho thấy hệ thống tự động cần kiểm tra danh tính và tính xác thực ngay trong quy trình, tương tự vai trò của xác minh trong các quy trình tự động có quy mô lớn.
Khởi đầu với học máy từ năm 12 tuổi
Padmanabhuni cho biết cô bắt đầu làm việc với học máy từ năm 12 tuổi. Sau đó, cô theo học ngành hệ thống không gian mạng-vật lý tại Viện Công nghệ Manipal ở Ấn Độ, lĩnh vực kết nối phần mềm với máy móc vật lý.
Tại trường, Padmanabhuni nói cô trở thành trưởng nhóm trẻ nhất của bộ phận xe đua không người lái đầu tiên tại Ấn Độ trong Formula Student, một cuộc thi kỹ thuật quốc tế dành cho sinh viên.
Phản hồi đáng nhớ từ một thử nghiệm nhỏ
Trong một thử nghiệm quy mô nhỏ trên WhatsApp, người dùng chuyển tiếp tin nhắn thoại đáng ngờ và nhận lại đánh giá về việc nội dung đó là thật hay giả. Padmanabhuni xem phản hồi từ một người có họ hàng từng bị lừa là một trong những khoảnh khắc đáng nhớ nhất của DetectifAI.
Người thử nghiệm gọi cho công ty và nói họ sẵn sàng trả tiền cho công cụ mà không cần cân nhắc. Với Padmanabhuni, phản hồi ấy gắn trực tiếp với điều ông cô từng thiếu khi nhận cuộc gọi giả mạo: một cách kiểm tra giọng nói trước khi tin.
DetectifAI bước vào cuộc thi Startup Battlefield
DetectifAI đã huy động một khoản vốn hạt giống nhỏ từ Josh Constine và Manohar Kamath. Constine là cựu biên tập viên của TechCrunch, còn Kamath là lãnh đạo tại công ty dịch vụ tư vấn KM Growth. TechCrunch không công bố giá trị cụ thể của khoản đầu tư.
Đội ngũ biên tập của TechCrunch cũng chọn DetectifAI tham gia tranh tài tại Startup Battlefield. Cuộc thi diễn ra trong khuôn khổ TechCrunch Disrupt từ ngày 13 đến 15 tháng 10 tại trung tâm San Francisco. Phát hiện giả giọng là một vấn đề thuộc an toàn trí tuệ nhân tạo tại Disrupt 2026.
Nếu nhận được cuộc gọi có giọng nói quen thuộc nhưng nội dung bất thường, người nghe nên xác minh qua một kênh liên lạc khác trước khi chuyển tiền hoặc thực hiện yêu cầu.
