Microsoft ra công cụ phát hiện deepfake

Microsoft Video Authenticator là công cụ có thể phân tích ảnh tĩnh hoặc video, sau đó đưa ra tỷ lệ phần trăm giả mạo của chúng.

Theo Microsoft, với một video deepfake, Video Authenticator có thể cung cấp tỷ lệ phần trăm hình ảnh giả mạo trên mỗi khung hình video đang phát theo thời gian thực. Hệ thống hoạt động bằng cách phát hiện ranh giới của các khung hình giả chèn lên khung hình thật, đặc biệt là ranh giới mờ dần ở các phần biên - điều mà con người không thể nhận biết bằng mắt thường.

Công cụ Video Authenticator của Microsoft có thể phát hiện video deepfake từ các chi tiết nhỏ nhất. Ảnh: Microsoft.

Công cụ Video Authenticator của Microsoft có thể phát hiện video deepfake từ các chi tiết nhỏ nhất. Ảnh: Microsoft.

Thuật ngữ "deepfake" là sự kết hợp giữa "deep learning" và "fake". Về cách thức hoạt động, deepfake sử dụng AI để quét video và ảnh chân dung của một người sau đó hợp nhất với video riêng biệt và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói như thật.

Microsoft cho biết, công nghệ phát hiện deepfake của hãng dựa trên các bộ dữ liệu công khai từ FaceForensics++ và được thử nghiệm trên DeepFake Detection Challenge Dataset. Đây là hai mô hình hàng đầu chuyên đào tạo và thử nghiệm các công nghệ phát hiện deepfake.

Video Authenticator được Microsoft triển khai đầu tiên dưới dạng tiện ích mở rộng cho các trình duyệt, nhưng chưa rõ thời gian có mặt cho người dùng. Hãng phần mềm Mỹ hiện hợp tác với một liên minh các công ty truyền thông có tên Project Origin, bao gồm BBC và New York Times, để thử nghiệm công nghệ mới.

Microsoft thừa nhận công cụ của họ chưa hoàn hảo và đang đi sau các công nghệ về deepfake. Tuy nhiên, hãng cho biết sẽ chạy đua để tạo thuật toán đủ mạnh để phát hiện nội dung này nhanh và chính xác hơn.

"Trong những tháng tới, chúng tôi hi vọng sẽ mở rộng công nghệ mới cho nhiều công ty, tổ chức ở các lĩnh vực đa dạng hơn", đại diện Microsoft cho biết. "Theo thời gian, các video deepfake ngày càng tinh vi và khó phát hiện. Tuy nhiên, chúng tôi kỳ vọng công nghệ mới sẽ theo kịp để phát hiện thông tin sai lệch thời gian tới, đặc biệt là khi bầu cử Tổng thống Mỹ sắp diễn ra".

Theo VnExpress

Có thể bạn quan tâm