Hai nhà nghiên cứu của Global Pulse, một nhóm nghiên cứu thuộc Liên Hợp Quốc đã quyết định tìm hiểu về vấn đề này.
Nhóm nghiên cứu chỉ dùng công cụ và dữ liệu thuộc nguồn mở và kết quả nhận được thật sốc khi chỉ trong một thời gian ngắn đã có thể tạo ra được một bài phát biểu giả mạo. Họ đã sử dụng một mô hình ngôn ngữ có sẵn, mô hình này cũng được sử dụng để tạo ra các đoạn văn bản trên Wikipedia. Sau đó AI còn được huấn luyện nghe các bài phát biểu của các nhà lãnh đạo, chính trị gia tại LHQ trong suốt 45 năm qua (1970-2015).
Sau 13 giờ huấn luyện và chỉ chưa đầy 7,8 USD chi cho dịch vụ đám mây, "chính trị gia" AI đã có thể đưa ra các bài phát biểu đủ sức nặng để thu hút đám đông tại LHQ. Các bài phát biểu xoay quanh nhiều chủ đề nhạy cảm bao gồm vấn đề hạt nhân hay biến đổi khí hậu.
Các nhà nghiên cứu đã thử nghiệm mô hình này dựa trên ba loại gợi ý: chủ đề chung (ví dụ như biến đổi khí hậu), mở đầu các nhận xét của Tổng thư ký LHQ và các chủ đề mang tính kích động (như người nhập cư…).
 |
|
Ảnh: Istock Photo
|
Họ nhận thấy rằng các bài phát biểu thuộc chủ đề đầu tiên của các chính trị gia AI này hoàn toàn phù hợp với phong cách và giọng điệu của những bài phát biểu thật tại LHQ tới 90%. Trong khi, các bài phát biểu “nhái” thuộc chủ đề thứ ba có sức thuyết phục thấp hơn, khoảng 60% do chủ đề này đòi hỏi nhiều dẫn chứng phức tạp hơn.
Nghiên cứu đã chứng tỏ rằng trí tuệ nhân tạo có thể dễ dàng và nhanh chóng tạo ra các tin tức giả mạo với nội dung thù địch, kích động và mạo danh các nhân vật cấp cao. Sẽ thật nguy hiểm nếu khả năng của AI vượt ngoài tầm kiểm soát của con người và bị kẻ xấu lợi dụng.
Nhóm nghiên cứu cũng cảnh báo cần có một nỗ lực mang tính toàn cầu để tìm ra biện pháp có thể sớm phát hiện và xử lý các tin tức giả mạo do AI tạo ra.
Theo Technology Review
