Các nhóm cực đoan đã bắt đầu thử nghiệm trí tuệ nhân tạo, và đặc biệt là AI, nhằm tạo ra một làn sóng tuyên truyền mới. Các chuyên gia lo ngại việc các nhóm này ngày sử dụng công cụ AI tạo sinh sẽ làm đảo lộn công việc mà Big Tech đã thực hiện trong những năm gần đây nhằm ngăn chặn nội dung độc hại xuất hiện trên internet.
Trong nhiều năm, các nền tảng mạng đã tạo ra cơ sở dữ liệu về nội dung cực đoan để nhanh chóng và tự động xóa chúng khỏi internet. Nhưng theo Adam Hadley, giám đốc điều hành của Tech Against Terrorism, các đồng nghiệp của ông đã thu thập khoảng 5.000 ví dụ về nội dung do AI tạo ra mỗi tuần. Những nội dung này gồm hình ảnh được chia sẻ bởi các nhóm có liên hệ với Hezbollah và Hamas, được thiết kế để tác động đến cuộc xung đột Israel-Hamas.
Ông Hadley nói: “Trong khoảng sáu tháng, khả năng các nhóm này thao túng hình ảnh để phá vỡ hệ thống bảo mật thực sự đáng lo ngại. Lĩnh vực công nghệ đã làm rất tốt việc xây dựng công nghệ tự động, những kẻ khủng bố có thể bắt đầu sử dụng AI để loại bỏ những nỗ lực này”.
Các nhà nghiên cứu tại Tech Against Terrorism gần đây còn phát hiện hình ảnh do AI tạo nên với nội dung phân biệt chủng tộc và chống Do Thái được gắn vào một ứng dụng có sẵn trên cửa hàng Google Play.
Ngoài việc nêu chi tiết về mối đe dọa do các công cụ AI tạo sinh có thể chỉnh sửa hình ảnh, Tech Against Terrorism đã xuất bản một báo cáo trích dẫn những cách mà các công cụ AI có thể được sử dụng để giúp đỡ các nhóm cực đoan. Chúng gồm sử dụng các công cụ dịch tự động để chuyển đổi lời tuyên truyền sang nhiều ngôn ngữ, hoặc khả năng tạo thông điệp được cá nhân hóa trên quy mô lớn để tạo điều kiện thuận lợi cho nỗ lực tuyển dụng trực tuyến.
Tuy nhiên, Hadley tin rằng AI cũng mang đến cơ hội để dập tắt làn sóng cực đoan này. “Chúng tôi sẽ hợp tác với Microsoft để tìm hiểu xem các giải pháp sử dụng kho lưu trữ tài liệu của chúng tôi để tạo ra một loại hệ thống phát hiện AI thế hệ mới nhằm chống lại việc AI sẽ bị lạm dụng để tạo ra nội dung khủng bố trên quy mô lớn. Chúng tôi tin rằng chính công nghệ AI có thể được sử dụng để chống lại các trường hợp sử dụng AI sai mục đích".
Mối quan hệ hợp tác đã được công bố gần đây, ngay trước Hội nghị thượng đỉnh của các nhà lãnh đạo ở Christchurch, một phong trào được thiết lập nhằm xóa bỏ chủ nghĩa khủng bố và nội dung cực đoan khỏi Internet, sẽ được tổ chức tại Paris.
Brad Smith, Phó chủ tịch Microsoft cho biết trong một tuyên bố: “Việc sử dụng các nền tảng kỹ thuật số để truyền bá nội dung cực đoan bạo lực là một vấn đề cấp bách. Bằng cách kết hợp khả năng của Công nghệ chống khủng bố với AI, chúng tôi hy vọng sẽ giúp tạo ra một thế giới an toàn hơn”.
Hadley nói: “Điều này sẽ đặc biệt quan trọng đối với các nền tảng nhỏ hơn không có trung tâm nghiên cứu AI của riêng họ. Ngay cả bây giờ, với các công cụ quét tự động các nền tảng nhỏ hơn vẫn có thể bị tấn công bởi dạng nội dung này”.
Tháng trước, Internet Watch Foundation (IWF), tổ chức phi lợi nhuận có trụ sở tại Anh nhằm xóa nội dung bóc lột trẻ em khỏi internet, đã xuất bản một báo cáo nêu chi tiết về sự hiện diện ngày càng tăng của tài liệu lạm dụng tình dục trẻ em (CSAM) do các công cụ AI tạo ra trên web đen.
Các nhà nghiên cứu đã tìm thấy hơn 20.000 hình ảnh do AI tạo ra được đăng lên một diễn đàn CSAM web đen chỉ trong vòng một tháng, với 11.108 hình ảnh trong số này được các nhà nghiên cứu IWF đánh giá là có nhiều khả năng là tội phạm. Các nhà nghiên cứu của IWF đã viết trong báo cáo của họ, “Những hình ảnh AI này có thuyết phục đến mức không thể phân biệt được với hình ảnh thật”.
Theo Wired
