Sự gia tăng đột ngột và tiến bộ của các hệ thống trí tuệ nhân tạo trong vài tháng qua đã làm dấy lên lo ngại về những tác động có hại tiềm tàng của nó đối với xã hội. AI không chỉ có thể đe dọa công việc và sự sáng tạo của con người, mà việc sử dụng máy móc thông minh trong chiến tranh có thể gây ra những hậu quả thảm khốc. Để giải quyết mối nguy này, Hội nghị thượng đỉnh toàn cầu đầu tiên về Trí tuệ nhân tạo có trách nhiệm trong lĩnh vực quân sự (REAIM) đã được tổ chức vào tuần trước, dẫn đến việc các quốc gia ký thỏa thuận sẽ có trách nhiệm cao hơn trong việc sử dụng AI.
Được đồng tổ chức bởi Hà Lan và Hàn Quốc vào tuần trước tại The Hague, hội nghị REAIM có sự tham gia của đại diện từ hơn 60 quốc gia, bao gồm cả Trung Quốc. Các bộ trưởng, đại biểu chính phủ và các tổ chức công nghiệp/dân sự đã tham gia vào các cuộc đàm phán. Nga không được mời tham gia, trong khi Ukraine không tham dự.
Lời kêu gọi hành động được ký bởi tất cả những người tham dự ngoại trừ Israel xác nhận rằng các quốc gia cam kết phát triển và sử dụng AI quân sự phù hợp với "nghĩa vụ pháp lý quốc tế và theo cách không làm suy yếu an ninh, ổn định và trách nhiệm quốc tế."
Thứ trưởng Ngoại giao Hoa Kỳ về Kiểm soát Vũ khí Bonnie Jenkins kêu gọi sử dụng AI có trách nhiệm trong các tình huống quân sự. Jenkins cho biết: “Chúng tôi mời tất cả các quốc gia tham gia cùng chúng tôi trong việc thực hiện các quy tắc quốc tế, vì nó liên quan đến phát triển quân sự và sử dụng AI” và vũ khí tự trị. "Chúng tôi muốn nhấn mạnh rằng chúng tôi sẵn sàng tham gia với bất kỳ quốc gia nào quan tâm đến vấn đề này.
Đại diện Trung Quốc Jian Tan phát biểu tại hội nghị thượng đỉnh rằng các quốc gia nên "phản đối việc tìm kiếm lợi thế quân sự tuyệt đối và quyền bá chủ thông qua AI" và làm việc thông qua Liên Hợp Quốc.
Các vấn đề khác mà các bên ký kết đã đồng ý giải quyết bao gồm độ tin cậy của AI quân sự, hậu quả không mong muốn của việc sử dụng nó, rủi ro leo thang và cách con người cần tham gia vào quá trình ra quyết định.
Vào năm 2019, DoD cho biết con người sẽ luôn có tiếng nói cuối cùng về việc liệu các hệ thống vũ khí tự trị có khai hỏa vào các mục tiêu trực tiếp hay không. Đối với những hậu quả không mong muốn được đề cập trong tuyên bố, một số người lo ngại việc Ấn Độ đẩy mạnh các hệ thống quân sự do AI cung cấp có thể dẫn đến một cuộc chiến tranh hạt nhân với Pakistan do nguy cơ tấn công phủ đầu gia tăng.
Một số người tham dự đã ghi nhận những lợi ích của việc sử dụng AI trong xung đột, đặc biệt là ở Ukraine, nơi công nghệ học máy và các công nghệ tiên tiến khác đã được sử dụng để chống lại các cuộc tấn công của Nga.
Phó Thủ tướng Hà Lan Wopke Hoekstra nói: “Hãy tưởng tượng một quả tên lửa đánh trúng một tòa nhà chung cư. "Chỉ trong tích tắc, AI có thể phát hiện tác động của nó và chỉ ra vị trí của những người sống sót. Ấn tượng hơn nữa, AI có thể đã đánh chặn tên lửa ngay từ đầu. Tuy nhiên, AI cũng có khả năng tiêu diệt một khu vực nào đó trong vòng vài giây".
Các nhà phê bình cho rằng tuyên bố này không ràng buộc về mặt pháp lý và không giải quyết được nhiều mối lo ngại khác xung quanh việc sử dụng AI trong các cuộc xung đột quân sự, bao gồm cả máy bay không người lái do AI điều khiển.
Nhiều lo ngại hơn về nhiều ứng dụng tiềm năng của AI trong chiến tranh đã dấy lên vào tuần trước sau khi Lockheed Martin tiết lộ máy bay huấn luyện mới của họ đã được điều khiển bởi trí tuệ nhân tạo trong hơn 17 giờ, đánh dấu lần đầu tiên AI tự lái một mẫu máy bay chiến đấu. Cựu Giám đốc điều hành Google và Chủ tịch Alphabet Eric Schmidt nói rằng trí tuệ nhân tạo có thể có tác động tương tự với các cuộc chiến như vũ khí hạt nhân.
Theo Tech Spot
