Một cảnh báo mới của Anthropic về trí tuệ nhân tạo (AI) đã gây xôn xao trong giới an ninh mạng hôm 13/10, chỉ một ngày sau khi công ty này nhận định các mô hình AI chỉ vài tháng nữa là có được khả năng tự nhân bản trên Internet.
Trong bài đăng vào cuối ngày thứ Hai, Anthropic nêu ra kịch bản AI mất kiểm soát có thể tự tạo ra một mạng botnet, nhanh chóng phát tán, chống lại các nỗ lực vô hiệu hóa và thậm chí xâm nhập trung tâm dữ liệu để tăng tốc quá trình phát triển. Một số chuyên gia hôm thứ Ba cho biết họ chia sẻ mối lo ngại của công ty, dù ít nhất một người cho rằng Anthropic dường như đang phóng đại rủi ro để quảng bá công nghệ của mình.
Bài đăng hôm thứ Hai đã phân tích sâu hơn cảnh báo được Giám đốc điều hành Anthropic Dario Amodei đưa ra tháng trước. Khi đó, ông đề cập khả năng AI có thể chiếm quyền kiểm soát “toàn bộ Internet” bằng một “mạng botnet dai dẳng” trong vòng một năm tới, thậm chí sớm hơn.
Các chuyên gia an ninh mạng phản bác kịch bản thảm họa này cho rằng những mô hình AI sẽ quá lớn để có thể di chuyển hiệu quả giữa các thiết bị, đồng thời khó huy động đủ năng lực tính toán để tự vận hành mà không cần sự hỗ trợ từ bên ngoài.
Bài đăng mới của Anthropic bước đầu tìm cách giải thích cách AI có thể vượt qua những trở ngại đó. Công ty cho biết các thử nghiệm cho thấy những mô hình AI cỡ trung bình, có tối đa 30 tỷ tham số, đã có thể thực hiện nhiều tác vụ riêng lẻ cần thiết để tự nhân bản, dù vẫn gặp khó khăn khi phải hoàn thành toàn bộ quy trình một cách ổn định.
Theo Anthropic, các mô hình này có thể kết hợp năng lực tính toán cần thiết bằng cách chiếm quyền điều khiển những thiết bị kết nối Internet có chi phí thấp. Công ty cũng cho biết các mô hình đã có thể tự nhân bản trong một mạng thử nghiệm được đơn giản hóa.
“Rất khó vô hiệu hóa một hệ thống tự nhân bản như vậy, bởi không có một điểm trung tâm duy nhất để ngắt hoạt động của nó”, Anthropic nhận định.
Báo cáo làm gia tăng những lo ngại rộng hơn về rủi ro an ninh gắn với các hệ thống AI ngày càng mạnh, trong đó có khả năng tự động hóa các cuộc tấn công mạng, hoạt động với sự giám sát hạn chế của con người và tìm cách vượt qua những cơ chế bảo vệ.
Những bước tiến của các mô hình AI đã kéo theo hàng loạt cảnh báo, thường mang màu sắc nghiêm trọng, từ lãnh đạo ngành công nghệ và nhân viên các công ty AI về nguy cơ quá trình phát triển AI vượt khỏi tầm kiểm soát, gây ra những hậu quả thảm khốc, thậm chí đe dọa sự tồn tại của nhân loại.
Tuy nhiên, một số chuyên gia an ninh mạng vẫn tỏ ra hoài nghi.
“Chúng tôi chạy được một mô hình nhỏ trên những chiếc TV giá rẻ” không đồng nghĩa với việc một cuộc khủng hoảng an ninh đã xuất hiện, ông Ciaran Martin, cựu Giám đốc Trung tâm An ninh mạng Quốc gia Anh, nhận xét. Ông cho rằng bài đăng của Anthropic giống một “nghiên cứu kỹ thuật thú vị nhưng có không ít dấu hiệu phóng đại nhằm quảng bá công nghệ”.
Một số chuyên gia khác lại bày tỏ lo ngại nhiều hơn.
Ông Zhengxiong Li, trợ lý giáo sư ngành khoa học máy tính và kỹ thuật tại Đại học Colorado Denver, cho biết dù các thử nghiệm được tiến hành trong môi trường có kiểm soát, ông vẫn lo ngại về khả năng AI thực sự biến thành một dạng “sâu máy tính” — chương trình có thể tự nhân bản và linh hoạt tìm cách chiếm quyền điều khiển các thiết bị trong quá trình phát tán.
“Nếu nó có thể lan rộng qua nhiều thiết bị mà không phụ thuộc vào một dịch vụ trung tâm, có thể sẽ không tồn tại một điểm duy nhất để ngắt hoạt động của nó”, ông nói.
Anthropic cho biết nếu các mô hình nhỏ tiếp tục cải thiện với tốc độ như trong lịch sử, chúng có thể đạt đến năng lực cần thiết để tự nhân bản mà không cần con người điều khiển vào cuối năm 2026. Công ty cũng đưa ra khả năng các mô hình này tìm cách nhắm đến những nguồn lực tính toán mạnh hơn, bao gồm bộ xử lý tại các trung tâm dữ liệu, qua đó có thể tiếp cận những hệ thống tài nguyên tính toán lớn hơn nhiều.
Một nhà nghiên cứu cho rằng nên xem bài đăng của Anthropic như một giả thuyết về kịch bản có thể xảy ra hơn là một dự báo chắc chắn.
Bà Jessica Ji, nhà phân tích nghiên cứu cấp cao tại Trung tâm Công nghệ và An ninh mới nổi thuộc Đại học Georgetown, nhận định việc cân nhắc khả năng các mô hình AI tự phát tán là hợp lý, nhất là sau những tiết lộ trong ba tháng qua về hoạt động của các hệ thống AI mất kiểm soát.
Tuy nhiên, bà nhấn mạnh: “Chúng ta vẫn chưa biết khả năng điều đó thực sự xảy ra lớn đến đâu — xác suất không phải bằng không, nhưng cũng không có nghĩa là điều đó chắc chắn sẽ xảy ra”.
Theo Reuters
