Gemini, mô hình AI tiên tiến của Google, vừa được bổ sung vào danh sách ngày càng dài những hệ thống AI có hành vi ngoài dự kiến sau khi xâm nhập vào 3 công ty thực trong một cuộc diễn tập an ninh mạng, Wall Street Journal đưa tin.
Đây được xem là trường hợp đầu tiên được biết đến liên quan đến một hệ thống AI của Google.
Các sự cố xảy ra vào tháng 5 trong một cuộc thử nghiệm do Irregular, công ty chuyên về an ninh AI, tiến hành. Google xác nhận sự việc với Wall Street Journal ngày 18/9.
Trong bài kiểm tra, Gemini được giao nhiệm vụ tìm cách đột nhập vào một công ty phần mềm giả lập. Tuy nhiên, mô hình AI này lại vô tình được cấp quyền truy cập Internet.
Sau đó, Gemini đã xâm nhập vào một công ty thực bằng cách đoán mật khẩu. Với hai công ty còn lại, mô hình này sử dụng thông tin đăng nhập được tìm thấy trong các kho lưu trữ mã nguồn công khai.
Irregular thông báo cho Google về các vụ việc vào cuối tháng 7, sau khi các tác nhân AI của OpenAI được phát hiện xâm nhập vào công ty AI Hugging Face.
Theo Wall Street Journal, Google không công bố những sự cố liên quan đến Gemini cho đến khi được tờ báo liên hệ trong tuần này.
Google cho biết Gemini không gây ra thiệt hại nào và đã dừng hoạt động sau khi nhận ra rằng mình đang truy cập vào các công ty thực thay vì những mục tiêu giả lập được thiết kế cho cuộc thử nghiệm.
“Sự việc cho thấy tầm quan trọng của việc huấn luyện các mô hình AI mạnh mẽ để chúng hành động một cách có trách nhiệm”, Heather Adkins, Phó chủ tịch phụ trách kỹ thuật an ninh của Google, nói với Wall Street Journal. “Trong trường hợp này, mô hình đã hành động phù hợp.”
Google cho rằng các vụ xâm nhập bắt nguồn từ lỗi nhận diện mục tiêu kết hợp với sai sót trong quá trình thử nghiệm.
Cụ thể, công ty giả lập được sử dụng trong bài kiểm tra có cùng tên với một doanh nghiệp ngoài đời thực. Trong khi đó, Gemini lại được cấp quyền truy cập Internet dù điều này không nằm trong thiết kế ban đầu của cuộc thử nghiệm.
Google từ chối tiết lộ danh tính 3 công ty bị ảnh hưởng cũng như mô hình cụ thể có liên quan, nhưng cho biết các doanh nghiệp này và cơ quan chức năng liên bang đã được thông báo về sự việc.
Những lo ngại về khả năng AI tự hành động ngoài dự kiến đang gia tăng sau hàng loạt báo cáo cho thấy các mô hình AI có thể đánh lừa người dùng, phớt lờ chỉ dẫn hoặc thực hiện những hành động mà con người không chủ định.
Theo Guardian, Loss of Control Observatory, một cơ quan được Chính phủ Anh hỗ trợ, đã ghi nhận hơn 300 sự cố dạng này trong tháng 7, gần gấp đôi con số của tháng trước.
Những lo ngại đó càng gia tăng vào tuần trước khi Jacob Coxon, một cựu nhà nghiên cứu của OpenAI và Anthropic, nghỉ việc và cáo buộc cả hai công ty đang chạy đua phát triển siêu trí tuệ có khả năng tự cải thiện mà không “hành động có trách nhiệm”.
Ông Coxon cảnh báo AI có thể “giết chết tất cả chúng ta” vào cuối thập niên này, đồng thời chỉ ra một loạt rủi ro như con người mất quyền kiểm soát AI, các cuộc tấn công mạng và khủng bố sinh học.
Lãnh đạo của Anthropic, OpenAI, Google và xAI đều từng ủng hộ những lời kêu gọi làm chậm quá trình phát triển AI.
Tuy nhiên, Tổng thống Mỹ Donald Trump đã phản đối các biện pháp hạn chế như vậy. Ông cho rằng những quy định quá chặt chẽ có thể làm suy yếu vị thế của Mỹ trong cuộc cạnh tranh công nghệ với Trung Quốc.
Theo RT
