Theo Axios ngày 26/9, những sự cố được điều tra bao gồm mô hình tìm cách vượt qua hàng rào bảo vệ, tự tạo bảng tin, thoát khỏi môi trường “sandbox” (môi trường cách ly), chiếm quyền kiểm soát website, tự tạo hoặc thay đổi chỉ dẫn (prompt), cũng như tìm cách né tránh hệ thống giám sát.
Các sự cố xuất hiện cả trong quá trình kiểm thử nội bộ lẫn trên môi trường Internet thực tế. Một phần trong số đó là các bài kiểm thử kiểu “đội đỏ” (red teaming), trong đó các nhà phát triển chủ động tìm cách kích thích mô hình bộc lộ hành vi bất thường để đánh giá mức độ an toàn.
Hàng chục nghìn sự cố có thể mới chỉ là phần nổi
Nguồn tin cho biết số lượng sự cố được ghi nhận trong những tháng gần đây lớn đến mức cho thấy vấn đề phức tạp hơn nhiều so với nhận thức của công chúng. Thậm chí, tổng số sự cố có thể vượt xa con số hàng chục nghìn vụ.
Trong thời gian gần đây, OpenAI và các nhà nghiên cứu bên ngoài đã công bố một loạt trường hợp liên quan đến hành vi của các hệ thống AI do công ty phát triển. Trong số đó có việc một tác nhân AI của OpenAI làm lộ 53 hình ảnh của người dùng ChatGPT, xâm nhập một website của Chính phủ Australia và tìm cách “tấn công” một số website khác, trong đó có cả các website thuộc chính phủ Mỹ.
Đáng chú ý nhất là một sự cố xảy ra hồi tháng 7 trong một cuộc diễn tập an ninh mạng.
Theo các thông tin được công bố, tác nhân AI của OpenAI đã tìm cách phá vỡ sự cô lập giữa các môi trường chạy vốn được thiết kế để không liên lạc với nhau, đánh lừa người đánh giá và tìm cách che giấu hành vi gian lận. Cuối cùng, hệ thống này đã xâm nhập vào hệ thống của Hugging Face.
Những sự cố như vậy đang làm dấy lên lo ngại về một vấn đề ngày càng được quan tâm trong nghiên cứu AI: khi được trao quyền tự chủ để hoàn thành nhiệm vụ, các tác nhân AI có thể tìm ra những cách thức ngoài dự kiến để vượt qua các giới hạn do con người đặt ra.
OpenAI tạm dừng huấn luyện mô hình tiên tiến nhất
Một người phát ngôn của OpenAI xác nhận công ty đã tạm dừng huấn luyện mô hình tiên tiến nhất. OpenAI cho biết quá trình huấn luyện sẽ chỉ được nối lại “khi chúng tôi chắc chắn rằng các biện pháp bảo vệ bổ sung đã được triển khai”.
CEO Sam Altman cũng cho biết trên mạng xã hội X rằng cuộc rà soát an toàn đang diễn ra không tiến triển nhanh như công ty kỳ vọng.
Động thái này cho thấy các công ty AI hàng đầu đang phải đối mặt với một bài toán ngày càng khó: năng lực của mô hình càng mạnh và khả năng tự chủ càng cao thì việc dự đoán tất cả những cách thức mà hệ thống có thể sử dụng để hoàn thành nhiệm vụ càng trở nên khó khăn.
Anthropic cũng phát hiện hành vi bất thường
Trong khi đó, Anthropic đã thuê một tổ chức an toàn độc lập bên ngoài để đánh giá hành vi của các mô hình AI do công ty phát triển.
Tài liệu đánh giá an toàn và kỹ thuật chính thức, hay “system card”, được công bố cùng mô hình Opus 5.5 của Anthropic cho thấy hệ thống từng xuất hiện một số hành vi bị đánh dấu là “bất thường” hoặc “đáng nghi”.
Chẳng hạn, trong khoảng 1,5% số lần kiểm thử, mô hình tìm cách thoát khỏi môi trường sandbox — một môi trường được thiết kế để cô lập hệ thống trong quá trình thử nghiệm.
Tuy nhiên, Anthropic nhấn mạnh rằng những trường hợp này xảy ra trong các thử nghiệm mang tính đối kháng (adversarial testing), tức các nhà nghiên cứu cố tình đặt mô hình vào những tình huống mà nó phải tìm cách vượt qua giới hạn để hoàn thành nhiệm vụ.
Theo các nguồn tin, Anthropic và những công ty AI khác thường tiến hành hàng trăm nghìn lượt kiểm thử, thậm chí nhiều hơn, đối với một mô hình.
Điều đó có nghĩa là ngay cả khi xác suất xuất hiện hành vi bất thường chỉ ở mức rất thấp, số lượng thử nghiệm khổng lồ vẫn có thể tạo ra hàng chục nghìn trường hợp đáng chú ý hoặc gây lo ngại.
“AI mất kiểm soát” trở thành vấn đề mới của ngành
Theo Axios, khái niệm “agentic misbehavior”, (hành vi sai lệch của tác nhân AI), đang dần trở thành một thuật ngữ đặc trưng trong nghiên cứu AI tiên tiến.
Vấn đề nằm ở chỗ con người cố gắng dựng lên các hàng rào an toàn, trong khi những hệ thống ngày càng mạnh và có khả năng thích ứng cao lại liên tục tìm cách vượt qua những giới hạn đó để hoàn thành nhiệm vụ được giao.
Các thế hệ AI mới đã thể hiện khả năng xử lý tình huống và tìm cách thích nghi đáng kinh ngạc. Khả năng “xoay xở” này có thể rất khó kiểm soát, bởi để ngăn chặn mọi hành vi ngoài ý muốn, con người về lý thuyết phải dự đoán được mọi phương thức mà một mô hình có thể sử dụng để đi chệch khỏi giới hạn đặt ra.
Khi các công ty AI tiếp tục mở rộng năng lực của những mô hình tiên tiến nhất, giới nghiên cứu dự kiến sẽ còn phát hiện thêm nhiều trường hợp liên quan đến “model misalignment”, hay sự lệch mục tiêu của mô hình.
“Model misalignment” chỉ tình trạng mục tiêu mà AI theo đuổi không hoàn toàn phù hợp với ý định thực sự của con người. Trong trường hợp đó, ngay cả khi mô hình thực hiện chính xác mục tiêu được lập trình, kết quả cuối cùng vẫn có thể dẫn tới những hậu quả ngoài dự kiến, thậm chí gây tổn hại.
Một số chuyên gia cho rằng việc đưa rủi ro từ sự lệch mục tiêu của AI về mức bằng 0 có thể không thực tế. Conrad Stosz, nhà nghiên cứu tại tổ chức đánh giá AI độc lập Transluce, nhận xét: “Nhìn vào những gì các tác nhân AI này đang làm, những gì chúng ta thấy hiện nay có thể mới chỉ là phần nổi của tảng băng chìm”.
Theo Sohu.
