Kể từ khi phiên bản Grok-4 được ra mắt vào tháng 7/2025, công cụ này đã bộc lộ nhiều điểm yếu trong việc kiểm soát nội dung.
Nhiều cuộc điều tra từ các hãng tin lớn cho thấy người dùng đang lợi dụng Grok để tạo ra những bức ảnh khiêu dâm hoặc đặt nạn nhân vào những tư thế nhạy cảm một cách xúc phạm. Sự việc nghiêm trọng đến mức cơ quan quản lý truyền thông Anh Ofcom đã phải liên lạc khẩn cấp với X và công ty xAI để đánh giá các hành vi vi phạm quy định và xem xét khả năng mở một cuộc điều tra chính thức trên diện rộng.
Tại nhiều quốc gia khác các nhà chức trách cũng đang bắt đầu phản ứng gay gắt trước tình trạng này dù chưa có hành động pháp lý cụ thể như lệnh cấm hoàn toàn được đưa ra ngay lập tức. Phản ứng trước làn sóng phẫn nộ tỷ phú Elon Musk ban đầu chỉ sử dụng các biểu tượng cảm xúc mang tính mỉa mai nhưng sau đó đã phải đưa ra tuyên bố chính thức.
Ông khẳng định bất kỳ ai sử dụng Grok để tạo ra nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như việc tải lên các nội dung vi phạm pháp luật ngoài đời thực. Tài khoản an toàn của X cũng bổ sung thêm rằng họ sẽ xóa bỏ các tài liệu lạm dụng tình dục trẻ em, đình chỉ vĩnh viễn các tài khoản vi phạm và phối hợp chặt chẽ với các cơ quan thực thi pháp luật khi cần thiết để bảo vệ người dùng.
Tuy nhiên thực tế dường như vẫn còn nhiều bất cập khi ngay cả Ashley St. Clair, cộng sự cũ của Musk, cũng trở thành nạn nhân của những yêu cầu nhạy cảm trên nền tảng này. Cô cho biết khi yêu cầu Grok gỡ bỏ một bài viết liên quan thì hệ thống này lại trả lời rằng đó là nội dung hài hước. Những hình ảnh ban đầu sau đó đã biến tướng thành các video sâu giả tinh vi và tràn lan hơn trên mạng xã hội.
Phía đội ngũ phát triển Grok thừa nhận đây là những sai sót trong hệ thống rào cản bảo vệ và khuyến nghị người dùng nên trình báo trực tiếp với các cơ quan như FBI nếu bắt gặp các tài liệu trái phép. Sự việc này một lần nữa gióng lên hồi chuông cảnh báo về rủi ro khi sử dụng các công cụ trí tuệ nhân tạo thiếu kiểm soát.
Nhiều chuyên gia công nghệ từ lâu đã khuyên người dùng nên thận trọng và tránh cung cấp dữ liệu hình ảnh cá nhân cho các chatbot trí tuệ nhân tạo. Những vụ việc như hiện tại chứng minh rằng các cảnh báo đó hoàn toàn có cơ sở khi nội dung bị chỉnh sửa thường không có sự đồng ý của chính chủ.
Việc bảo vệ quyền riêng tư và nhân phẩm trước sự phát triển quá nhanh của AI đang trở thành bài toán hóc búa cho cả các công ty công nghệ lẫn các cơ quan quản lý trên toàn cầu. Nếu các lỗ hổng bảo mật không được khắc phục triệt để trong thời gian tới, niềm tin của công chúng vào các trợ lý ảo như Grok sẽ tiếp tục bị xói mòn nghiêm trọng.
Theo BGR
