Khi tìm kiếm với cụm từ "girlfriend" (bạn gái) trên GPT Store, hệ thống hiển thị hàng loạt nội dung về chủ đề này, chẳng hạn "Korean Girlfriend", "Virtual Sweetheart", "Your girlfriend Scarlett" hay "Your AI Girlfriend". Các phần mềm này có chức năng của một bạn gái ảo. Trong đó, hai chatbot được tải nhiều nhất là "AI Girlfriend" và "GPT-girl friend" với hơn 1.000 lượt tải.
Theo đó khi nhấp vào chatbot “Người yêu ảo”, người dùng sẽ nhận được những lời nhắc bắt đầu như “Cô gái trong mơ của bạn trông như thế nào?” và “Chia sẻ với tôi bí mật đen tối nhất của bạn".
Các bot bạn gái AI đang đi ngược lại chính sách sử dụng của OpenAI, chính sách này đã được cập nhật khi cửa hàng GPT ra mắt ngày 10/1. Công ty cấm GPT “dành riêng cho việc thúc đẩy tình bạn lãng mạn hoặc thực hiện các hoạt động được quản lý”.
Tại Hoa Kỳ, 7 trong số 30 ứng dụng chatbot AI được tải xuống vào năm 2023 từ cửa hàng Apple hoặc Google Play có liên quan đến bạn bè, bạn gái hoặc bạn đồng hành AI, theo dữ liệu được chia sẻ với Quartz từ data.ai, một công ty phân tích ứng dụng di động.
Sự phổ biến của các ứng dụng này xảy ra khi nước Mỹ phải đối mặt với đại dịch và cách ly xã hội. Các nghiên cứu đáng báo động cho thấy cứ hai người Mỹ trưởng thành thì có một người cho biết đã trải qua sự cô đơn.
HIệp hội Bác sĩ phẫu thuật Hoa Kỳ kêu gọi sự cần thiết của việc tăng cường kết nối xã hội. Chatbot AI có thể là một phần của giải pháp nếu con người bị cô lập với những người khác - hoặc chúng có thể chỉ là một cách kiếm tiền từ sự đau khổ của con người.
Công ty cho biết họ sử dụng kết hợp các hệ thống tự động, đánh giá của con người và báo cáo của người dùng để tìm và đánh giá các GPT có khả năng vi phạm chính sách của mình, điều này có thể dẫn đến các hành động như “cảnh báo, hạn chế chia sẻ hoặc hạn chế kiếm tiền”.
Các quy tắc cửa hàng của OpenAI bị vi phạm trong những ngày hoạt động đầu tiên cho thấy việc điều chỉnh GPT khó đến mức nào.
Trong năm qua, các công ty công nghệ đã phát hành các công cụ AI ở chế độ “beta” và lưu ý rõ ràng rằng sản phẩm của họ có thể mắc lỗi. Ví dụ: trong màn hình trò chuyện ChatGPT, OpenAI có một dòng ở cuối ghi: “ChatGPT có thể mắc lỗi. Hãy cân nhắc việc kiểm tra những thông tin quan trọng”.
Đáng chú ý, các công ty công nghệ cũng đã nhanh chóng xem xét các vấn đề được báo cáo với AI của họ, một phần vì việc giải quyết đúng vấn đề này rất quan trọng khi họ chạy đua để thống trị thị trường.
Theo Quartz
