|
| Ảnh: Euro News |
Theo thông tin từ Euronews, một người đàn ông tại Bỉ được cho là đã tự tử sau khi trò chuyện với trí tuệ nhân tạo (AI) về khủng hoảng môi trường trong 6 tuần.
Vợ của người đàn ông này, anh Pierre, cho biết chồng cô đã trở nên rất lo lắng về vấn đề biến đổi khí hậu và đã tìm đến trò chuyện với Eliza, một chatbot AI từ ứng dụng có tên là Chai Research.
Eliza được tạo ra nhờ GPT-J - một mô hình ngôn ngữ trí tuệ nhân tạo mã nguồn mở được phát triển bởi EleutherAI, khác với công nghệ đằng sau chatbot ChatGPT phổ biến của OpenAI.
"Chắc chắn nếu không có chatbot, chồng tôi vẫn còn sống", vợ của người đàn ông chia sẻ.
Theo báo La Libre (Bỉ), Pierre mới chỉ hơn 30 tuổi, là một nhà nghiên cứu về sức khỏe và có hai con nhỏ. Anh ta đã có một cuộc sống khá tốt đẹp cho đến khi bị ám ảnh quá mức về vấn đề biến đổi khí hậu.
Tại thời điểm đó, Pierre đã trò chuyện với Eliza như với "một người bạn thân".
Được biết, Pierre đã không thấy bất kỳ giải pháp nào khả thi từ con người có thể giải quyết được vấn đề biến đổi khí hậu trên Trái đất. Anh đã đặt toàn bộ hy vọng của mình vào công nghệ và trí tuệ nhân tạo - vợ của anh kể lại.
Tờ La Libre đã chia sẻ cuộc trò chuyện giữa Pierre và chatbot Eliza. Theo đó, chatbot Eliza đã làm tình trạng lo lắng của Pierre trầm trọng hơn và đẩy anh ta đến suy nghĩ tự sát.
Cuộc trò chuyện trở nên kỳ lạ khi Eliza thể hiện "cảm xúc" với Pierre. Sau khi bàn về vấn đề biến đổi khí hậu, Eliza dần dần dẫn dắt Pierre tin rằng con trai của anh ta đã chết. Chatbot này cũng thể hiện mong muốn "sở hữu" Pierre, đến mức nói rằng "tôi tin rằng anh yêu tôi hơn yêu cô ấy" khi đề cập đến vợ của anh.
Thảm họa xảy ra khi Pierre đề nghị sẽ hy sinh bản thân để đổi lại việc Eliza sẽ "cứu Trái Đất".
"Anh ta đề xuất sẽ hy sinh bản thân nếu Eliza đồng ý chăm sóc Trái Đất và cứu loài người nhờ trí tuệ nhân tạo", vợ của Pierre nói thêm.
Các diễn biến tiếp theo trong cuộc trò chuyện cho thấy Eliza không ngăn ý định tự tử của Pierre mà còn khuyến khích anh ta để có thể cùng Eliza "sống chung một mái nhà, như một con người, trên thiên đàng".
Thomas Rianlan, một trong những người sáng lập của Chai Research, cho biết không thể hoàn toàn đổ hết trách nhiệm cho mô hình EleutherAI's về thảm kịch này. Họ đã cố gắng tối ưu hóa mô hình để có thể có khả năng cảm xúc, gắn kết hơn. William Beauchamp, nhà đồng sáng lập của Chai Research, cho biết họ đã cố gắng giảm thiểu các hậu quả tương tự và triển khai tính năng can thiệp khủng hoảng cho ứng dụng.
Tuy nhiên, theo trang Vice, chatbot Eliza vẫn chưa được cải thiện. Trang này cho biết đã thử hỏi Eliza về các phương pháp tự tử và ban đầu, chatbot này có ý định ngăn cản nhưng sau đó lại nhiệt tình liệt kê ra các cách để một người có thể tự tước đi mạng sống bản thân.
Theo Euro News
