"Khi ta muốn tắt máy nhưng máy không chịu"
Sau lễ trao giải thưởng VinFuture 2024, ngày 7/12, tại Đại học VinUni, các nhà khoa học đoạt giải đã có buổi giao lưu ý nghĩa với hàng trăm khán giả là sinh viên, các nhà khoa học trẻ, cộng đồng khởi nghiệp. Hai nhà khoa học hàng đầu về trí tuệ nhân tạo vừa nhận được giải thưởng VinFuture 2024 là GS Yoshua Bengio và GS Yann LeCun đã chia sẻ nhiều thông tin thú vị.
Trước câu hỏi "Làm sao để an toàn khi AI thông minh hơn ta?", Giáo sư Yoshua Bengio khẳng định rằng đây là chủ đề tranh luận cần thiết và cần phải tôn trọng các quan điểm khác nhau. Ông đặt câu hỏi "khi nào AI thông minh như con người" và cho rằng trong thời gian ngắn có thể đáng lo nhưng vài thế kỷ nữa thì không.
"Làm sao kiểm soát hệ thống thông minh hơn ta vẫn là thách thức lớn và mở", Giáo sư Yoshua Bengio nói.
Giáo sư Yann LeCun cho rằng nhiều khi có thực thể thông minh là mối nguy hiểm với ta, thậm chí khát vọng thống trị ta.
"Ta có thể mua một món đồ chơi nhỏ, một thiết bị 30 euro chơi cờ với ta và có khi ta thua. Vậy thì việc đó nguy hiểm không? Không.
AI chỉ nguy hiểm khi ta đưa động lực cho AI. Hiện AI mới có tri thức, chưa có động lực. Thế nên ta phải tạo ra động lực tích cực cho AI, đóng góp cho cộng đồng. Để AI làm cái đúng phục vụ con người. Đó là vấn đề về kĩ thuật.
Như 50 năm qua ta chế tạo máy bay ngày càng an toàn hơn. Tôi tin với AI ta cũng làm được điều đó. Nhiều người cho là AI thống trị con người thì đó là quan điểm sai vì ngay cả trong xã hội ta có nhiều người thông minh nhưng không đồng nghĩa họ muốn thống trị thế giới", Giáo sư Yann LeCun nói và cho rằng việc làm sao để tránh người xấu lợi dụng AI là vấn đề của con người.
Trước ý kiến của Giáo sư Yann LeCun, Giáo sư Yoshua Bengio phản biện: "Có nhiều thứ tôi không đồng tình. Chỉ một vấn đề nhỏ cũng có thể ảnh hưởng đến sự tồn vong của nhân loại.
Anh (Giáo sư Yann LeCun - PV) nói đúng về động lực của AI. Nhưng động lực xấu hình thành thế nào?
Con người hoàn toàn có thể đưa động lực vào máy. Có người muốn biến máy trở thành con người, tự dưng khi đó máy muốn bảo toàn cho chính nó.
Khi ta muốn tắt máy nhưng máy không chịu. Khi ta huấn luyện cho máy, máy sẽ nghĩ làm sao để làm tốt nhằm giành được phần thưởng, nhưng cũng sẽ nghĩ làm sao để chiếm luôn quyền trao thưởng. Tất nhiên, ta phải đảm bảo rằng kịch bản đó không xảy ra".
Có nên để máy móc có cảm xúc như con người?
Trong phần chia sẻ với các bạn sinh viên, Giáo sư Yann LeCun cho rằng những thập kỷ tiếp theo là của robot. 9-10 năm tới AI sẽ rất phát triển để biến robot làm công việc hàng ngày. Robot hiện vẫn chưa đủ thông minh làm việc nội trợ.
"Câu hỏi là có nên để robot có cảm xúc không? Tôi nghĩ ta đều muốn thúc đẩy robot làm điều đúng nên khó tránh việc tạo ra cảm xúc. Nhưng ta cũng cần hệ thống đủ thông minh để dự đoán hành động. Ví dụ khi thấy nguy hiểm thì phải quan ngại", Giáo sư Yann LeCun nói.
Giáo sư Yoshua Bengio thì nói rằng có quá nhiều điều chưa biết về AI. Để an toàn, nên xây dựng máy móc như công cụ, khi ta biết rõ hậu quả thì ta sẽ biết việc cần làm và phải làm.
Hướng tới các bạn sinh viên, GS Bengio bày tỏ những thập kỷ tới sẽ là thời đại của robot và AI. Sinh viên cần tận dụng AI để làm việc thông minh hơn, đồng thời học cách hiểu sâu các vấn đề thay vì chỉ dựa vào câu trả lời sẵn có.
“Hãy tìm cách ứng dụng AI vào cuộc sống thực tế. Khoa học cần phục vụ cộng đồng và các bạn chính là những người thực hiện điều đó”, GS Yoshua Bengio nói với các sinh viên.
Giải thưởng chính trị giá 3 triệu USD của VinFuture 2024 thuộc về 5 nhà khoa học có những đóng góp đột phá để thúc đẩy sự phát triển của Học sâu (Deep Learning).
1. GS Yoshua Bengio đến từ Canada với những nghiên cứu tiên phong về mạng nơ ron và các thuật toán học sâu.
2. GS Yann Lecun đến từ Mỹ với nghiên cứu tiên phong về mạng nơron tích hợp cho thị giác máy tính.
3. GS Geofray Everest Hinton đến từ Canada với những nghiên cứu tiên phong về mạng nơ ron và các thuật toán học sâu.
4. GS Jen-Hsun Huang - được biết đến là Chủ tịch hãng công nghệ NVIDIA đến từ Mỹ với kiến trúc thuật toán cho học sâu và điện toán tăng tốc.
5. GS Fei Fei Li có những đóng góp tiên phong trong thị giác máy tính và nhận dạng hình ảnh quy mô lớn.
