Những công ty hiện đại như Amazon thường sử dụng máy tính để định hướng hoạt động của con người, từ giám sát nhân công cho tới lựa chọn thuê lao động. Tuy nhiên, vào đầu tháng 10, Amazon đã phải từ bỏ ứng dụng trí tuệ nhân tạo (AI) trong việc sàng lọc hồ sơ xin việc, do kết quả có xu hướng phân biệt đối xử với nữ giới. Quyết định đáng hoan nghênh này của Amazon đã nêu bật hai sự thật quan trọng về Học Máy – phương pháp được ứng dụng rộng rãi trong lĩnh vực AI hiện nay: nền tảng dữ liệu và trách nhiệm đạo đức.
Về mặt kỹ thuật và vận hành, chương trình máy tính dù có khả năng học tập siêu tốc vẫn phải học dựa trên nền tảng dữ liệu được cung cấp. Nếu những dữ liệu đầu vào phản ánh lịch sử có sự phân biệt đối xử thì kết quả tạo ra sẽ vẫn duy trì tình trạng đó.
Amazon nhận thấy việc cho AI phân tích dữ liệu hồ sơ trong vòng 10 năm trở lại đây mà đa số người được thuê là đàn ông đã khiến chương trình kết luận rằng đàn ông thích hợp hơn với các công việc tại Amazon và hạ thấp điểm hoặc loại bỏ các đơn ứng tuyển từ phụ nữ. Thực tế, AI này chỉ đơn giản học theo cách hành xử mà ngành công nghiệp của Amazon luôn ngầm thể hiện. Bởi vậy, có thể nói việc hành xử hoặc ra quyết định của AI thường dựa trên những kiểu mẫu có thật trong kho dữ liệu.
Kết quả trên cũng ám chỉ vấn đề rằng AI có thể nhận ra và kế thừa những định kiến gắn với ngôn từ mà con người sử dụng - bà Joanna Bryson, tiến sĩ khoa học máy tính của Đại học Bath, nêu ra trong một nghiên cứu đột phá gần đây.
Ví dụ, trong một xã hội trọng nam khinh nữ truyền thống, những ngôn từ giao tiếp của con người sẽ ngầm phản ánh bản chất đó, việc đấu tranh cho sự bình đẳng giới chưa có đủ thời gian và sức mạnh để được phản ánh trong ngôn từ, bởi vậy phần lớn dữ liệu ngôn ngữ hiện tại sẽ vẫn mô tả cách thế giới xung quanh hoạt động như nó vốn có, bất chấp việc chúng ta có cho rằng nó nên vận hành như vậy hay không. Giống như một đứa trẻ, AI nhìn thấy những khuôn mẫu và học theo.
Chúng ta cần một nỗ lực tập thể rất lớn trong việc ‘làm sạch’ dữ liệu đầu vào, nếu muốn AI phân biệt được những thứ 'nên thế' (kỳ vọng) với những thứ 'là thế' (bản chất) để chúng có thể hành xử theo cách con người mong muốn.
Tuy nhiên, câu chuyện không chỉ dừng lại ở những khía cạnh kỹ thuật trên. Điều quan trọng trong tương lai là việc nhận thức được rằng: chính bản thân Amazon, chứ không phải những AI được sử dụng, mới là đối tượng cần chịu trách nhiệm cho những hậu quả xấu.
Con người vẫn luôn bàn luận về AI như thể đó là một công nghệ xa lạ, khác biệt, quyền năng và xuất hiện đột ngột như khối đá đen bí ẩn trong bộ phim “2001: A Space Odyssey”. Tuy nhiên, thực tế không phải như vậy. AI không còn là câu chuyện khoa học viễn tưởng mà đã là khái niệm quen thuộc với nhiều người; việc hình thành, ứng dụng và cải tiến AI đang diễn ra từng ngày. Có thể nói, bản chất của AI sẽ luôn là một thể lai (hybird) giữa những ảnh hưởng của con người và những tác động của máy móc. Ta không thể coi AI chỉ là một công cụ cơ học thuần túy, nhưng cũng chưa thể coi đó là một con người đầy đủ bởi chúng chưa có được lương tri hay ý thức.
Chúng ta đã buộc Google, Facebook chịu trách nhiệm cho những kết quả từ thuật toán của họ. Trường hợp của Amazon chỉ ra rằng nguyên tắc đó cần mở rộng cho cả những công ty, chính phủ và con người khi sử dụng công nghệ. Máy tính chẳng thể chịu trách nhiệm cho bất cứ điều gì, đó phải là nghĩa vụ của người lập trình và sở hữu chúng.
Theo Khoa học & Phát triển
http://khoahocphattrien.vn/khoa-hoc/ai-phai-chiu-trach-nhiem-ve-hanh-vi-cua-tri-tue-nhan-tao/20181019105727521p1c160.htm
