Theo Thenextweb, vào năm 2002, một bộ phim được chuyển thể từ cuốn tiểu thuyết do Philip K. Dick sáng tác năm 1956 đã cảnh báo chúng ta về những nguy hiểm của việc giữ an ninh trật tự bằng cách dự đoán. Trong "Minority Report" – tên của bộ phim – nam tài tử Tom Cruise đóng vai một cảnh sát trong đơn vị "pre-crime" thuộc Sở Cảnh sát Los Angeles. Nhiệm vụ của anh là tìm kiếm tội phạm trước khi họ phạm tội, sau đó anh đã đặt ra câu hỏi về đạo đức khi tống giam một người nào đó khi họ thậm chí còn chưa có hành động phạm tội.
Trong khi nhân vật trong phim của Tom Cruise đã trở thành quá khứ thì công việc thực thi pháp luật ở thế giới thực lại đang tiến lên phía trước với cùng một kiểu công nghệ ấy. Palantir – một startup do CIA tài trợ được thành lập bởi nhà đồng sáng lập của Paypal Peter Thiel vào năm 2004 – là một công cụ đang thay đổi thế giới ngay trước mắt chúng ta mà chúng ta không hề hay biết.
Từng được sử dụng để dự đoán đánh bom tại Iraq dựa trên các dấu hiệu của những vụ nổ trước, Palantir hiện đang được triển khai để có thể làm được mọi thứ, từ thực thi pháp luật cho đến tài chính.
Công cụ này hiện đang được đặt trong một tòa nhà không gây sự chú ý ở một con phố hẹp tại Palo Alto, California. Nhìn từ bên ngoài, bạn có thể không để tâm đến nó. Bên trong, công nghệ ấy được bảo vệ bởi những bức tường mà không thể thâm nhập bằng sóng radio, điện thoại hay internet; phương thức truy cập duy nhất là đi qua một loạt các hệ thống bảo mật sinh trắc học, và mật mã được nắm giữ bởi hàng chục các tổ chức độc lập mà danh tính của họ được giấu kín bằng công nghệ blockchain.
Theo Palantir, tòa nhà "phải được xây dựng để chống lại những nỗ lực truy cập thông tin có bên trong. Mạng lưới này sẽ phải được "airgap" – cô lập hoàn toàn với mạng internet công cộng để ngăn chặn sự rò rỉ thông tin".
"Con mắt ở trên bầu trời" – thuật ngữ của Palantir – sẽ xem xét một lượng dữ liệu khổng lồ, cố gắng tìm kiếm những thông tin hữu ích từ chúng. Đối với những dữ liệu mà chúng ta đã thu thập được tại Mỹ, chúng ta không hề biết phải làm gì với chúng ngoài việc lưu trữ lại và hi vọng các thế hệ tương lai sẽ có thể tìm ra cách giải quyết.
Danh sách khách hàng của Palantir bao gồm CIA, FBI, NSA, Trung tâm Kiểm soát Dịch bệnh, Thủy quân lục chiến, Không quân, Bộ Tư lệnh Đặc biệt, West Point và Sở Thuế vụ Mỹ. Nếu việc sử dụng AI để dự đoán những hành động trong tương lai của bạn dựa trên các dữ liệu trong quá khứ làm bạn phải rùng mình, có một điều đáng lưu ý rằng một nửa khách hàng của Palantir là các công ty quốc doanh của Mỹ.
Nhưng trên đường phố Chicago và Los Angeles, những gì mà Dick đã dự đoán về một tương lai Orwellian (một tính từ miêu tả tình huống, ý tưởng hoặc điều kiện xã hội mà George Orwell đã xác định là phá hoại phúc lợi của một xã hội mở và tự do). Ở đó, các thuật toán của Palantir sẽ giám sát các dữ liệu tội phạm, tạo ra các "điểm nóng" và xác định xem nơi nào cần có sự hiện diện của cảnh sát nhiều hơn.
Về lý thuyết, việc phân chia các đội tuần tra dựa trên những khu phố có tỉ lệ tội phạm lớn nhất dường như là một ý tưởng không tồi chút nào. Bạn cũng nên biết rằng, ở một số khu vực tại Mỹ, chỉ cần có màu da đen và là nam giới đã là đủ để cảnh sát ập đến, và đôi khi còn để lại hậu quả chết người.
Việc dữ liệu nào được thu thập cũng gây nên sự lo ngại. Những khu vực có đông lực lượng công an sẽ luôn phải chịu trách nhiệm với nhiều tội phạm có tổ chức hơn, từ đó tạo ra những thiên kiến trong bộ dữ liệu có thể gây cản trở cộng đồng trong những năm tới. Sử dụng các thuật toán tiên đoán để đưa sĩ quan đến một khu vực trước khi tội ác xảy ra chỉ là để hoàn thành "lời tiên tri" của chí tuệ nhân tạo.
Hai người đàn ông mặc áo hoodie đang đi dạo trên phố, bình thường sẽ không đáng để chúng ta bận tâm, giờ bỗng khớp với mô tả của một vụ đột nhật xảy ra nhiều giờ trước đó.
Tìm ra tội phạm trước khi họ phạm tội liệu có đúng với chuẩn mực đạo đức?
Mức độ quân sự hóa này sẽ khiến cho việc thực thi pháp luật bị phản đối bởi chính những cộng đồng mà họ đã thề sẽ bảo vệ, và Palantir sẽ làm chỉ làm cho tình hình tồi tệ hơn. Ana Muniz, một nhà hoạt động xã hội và là nhà nghiên cứu của tổ chức Youth Justice Coalition đã chia sẻ với tờ LA Weekly:
"Mỗi khi quân đội và cảnh sát trở nên tương đồng với nhau hơn, ranh giới sẽ bị mờ đi. Quân đội có nghĩa vụ phải bảo vệ lãnh thổ trước quân xâm lược, đó không phải là nhiệm vụ của cảnh sát – họ không được coi người dân là kẻ thù xâm lược".
Chúng ta không thể coi Palantir chỉ là một công cụ trí tuệ nhân tạo cho tội phạm và khủng bố. Các thuật toán của nó có tiềm năng được triển khai trên một loạt các bộ dữ liệu phi vật thể mà khi kết hợp, sẽ vẽ nên một bức tranh toàn cảnh về cuộc sống hàng ngày của chúng ta. Tệ hơn nữa, kể cả khi chúng ta ngắt kết nối khỏi internet và không truyền tải bất kì một thông tin nào, những dữ liệu cần thiết để vẽ nên bức tranh này đã tồn tại ở đó rồi, và chỉ đợi để được sử dụng mà thôi.
Đây không còn là phim khoa học viễn tưởng nữa. Các công cụ tiên tiến như Palantir tạo ra các nội dung có ý nghĩa từ những dữ liệu lộn xộn. Điều này cũng có nghĩa rằng, tất cả mọi người, từ các tổ chức chính phủ, hacker cho đến các tập đoàn như Facebook và Amazon cũng sẽ muốn "nhúng tay" vào.
Về Palantir, bản thân phần mềm này không hề độc ác. Nó là một công cụ mạnh mẽ để sắp xếp dữ liệu và hình thành những dự đoán dựa trên nội dung của chúng. Palantir chỉ là một phần của một hệ thống lớn, nơi dữ liệu chính là sức mạnh và bộ máy chỉ đơn giản là một phương tiện để chiết xuất chúng ra.
Như Hiệp hội Súng trường Quốc gia từng nói: "Súng không giết người. Người giết người". Giống như súng, Palantir dường như đang có vấn đề với con người.
