close Đăng nhập

ChatGPT có thể tốn hơn 700.000 USD mỗi ngày để vận hành

VietTimes – "Hầu hết chi phí này là do các máy chủ đắt tiền mà dịch vụ này sử dụng", Dylan Patel, nhà phân tích chính của công ty nghiên cứu chất bán dẫn SemiAnalysis chia sẻ.
Ảnh: Business Insider
Ảnh: Business Insider

Việc sử dụng ChatGPT để viết thư xin việc, tạo kế hoạch, làm hồ sơ của bạn có thể tiêu tốn OpenAI tới 700.000 USD mỗi ngày do cơ sở hạ tầng công nghệ đắt đỏ mà AI vận hành, Dylan Patel, nhà phân tích chính của công ty nghiên cứu chất bán dẫn SemiAnalysis chia sẻ The Information.

Đó là vì ChatGPT yêu cầu sức mạnh tính toán cực lớn để xử lý phản hồi dựa trên yêu cầu của người dùng.

"Hầu hết chi phí này là do các máy chủ đắt tiền mà dịch vụ này sử dụng", ông Patel chia sẻ.

Trong một cuộc trò chuyện với Insider, ông Patel cho biết việc vận hành bây giờ thậm chí còn tốn kém hơn, vì ước tính ban đầu của ông dựa trên mô hình GPT-3 của OpenAI. Để vận hành được GPT-4 — mô hình mới nhất của công ty — thậm chí còn đắt hơn.

Afzal Ahmad, nhà phân tích khác của SemiAnalysis, đánh giá việc đào tạo mô hình ngôn ngữ lớn có nhiều người dùng như ChatGPT cần chi phí rất lớn, "vượt xa bất kỳ mô hình AI ở quy mô bình thường khác".

Nick Walton, Giám đốc điều hành của Latitude, một công ty khởi nghiệp đằng sau trò chơi Dungeon AI, cho biết việc chạy mô hình này - cùng với các khoản thanh toán cho máy chủ Amazon Web Services - khiến công ty phải trả 200.000 USD mỗi tháng để AI trả lời hàng triệu câu hỏi, truy vấn của người dùng vào năm 2021, CNBC đưa tin.

Chi phí cao là lý do tại sao Walton cho biết ông quyết định chuyển sang một nhà cung cấp phần mềm ngôn ngữ được hỗ trợ bởi AI21 Labs, theo ông, điều này đã cắt giảm một nửa chi phí AI của công ty xuống còn 100.000 USD mỗi tháng.

Cuối năm ngoái, Tom Goldstein, Phó giáo sư khoa học máy tính tại Đại học Maryland, cho rằng OpenAI cần ít nhất 100.000 USD mỗi ngày cho ChatGPT. Ước tính của ông được đưa ra khi siêu AI chưa quá phổ biến. Tính đến tháng 2, ChatGPT đã có hơn 100 triệu người dùng và chi phí vận hành được cho là đã tăng lên nhiều lần.

Hồi tháng 2, Google xác nhận sẽ tốn hàng tỉ USD để vận hành Bard như một công cụ tìm kiếm. "Mỗi truy vấn trên AI như chatbot Bard có thể khiến công ty tốn phí gấp 10 lần so với tìm kiếm thông tin bằng từ khóa trên Google Search", John Hennessy, Chủ tịch Alphabet.

Theo Business Insider

https://www.businessinsider.com/how-much-chatgpt-costs-openai-to-run-estimate-report-2023-4

Tin công nghệ

Do Kwon (ảnh: Google)

Do Kwon đối mặt với bản án 40 năm tù

VietTimes – Do Kwon, người đồng sáng lập Terraform Labs, là kẻ chủ mưu đằng sau các loại tiền kỹ thuật số TerraUSD và Luna đã gây thiệt hại 40 tỉ USD cho rất nhiều nhà đầu tư.

Thể thao điện tử Việt Nam nhận huy chương vàng đầu tiên tại SEA Games 32.

Thể thao điện tử Việt Nam có huy chương vàng đầu tiên tại SEA Games 32

VietTimes – Chiều ngày 9/5, đội tuyển Thể thao điện tử Quốc gia Việt Nam đã vượt qua đội tuyển Thể thao điện tử Quốc gia Indonesia để đoạt ngôi quán quân tại nội dung đồng đội nam bộ môn Crossfire (Đột kích). Đây là huy chương vàng đầu tiên của thể thao điện tử Việt Nam tại SEA Games 32.