close Đăng nhập

Trung Quốc “trình làng” PC hình kim tự tháp, chạy AI ngay trên máy không cần cloud

Với sức mạnh 24 TOPS, thiết bị này không cần cloud, tối ưu cho nhận diện, camera, và bảo mật, dành cho kỹ sư và nhà phát triển AI.

Cận cảnh kim tự tháp trí tuệ nhân tạo mới. Ảnh: M5Stack/Youtube.
Cận cảnh kim tự tháp trí tuệ nhân tạo mới. Ảnh: M5Stack/Youtube.

M5Stack đã chính thức ra mắt AI Pyramid Pro – mẫu máy tính cá nhân để bàn hình kim tự tháp có hiệu năng AI đạt 24 TOPS. Bên cạnh thiết kế độc đáo, phần cứng mới này được phát triển với mục tiêu chạy trí tuệ nhân tạo (AI) trực tiếp trên thiết bị, thay vì phải dựa vào điện toán đám mây.

Vì vậy, thiết bị này có thể được xem giống một “thiết bị AI chuyên dụng” hơn là một máy tính cá nhân truyền thống. Hình dáng kim tự tháp chủ yếu mang tính sáng tạo và nhận diện thương hiệu, nhưng bên trong là phần cứng AI biên nghiêm túc, hướng tới hiệu năng thực tế.

Thiết bị có kích thước nhỏ gọn, trang bị 8GB RAM, hỗ trợ mã hóa và giải mã video hiệu năng cao, kết nối nhiều camera, hệ thống cổng vào/ra đa dạng và tiêu thụ điện năng thấp. Máy tích hợp 32GB bộ nhớ eMMC, cùng 2 cổng HDMI 2.0, 4 cổng USB-A 3.0 và 2 cổng USB Type-C.

Về sức mạnh tính toán được công bố, 24 TOPS là con số khá ấn tượng. TOPS là viết tắt của Trillion Operations Per Second (nghìn tỷ phép toán mỗi giây), tức thiết bị có thể thực hiện 24 nghìn tỷ phép toán AI mỗi giây.

Sức mạnh AI trong hình dáng kim tự tháp

Dù không thể so sánh với PC chơi game, mức hiệu năng này vẫn rất mạnh trong phân khúc AI cục bộ, đặc biệt khi giá chỉ khoảng 250 USD. Theo các báo cáo, phần cứng được thiết kế chuyên cho thị giác máy tính thời gian thực, nhận dạng giọng nói và phát hiện vật thể.

Thiết bị hỗ trợ chạy các mô hình ngôn ngữ lớn cỡ nhỏ và trung bình (đã lượng tử hóa), đồng thời xử lý nhiều luồng camera cùng lúc. Để đạt được điều này trong kích thước nhỏ gọn, M5Stack loại bỏ GPU và chuyển sang CPU Arm, kết hợp với bộ xử lý thần kinh chuyên dụng cho AI.

Giới thiệu AI Pyramid & AI Pyramid Pro. Video: M5Stack/ Youtube

Cách tiếp cận này giúp máy tiết kiệm điện, hoạt động êm và phản hồi nhanh với các tác vụ AI, nhưng đồng thời khiến nó không phù hợp cho chơi game, lập trình nặng hay sử dụng như máy tính để bàn thông thường.

Một điểm nổi bật khác là khả năng giải mã đồng thời tối đa 16 luồng video 1080p, cho phép phân tích nhiều camera cùng lúc. Nhờ đó, thiết bị có thể đảm nhiệm tốt các tác vụ phát hiện, theo dõi và nhận diện khuôn mặt, phù hợp cho hệ thống an ninh thông minh, trung tâm camera AI hoặc cổng AI biên trong nhà máy và tòa nhà.

Không nhắm tới người dùng đại trà

Việc lưu trữ và xử lý AI cục bộ, thay vì phụ thuộc vào đám mây, mang lại nhiều lợi ích rõ rệt. Trong đó có quyền riêng tư cao hơn, khi dữ liệu hình ảnh và âm thanh không cần rời khỏi mạng nội bộ.

Thiết bị cũng đạt độ trễ cực thấp, gần như phản hồi tức thì, đồng thời không phát sinh chi phí theo lượt sử dụng như các dịch vụ đám mây. Ngoài ra, hệ thống vẫn có thể vận hành ngay cả khi không có kết nối internet liên tục.

Những yếu tố này khiến thiết bị đặc biệt phù hợp cho hệ thống trợ lý thông minh trong gia đình, doanh nghiệp quy mô nhỏ và kỹ sư đang thử nghiệm, phát triển các sản phẩm AI biên. Máy còn được tích hợp vi điều khiển chuyên dụng, đảm nhiệm các chức năng quản lý nguồn, nút bấm, màn hình trạng thái và vòng đèn LED RGB.

Do tính chất chuyên biệt cao, không ngạc nhiên khi mẫu máy tính hình kim tự tháp này không hướng tới thị trường đại trà. Đối tượng chính của nó nhiều khả năng là nhà phát triển AI biên, kỹ sư hệ thống nhúng và maker thực hiện các dự án AI nghiêm túc.

Thiết bị có thể là lựa chọn hấp dẫn cho những người muốn sở hữu năng lực kiểu Jetson, nhưng không phải trả mức giá của Nvidia.

Theo IE

Thế giới