NPU và TOPS: chọn laptop AI từng bước

NPU là khối xử lý chuyên cho tác vụ AI cục bộ, tách khỏi CPU và GPU. Theo bài gốc, khi tính năng làm mờ nền họp online, lọc tạp âm micro hay phụ đề thời gian thực được đẩy sang NPU thay vì CPU hoặc GPU, điện năng tiêu thụ giảm đáng kể, pin dài hơn và máy mát hơn. Lợi ích này rõ nhất ở máy mỏng nhẹ, nơi nhiệt dễ kéo hiệu năng xuống.

Điều tôi nhấn mạnh với người mua là NPU không thay CPU hay GPU. Chơi game, kết xuất video, biên dịch mã vẫn do hai khối kia gánh. NPU chỉ làm việc khi phần mềm chủ động gọi tới nó, nên phần cứng mạnh mà phần mềm không dùng thì con số TOPS cũng không đem lại gì.

Phần giải thích NPU khác CPU và GPU ra sao nằm trong bài về NPU bao nhiêu TOPS, kèm bảng NPU của từng hãng chip.

TOPS đo số nghìn tỷ phép tính mỗi giây của khối NPU. Mốc đáng chú ý nhất là 40 TOPS, mức Microsoft đặt để một máy được gắn nhãn Copilot+ PC. Điểm dễ bị bỏ sót là Microsoft tính riêng khối NPU, không cộng CPU hay GPU vào.

• Intel Core Ultra 7 258V: 47 TOPS, Core Ultra 9 288V: 48 TOPS, cả hai vượt ngưỡng.
• AMD Ryzen AI 300: 50 TOPS. Qualcomm Snapdragon X: 45 TOPS.
• Core Ultra 5 225U chỉ có 12 TOPS, và Core Ultra 100 đời Meteor Lake khoảng 10 đến 11 TOPS, đều chưa đạt.

Cùng gọi là Core Ultra chưa chắc cùng năng lực AI, nên tôi luôn đọc đúng tên chip. Ngoài NPU, Copilot+ PC còn yêu cầu RAM tối thiểu 16 GB và SSD tối thiểu 256 GB. Thiếu một trong các điều kiện đó thì máy vẫn chạy bình thường nhưng không dùng đủ tính năng của nhãn này.

Có nghịch lý rõ ở chip Intel gần đây. Core Ultra 7 258V thuộc Lunar Lake có NPU 47 TOPS, trong khi Core Ultra 9 285H và Core Ultra 7 255H thuộc Arrow Lake-H chỉ có NPU 13 TOPS. Nhưng điểm Cinebench R23 đa nhân theo bài gốc lại ngược: 258V khoảng 10.301 ở thiết kế 8 nhân 8 luồng chạy 17 W, 255H được 17.845 và 285H đạt 20.781,5.

Nguyên nhân là hai hướng thiết kế. Lunar Lake dồn ngân sách điện cho NPU và pin nên số nhân bị giới hạn. Arrow Lake-H hướng tới hiệu năng CPU nên NPU nhỏ hơn. Vì NPU và CPU là hai khối tách biệt, điểm AI cao không kéo theo tốc độ biên dịch hay kết xuất nhanh hơn.

• Việc nền kéo dài như khử ồn, làm mờ nền: nhìn TOPS và pin.
• Việc nặng như dựng video, biên dịch, 3D: nhìn số nhân, công suất duy trì và GPU rời.

Bài về chỉ số AI và hiệu năng CPU giải thích kỹ vì sao hai thứ này lệch nhau, với bảng so sánh ba chip kể trên.

Phần cứng đạt chuẩn mới là một nửa. Bài gốc chia người dùng thành ba nhóm theo cách tôi vẫn tư vấn: người văn phòng họp online nhiều cần camera ổn định, khử ồn và pin dài thì NPU có công dụng rõ; nhóm sáng tạo nội dung cần xem phần mềm đang dùng có hỗ trợ NPU của hãng chip đó không; nhóm còn lại chạy mô hình AI lớn thì GPU rời và RAM mới là yếu tố quyết định.

Thông số TOPS cho biết năng lực trong điều kiện lý tưởng và không nên coi là thước đo tuyệt đối giữa các hãng. Với Qualcomm Snapdragon X, tôi còn kiểm thêm tính tương thích ứng dụng, vì ưu thế về pin đi kèm yêu cầu phần mềm chạy tốt trên kiến trúc đó.

• Liệt kê ba phần mềm dùng nhiều nhất và hỏi nhà phát triển xem có dùng NPU không.
• Thử bản dùng thử trên máy thật nếu được, rồi đo pin sau một buổi họp.
• Không trả thêm tiền cho NPU mạnh nếu công việc chính không gọi tới nó.

Danh sách phần mềm Windows đã tận dụng NPU có trong bài về NPU Intel, kèm hướng chọn Intel, AMD hay Qualcomm theo phần mềm.

• Họp online cả ngày, cần pin dài: chip có NPU từ 40 TOPS trở lên như Core Ultra 200V hoặc Ryzen AI 300.
• Biên dịch, dựng video, 3D: ưu tiên chip nhiều nhân và GPU rời, NPU nhỏ vẫn chấp nhận được.
• Muốn dùng Recall, Live Captions cục bộ: kiểm đủ ba điều kiện NPU 40 TOPS, RAM 16 GB, SSD 256 GB.
• Chưa biết sẽ dùng AI gì: đừng trả giá cao cho NPU, chọn máy cân bằng và nâng cấp được RAM.

Điều tôi muốn bạn mang đi sau bài này là một thói quen: nhìn tên chip, đối chiếu mốc 40 TOPS, rồi mới hỏi phần mềm. Thứ tự đó tránh được cảnh mua máy AI về mà không có việc nào dùng đến.

Với các máy đã được chấm thực tế, Bảng Điểm Laptop ghi riêng nhận xét về chip và pin.