Chính xác thì PC AI là gì? Chúng tôi sẽ giải thích chi tiết về nó ⋆ COHOTECH

PC AI đang được định vị là thứ lớn tiếp theo. Chúng tôi giải thích PC AI là gì và nó có thể làm gì cho bạn.

PC AI là sản phẩm quan trọng tiếp theo trong PC…hoặc nhiều công ty muốn bạn tin tưởng như vậy. Nhưng PC AI là gì, tại sao bạn nên mua một chiếc và PC AI cung cấp những gì – nếu có -? Mặc dù những câu trả lời đó đang phát triển theo thời gian nhưng chúng tôi có thể cho bạn biết những gì chúng tôi biết ngay bây giờ.

Câu trả lời ngắn gọn: Microsoft dường như đã có một định nghĩa về “AI PC” mà hãng đang cố gắng xác định ở hậu trường. Nhưng rất có thể bạn đang sở hữu một “PC có khả năng AI” ngay bây giờ. Sự khác biệt giữa chúng có thể là danh sách các thông số kỹ thuật và thậm chí có thể là nhãn dán chuyên dụng để làm đẹp cho máy tính xách tay của bạn.

Khi ngành nói về “PC AI”, nó đề cập đến một PC có thể xử lý các tác vụ AI nhanh hơn. Nhưng các nhà cung cấp hiểu điều đó theo những cách khác nhau. Một số, như Microsoft, dường như định nghĩa nó là một PC có thể truy cập vào “AI” như Windows Copilot, hiện hoạt động tự nhiên trên đám mây. Các nhà cung cấp chip như AMD, Intel và Qualcomm tin chắc rằng AI nên được xử lý cục bộ thông qua bộ vi xử lý trên PC của bạn. Và các nhà cung cấp PC? Chúng tôi muốn nghĩ rằng họ sẽ chọn bất kỳ cách tiếp cận nào mang lại cho họ nhiều doanh thu hơn.

Vậy nó là gì? Thực ra là cả ba quan điểm. “PC AI” đã phát triển từ một khái niệm mơ hồ, nhưng Microsoft đã có sẵn một định nghĩa cụ thể gợi nhớ đến các yêu cầu phần cứng của Windows 11. Hãy cùng tìm hiểu xem PC AI đến từ đâu và chúng sẽ đi về đâu.

Mục lục

1. AI là gì và nó làm gì
2. Có thể bạn đã sở hữu một PC AI
3. NPU có tác dụng gì trong PC AI?
4. Yêu cầu phần cứng của PC AI, theo Microsoft
5. Tôi có thể mua PC AI ở đâu?
6. Có nên mua PC AI không?

1. AI là gì và nó làm gì

Cách đơn giản nhất để chạy AI là trên đám mây: LLM (AI chatbot) như Microsoft Copilot, nghệ thuật AI như Bing Image Creator (hiện là một phần của Copilot và Microsoft Designer), video AI từ Adobe và Runway và nhạc AI như Udio. Ở định dạng này, AI chỉ là một trang web khác mà bạn có thể tương tác. Bạn có thể làm điều đó với PC của bạn. Bạn có thể làm điều đó với điện thoại của bạn.

Đây là lúc khái niệm “AI PC” trở nên tập trung vào PC hơn. Nếu bạn làm việc cho một doanh nghiệp, bộ phận IT của bạn có thể hoang tưởng về việc thông tin bí mật bị rò rỉ trên Internet. Mặc dù bạn có thể hỏi Copilot những lời khuyên về cách tiết kiệm cho việc nghỉ hưu của mình nhưng công ty của bạn không muốn Google hoặc Microsoft biết về các kế hoạch của mình. Vì vậy, nếu nó chọn LLM, nó có thể muốn chạy nó trong sự bảo vệ của tường lửa công ty. Tương tự như vậy, bạn có thể muốn thử nghiệm nghệ thuật AI hoặc đặt một câu hỏi đáng xấu hổ về LLM mà bạn không muốn ghi lại trên đám mây. Vấn đề riêng tư.

Những người ủng hộ AI địa phương cũng nói rằng chạy AI cục bộ có thể nhanh hơn đám mây. Theo kinh nghiệm của chúng tôi, điều đó không nhất thiết đúng. OpenAI, Bard và Microsoft đã dành thời gian và nỗ lực đáng kể để đảm bảo AI trên nền tảng đám mây của họ hoạt động nhanh và phản hồi nhanh.

Lập luận cuối cùng là LLM địa phương có thể được “đào tạo” để biết bạn cũng như các sở thích và hành động cụ thể của bạn.

Các ứng dụng có thể đạt được sự cân bằng. Photoshop là một ví dụ điển hình vì nó chạy các công cụ “AI” như khả năng xóa đối tượng khỏi hình ảnh trên PC của bạn. Nhưng nếu bạn muốn thay đổi vương miện của một vị vua thành một chiếc mũ bóng chày, chẳng hạn, dịch vụ Firefly dựa trên đám mây của Adobe sẽ thực hiện những nhiệm vụ đó. Chúng tôi luôn tìm kiếm các ứng dụng AI mới có thể hỗ trợ quá trình xử lý AI cục bộ vì những ứng dụng này sẽ tạo nên hoặc phá vỡ PC AI.

2. Có thể bạn đã sở hữu một PC AI

Như tôi đã lưu ý trước đó, hầu hết AI đều có thể chạy qua đám mây. Nhưng khi bạn chạy AI cục bộ trên PC, bạn có ba (và có thể là bốn) tùy chọn.

PC có ba công cụ xử lý chính: CPU, GPU và một phần bổ sung mới là NPU. CPU và GPU (hoặc card đồ họa) đã tồn tại trong nhiều thập kỷ và chúng rất phù hợp để chạy tác phẩm nghệ thuật AI và LLM cục bộ – thực sự! Việc chạy LLM cục bộ chỉ trên CPU của bạn sẽ chậm nhưng hãy thêm GPU chuyên dụng và hiệu suất sẽ tăng tốc đáng kể. Về mặt AI, GPU vẫn là bộ xử lý cục bộ nhanh nhất mà bạn sở hữu, nhưng nó không hiệu quả nhất.

Nói cách khác: nếu bạn sở hữu một PC chơi game có GPU chuyên dụng thì bạn đã sở hữu một PC có khả năng AI.

Giờ đây, các bộ xử lý hiện tại và sắp ra mắt đều có NPU bên trong. Bộ xử lý Meteor Lake/Core Ultra của Intel sẽ cạnh tranh với dòng AMD Ryzen 8000. Snapdragon X Elite của Qualcomm đang chờ đợi với một số máy tính xách tay dự kiến xuất xưởng vào giữa năm nay. Intel đã tuyên bố rằng họ đã xuất xưởng 5 triệu PC AI, trong đó khoảng 100 triệu sẽ xuất xưởng vào cuối năm nay.

Chúng tôi nghĩ về tốc độ của CPU tính theo gigahertz: một tỷ hertz (hoặc chu kỳ) mỗi giây. NPU được xác định trong TOPS, thực hiện hàng nghìn tỷ thao tác mỗi giây. Trong LLM, tốc độ của NPU cũng được xác định bằng mã thông báo: đơn vị dữ liệu cơ bản. Một mã thông báo thường tương đương với khoảng bốn ký tự văn bản, do đó, “câu trả lời” mà LLM cung cấp thực sự là mã thông báo, trong AI-speak.

Hiệu quả của AI phụ thuộc vào tốc độ và khối lượng LLM có thể xử lý mã thông báo cũng như mức độ phức tạp của mô hình AI. Nếu LLM chạy trên máy của bạn, tốc độ của nó trong TOPS sẽ xác định LLM có thể đưa ra câu trả lời nhanh như thế nào.

Các nhà cung cấp chip thường định nghĩa TOPS theo NPU của họ hoặc đôi khi là NPU, GPU và CPU của họ hoạt động cùng nhau. Tôi thực sự chưa thấy ứng dụng nào có thể sử dụng kết hợp cả ba, nhưng tôi chắc chắn rằng những ngày đó sẽ đến.

Dưới đây là TOPS mà NPU của ba nhà cung cấp chip PC lớn cung cấp:

Intel Core Ultra (Hồ sao băng): 34 TOPS
Dòng AMDRyzen 8040: 39 TOPS
Qualcomm Snapdragon X Elite: 45 TOPS (tổng cộng 75)

Intel cho biết tại CES rằng bộ xử lý Lunar Lake sắp tới của họ sẽ mang lại hiệu suất AI gấp ba lần (có lẽ là 102 TOPS). Con chip di động đó sẽ ra mắt trước cuối năm nay và có thể sẽ được gọi là Core Ultra Series 2.

Nvidia không công bố hiệu suất của GPU PC của mình ở TOPS, nhưng GeForce RTX 4090 mang lại từ 83 đến 100 TFLOPS, hay hàng nghìn tỷ phép tính dấu phẩy động. Điều đó thường được coi là chuyên sâu hơn các phép toán số nguyên “tiêu chuẩn” được sử dụng trong TOPS.

Ngoài ra còn có một thẻ đặc biệt: thẻ tăng tốc AI, lần đầu tiên chúng ta thấy vào đầu năm nay. Liệu họ có gây được tiếng vang không? Chúng tôi chưa biết.

3. NPU có tác dụng gì trong PC AI?

Hầu hết những người đam mê nghĩ về chip về mặt hiệu suất: nó nhanh như thế nào? Ít nhất là ở thời điểm hiện tại, NPU đang được định vị về mặt hiệu quả: chúng có thể mang lại bao nhiêu hiệu suất AI trong khi giảm thiểu năng lượng?

Trong bối cảnh này, các nhà cung cấp đang nghĩ đến việc máy tính xách tay chạy bằng pin. Và nhiệm vụ hàng đầu của NPU hiện nay là Windows Studio Effects.

Windows Studio Effects là công cụ AI của Microsoft để cải thiện cuộc gọi video trên Teams. Chúng bao gồm khả năng thay thế hoặc làm mờ nền của bạn; lọc âm thanh; sử dụng khả năng cắt xén của máy ảnh để “xoay và thu phóng” khuôn mặt của bạn khi bạn di chuyển xung quanh và một loại kỹ thuật AI đáng sợ để khiến bạn có vẻ như luôn nhìn vào máy ảnh và chú ý.

Bằng cách chuyển nhiệm vụ đó cho NPU hiệu quả, AI có thể giữ cho máy tính xách tay của bạn luôn bật và cung cấp năng lượng cho các cuộc gọi điện video kéo dài cả ngày. Chúc mừng sự tiến bộ, phải không?

4. Yêu cầu phần cứng của PC AI, theo Microsoft

Vì vậy, chúng tôi biết PC AI phải làm gì và nó hữu ích cho việc gì. Sẽ có một PC AI chính thức được phê duyệt?

Tôi nghĩ vậy. Các giám đốc điều hành của Intel đã ám chỉ đến nó trong một cuộc gọi hội nghị, tiết lộ rằng hiện tại có ba thành phần của một “PC AI chính thức:” khóa Copilot, khả năng PC chạy Copilot và một NPU chuyên dụng bên trong. Các báo cáo bổ sung cho biết có yêu cầu TOPS là 45 TOPS, nhưng Microsoft chưa xác nhận điều này.

Nếu yêu cầu thứ hai là đúng, điều đó có nghĩa là những PC có chip Qualcomm Snapdragon X Elite bên trong sẽ đủ điều kiện là PC AI, nhưng những PC có chip Core Ultra đầu tiên của Intel thì không. Khi bạn cân nhắc rằng Microsoft dự kiến sẽ ra mắt phiên bản dành cho người tiêu dùng của Surface Pro 10 và Surface Laptop 5 tại hội nghị Build vào tháng 5 với chip Snapdragon X Elite bên trong, tất cả đều có lý: đây có thể là màn ra mắt chính thức của PC AI.

5. Tôi có thể mua PC AI ở đâu?

Microsoft vẫn chưa chính thức định nghĩa PC AI là gì. Có thể cuối cùng chúng ta sẽ thấy một số loại huy hiệu chính thức, chẳng hạn như nhãn dán “Được thiết kế cho Windows XP” cũ.

Mỗi PC Intel Core Ultra và hầu hết các PC AMD Ryzen 7000 và 8000 – giả sử chúng có AMD AI bên trong – đều bao gồm một NPU bên trong có thể tăng tốc AI. Nhưng chỉ những máy tính xách tay mới nhất (tính đến thời điểm viết bài này) mới có khóa Copilot mà Microsoft xác nhận.

6. Có nên mua PC AI không?

Chúng tôi vẫn chưa biết liệu Microsoft có chạy Copilot hay một phiên bản Copilot trên PC cục bộ hay không và đó có thể là một điểm bán hàng lớn cho PC AI – nếu trải nghiệm tỏ ra thỏa đáng. Tương tự như vậy, chúng tôi không biết liệu một ứng dụng sát thủ nào đó sẽ xuất hiện hay không: liệu sẽ có thứ gì đó gây tiếng vang, bạn phải sở hữu ứng dụng này chứ? (Phiếu bầu của tôi cho đến nay là dành cho bộ lọc âm thanh được hỗ trợ bởi AI tuyệt vời này, chỉ loại bỏ tiếng ồn xung quanh.)

Có nhiều khả năng Microsoft sẽ đưa các tính năng AI mới vào Windows theo thời gian, khiến nó ngày càng trở nên hấp dẫn hơn. Hãy nhớ rằng, tôi nghĩ rằng đã đến lúc chuyển sang Windows 11, nhưng điều đó một phần là do Microsoft có thể sẽ đưa AI vào bản phát hành tính năng mới nhất của hệ điều hành Windows 11.

Nhưng thực sự, nó có thể là bất cứ điều gì: một nhân vật được hỗ trợ bởi AI được đưa vào một trò chơi mới hấp dẫn, có lẽ được cung cấp bởi ACE của Nvidia, có thể thúc đẩy sự thay đổi trong trò chơi được hỗ trợ bởi AI. Có thể đó sẽ là các bản cập nhật cho Teams, Zoom và Google Meet đều sẽ sử dụng AI. Có lẽ là một cái gì đó khác.

PC AI chưa có ở đây, nhưng chúng sẽ có. Chúng tôi sẽ theo dõi xem điều gì sẽ xảy ra và bạn cũng nên như vậy.

Blog

Chính xác thì PC AI là gì? Chúng tôi sẽ giải thích chi tiết về nó