Microsoft ra mắt Phi Silica, AI dành riêng cho Copilot+ PC

Nhưng liệu nó có xuất hiện dưới dạng phiên bản gốc của Copilot không?

Vào năm 2023, Microsoft là người rất tin tưởng vào các mô hình ngôn ngữ lớn, chạy trên đám mây. Tại Microsoft Build, công ty đã ra mắt Phi Silica, một mô hình ngôn ngữ nhỏ được thiết kế để chạy riêng trên NPU trong PC Copilot+ mới.

Vào tháng 4, Microsoft đã công bố Phi-3-mini, một model đủ nhỏ để chạy trên PC cục bộ. Phi Silica là phiên bản phái sinh của Phi-3-mini, được thiết kế đặc biệt để chạy trên PC Copilot+ mà Microsoft đã công bố hôm thứ Hai.

Hầu hết các tương tác với AI đều diễn ra trên đám mây; Dịch vụ Copilot hiện có của Microsoft, ngay cả trên PC của bạn, sẽ giao tiếp với máy chủ từ xa của Microsoft. Một dịch vụ dựa trên đám mây như Copilot được biết đến như một mô hình ngôn ngữ lớn (LLM), với hàng tỷ tham số giúp tăng độ chính xác cho các câu trả lời của Copilot.

Nhưng công cụ tìm kiếm Recall PC sắp ra mắt của Microsoft, phụ thuộc vào NPU, chạy cục bộ vì mục đích bảo mật. Người dùng không muốn Nhớ lại việc lập chỉ mục các tìm kiếm ẩn danh. LLM đơn giản yêu cầu quá nhiều bộ nhớ và dung lượng lưu trữ để chạy trên PC thông thường. Đó là sự biện minh cho các mô hình ngôn ngữ nhỏ hoặc SLM.

Microsoft đã nói rằng Recall và các AI khác sẽ phụ thuộc vào các loại SLM này. Phi Silica sử dụng mô hình 3,3 tỷ tham số được Microsoft tinh chỉnh về cả độ chính xác và tốc độ, ngay cả với mô hình ngôn ngữ nhỏ hơn.

“Windows là nền tảng đầu tiên có tùy chỉnh mô hình ngôn ngữ nhỏ (SLM) hiện đại cho NPU và hộp thư vận chuyển,” Microsoft cho biết trong một bài đăng trên blog.

Tuy nhiên, các nhà điều hành cũng gọi Phi Silica là một giải pháp “sẵn sàng”, điều này đặt ra câu hỏi liệu SLM có xuất xưởng trên PC Copilot+ hay không, như một phiên bản địa phương của Copilot. Microsoft vẫn chưa trả lời câu hỏi đó, nhưng phải đến ngày 23 tháng 6, khi máy tính Copilot+ mới bắt đầu được phát hành.