Copilot+ PC prodává NPU jako hlavní argument. Živé titulky, odšumování mikrofonu nebo Recall běží lokálně, ale přepis schůzky v Teams a Copilot chat se stále počítají na serverech Microsoftu.
Copilot+ PC není název jednoho čipu, ale označení pro notebooky a mini PC, které splní hardwarové minimum Microsoftu: NPU s výkonem alespoň 40 TOPS, 16 GB RAM a 256 GB úložiště. Do této kategorie patří Snapdragon X Elite s NPU 45 TOPS, AMD Ryzen AI 300 s 50 TOPS a Intel Lunar Lake s 48 TOPS. Číslo 40 TOPS znamená 40 bilionů celočíselných operací za sekundu; je to hrubá propustnost v INT8 pro malé modely, ne záruka, že konkrétní aplikace poběží rychle. Rozhoduje paměťová propustnost, formát modelu a to, zda aplikace NPU vůbec použije.
Nejlepší ukázka jsou Windows Studio Effects. Při videohovoru běží na NPU rozmazání pozadí, automatické rámování, korekce pohledu do kamery a odšumování mikrofonu. Zpracování obrazu i zvuku zůstává na zařízení, takže se do cloudu neposílá živý video stream ani hlas. NPU drží zátěž mimo CPU a GPU, takže při dlouhém hovoru neklesá baterie tak rychle a nezasekává se sdílení obrazovky. To je přesně typ úlohy, na kterou je NPU stavěná: malý model, který běží nepřetržitě a potřebuje nízkou spotřebu.
Windows Live Captions umí titulkovat zvuk z jakékoli aplikace. Na Copilot+ PC přidává překlad do angličtiny z desítek jazyků. Po stažení jazykového balíčku běží rozpoznávání i překlad lokálně; audio se neposílá do cloudu. To je konkrétní rozdíl proti Teams, kde přepis schůzky a shrnutí řeší cloudová služba Microsoft 365. Lokální zpracování má i limity: přesnost klesá u silného akcentu, hluku a odborných termínů a překlad je u této funkce cílený hlavně do angličtiny.
Recall ukládá snímky obrazovky v pravidelných intervalech, dělá OCR a index pro sémantické hledání. Běží lokálně, data jsou šifrovaná a přístup vyžaduje Windows Hello. NPU se používá pro zpracování obrazu a vyhledávací modely. Pro soukromí je to lepší než cloudová služba se snímky obrazovky, ale horší je objem dat: snímky zabírají místo a mohou obsahovat hesla, e-maily nebo dokumenty. Recall je proto vhodné zapnout jen vědomě a s vyloučením citlivých aplikací a webů.
Cocreator v Malování a Restyle Image ve Fotkách patří mezi Copilot+ funkce. Microsoft je prezentuje jako ukázku NPU. V praxi je ale část zpracování hybridní: aplikace řeší přihlášení, kontrolu obsahu a aktualizace modelů online a z uživatelského rozhraní není vidět, kolik výpočtu zůstalo na NPU a co se poslalo do cloudu. Plnohodnotné generování v Copilotu a Designeru je cloudové. 40 TOPS na lokální diffusion model stačí spíše na menší rozlišení, jednoduché styly a náčrtky než na produkční grafiku.
Copilot chat v aplikaci a na webu je cloudová služba. Klávesa Copilot na klávesnici otevírá právě ji, ne lokální model. Stejně tak Microsoft 365 Copilot v Teams, Wordu a Excelu: přepis schůzky, shrnutí, návrhy textu a analýza tabulek se počítají na serverech Microsoftu. NPU v notebooku u toho nemá co dělat. Pro firmy je to zásadní rozdíl: data opouštějí zařízení a zpracovávají se podle podmínek Microsoft 365, ne podle nastavení lokálního NPU.
Ani 40 TOPS nestačí na velký jazykový model typu GPT-4. Lokálně lze provozovat menší modely řádově v miliardách parametrů a v kvantizaci, ale rychlost a kvalita jsou jinde než u cloudového Copilota. Proto Copilot+ PC neznamená AI bez cloudu; znamená, že některé malé a neustálé úlohy běží na zařízení, zatímco velké jazykové a meetingové funkce zůstávají na serveru.
U každé funkce se vyplatí sledovat tři věci: zda funguje offline, zda po ní zůstává síťový provoz a zda ji lze vypnout. Windows Studio Effects a Live Captions po stažení jazykových balíčků fungují bez sítě. Recall běží lokálně, ale potřebuje dost místa a správu výjimek. Copilot chat a Teams přepis bez internetu nefungují. To je nejrychlejší test, kde končí NPU a začíná cloud.
NPU 40 TOPS má smysl pro nepřetržité senzorické úlohy: obraz z kamery, zvuk mikrofonu, titulky a indexování obrazovky. Pro jednorázové generování obrázků nebo přepis hodinové schůzky je výhodnější cloud. Copilot+ PC je proto kompromis: lokální hardware pro malé modely, cloud pro ty velké.
Foto: Jimmy Chan / Pexels
Konzole PS5 a Xbox Series X umí 4K při 120 Hz a VRR, ale televize to často nezvládne, i když se to v marketingových materiálech tvrdí. Poradíme, jak ověřit HDMI 2.1, VRR, ALLM, latenci a další parametry přímo v obchodě i v menu televize.
