Am pus Linux pe laptopul meu RTX Spark pentru că nu am cont Microsoft

Ce distribuție am ales și cum am instalat?

Când au apărut rumorile despre un laptop cu peste 100 GiB de RAM accesibilă GPU-ului, am început să mă gândesc la ce proiecte aș putea construi și cât timp aș putea petrece experimentând cu optimizări. Sunt un entuziaste al modelelor cu greutăți deschise. Posibilitatea de a rula local și de a experimenta cu învățare prin reinforțare, cuantizare și fine-tuning pe un laptop ar fi extraordinară. Am publicat deja propriile mele cuantizări GGUF pe Hugging Face, care au depășit 160.000 de descărcări luna trecută.

Din acest motiv, am fost dezamăsit să învăț că suportul oficial este exclusiv pentru Windows.

Există multe motive pentru care nu îmi place Windows.

Pentru mine, cele mai importante sunt concesiile de confidențialitate în timpul configurării inițiale, ani așteptări pentru ca Microsoft să permită din nou plasarea barei de task pe muchii și prezența de reclame.

Ultimul link din articol este un montaj cu promoții reale ale Windows de la Pureinfotech. Știi ce vreau să spun. Aș putea să continu pentru ore, dar să rămânem pe subiect.

Cum se comportă CPU-ul?

Arch e distribuția preferată de mine, și sunt parte din echipa Arch ca maintainer de pachete. Am instalat deja Arch pe mainframe-uri IBM (slide-urile mele de la FOSDEM), așa că a fost întotdeauna punctul de plecare aici. Această construcție folosește Arch Linux ARM, proiectul separat care portează pachetele Arch pe arhitectura ARM, cu suport hardware adăugat deasupra. NVIDIA a lucrat la kernel pentru Ubuntu, ceea ce mi-a dat un punct de plecare.

Am integrat această lucrare, am rezolvat alocarea de overridare ACPI și maparea framebuffer-ului necesare pentru a obține o consolă, și am dedus overridările ACPI din tabelele propii ale laptopului (mersi astra <3).

Driverul NVIDIA și firmware-ul pentru difuzorii ASUS au fost preluati din sursele ufficiale (vă rog, nu mă daţi la judecată, firmele de calculatoare). Suportul pentru tastatură a necesat un patch la hid-asus, iar audioul a cerut un driver de mașină propriu.

Am asamblat totul într-o USB bootabilă și am extins instalatorul Arhinstall 4.5 pentru a instala suportul hardware. Repository-ul conține scripturile de construire și patch-urile, inclusiv pașii pentru a descărca tabelele ACPI proprii și a extrage firmware-ul difuzorilor din pachetul driverului ASUS. Mașina mea rulează firmware-ul H7607BA.300. Intrările de construire sunt fixe după hash.

Pachetele hardware pe care le-am asamblat în weekend sunt semnate cu cheia mea de maintainer pachete Arch Linux, iar overridările ACPI provin direct din laptopul meu.

Ce se întâmplă cu memoria?

Ecranul rulează la 3840 × 2400 și 120 Hz. Folosesc NetworkManager, PipeWire și rootless Podman cu NVIDIA CDI. Instalatorul păstrează pachetele de kernel, NVIDIA, gestionare de energie și firmware cu IgnorePkg, în timp ce pachetele obișnuite continuă să se actualizeze din Arch Linux ARM.

Am rulat bateria de teste pe 19 octombrie pe Arch Linux ARM nativ cu kernelul 7.0.0-1022-nvidia și driverul NVIDIA 615.78.08. Laptopul era conectat la rețea, cu profilul de performanță selectat. Pentru comparația CPU-ului, am folosit rezultate publicate din Windows. Testul CPU a fost 7-Zip 26.04 nativ ARM64 cu un dictionar fix de 32 MiB. Am rulat o încălzire și trei măsurători la fiecare număr de fire, apoi am luat medianele. StorageReview a testat un HP OmniBook Ultra 16 cu 128 GB din acelasi N1X 20-core, ruleând Windows ARM64 nativ.

Ei raportează scorurile 7-Zip în GIPS, așa că am împărțit valorile MIPS din jurnalurile mele brute la 1.000 pentru a se potrivi. Mai mare e mai bine. Pe un singur fir, este practic un egal.

Cu toate cele 20 de fire, configurarea mea Linux este cu circa 5% mai înainte în comprimare și 3% mai înainte în decomprimare.

Recenzia HP nu specifică versiunea 7-Zip sau dimensiunea dictionarului, deci aceste procente compară cele două configurări de laptop.

ComputerBase a testat și un ProArt P16 cu același N1X 20-core. Convertit în GIPS, scorul lor 7-Zip sub Windows a fost 155.774, iar media celor trei rulări ale mele a fost 157.084. Rezultatul lor se află în intervalul celor trei rulări ale mele, de la 155.759 la 157.193 GIPS. Mașina lor era configurarea de 64 GB și rulea 7-Zip 26.00, iar graficul nu oferă dimensiunea dictionarului.

Cum am rulat Qwen local?

Memoria e un avantaj mai mare.

Rularea mea Linux raportează 116.0 GiB atât ca RAM de sistem, cât și ca total CUDA, din acelasi grup fizic. Windows împarte RAM-ul în regiuni dedicate GPU, shared și CPU-only. Sarcinile CPU nu pot folosi regiunea dedicată GPU, iar alocările GPU nu pot folosi regiunea CPU-only.

Aplicația NVIDIA pe Windows permite modificarea rezervării dedicate și un reboot; configurarea de 128 GB de la Frandroid a ajuns la 96 GiB. CUDA poate depăși această limită prin alocare din RAM-ul shared, în bugetul de memorie al Windows. Cu o rezervare dedicată de 91 GiB, configurarea Windows de la Frandroid a raportat un total CUDA de 109.7 GiB, inclusiv memoria shared.

Configurația mea Linux a raportat 116.0 GiB, adică circa 6.3 GiB mai mult.

Ce mi se pare important este că acest grup mare este disponibil pentru sarcini CPU fără a muta slider-ul de rezervare și fără a reboota între sarcini.