Pracownik Microsoftu miał dość Windowsa. Napisał lepsze narzędzie

Menedżer zadań Windows potrafi pokazać obciążenie karty graficznej, ale gdy chcemy dowiedzieć się, co dokładnie robią poszczególne procesy, szybko okazuje się niewystarczający. Scott Hanselman, wieloletni inżynier Microsoftu, postanowił rozwiązać ten problem. Stworzył gputaskman, niewielkie narzędzie, które pozwala znacznie dokładniej przyjrzeć się pracy GPU.

Program pokazuje nie tylko wykorzystanie procesora graficznego i pamięci VRAM. Potrafi również identyfikować lokalne modele sztucznej inteligencji, wyświetlać informacje o ich konfiguracji i sprawdzać, ile zasobów zajmują. Wszystko z poziomu terminala, bez konieczności przekopywania się przez kolejne zakładki systemowych narzędzi.

Menedżer zadań Windows pokazuje tylko część informacji

Windows 11 oferuje podstawowe monitorowanie GPU za pośrednictwem Menedżera zadań. W zakładce Wydajność można sprawdzić aktualne obciążenie karty graficznej, wykorzystanie pamięci oraz temperaturę, o ile sprzęt udostępnia odpowiednie odczyty.

Dodatkowe informacje o procesach znajdują się w zakładce Szczegóły. Trzeba jednak samodzielnie włączyć odpowiednie kolumny, a uzyskane dane nadal nie odpowiadają na wszystkie pytania.

Podobne ograniczenia mają niektóre narzędzia producentów kart graficznych. Monitor aktywności GPU Nvidii potrafi wskazać programy korzystające z układu, ale nie przedstawia szczegółowo wykonywanych przez nie zadań. Hanselman uznał, że użytkownicy potrzebują czegoś bardziej rozbudowanego. Tak powstał gputaskman, który łączy informacje o stanie karty graficznej z danymi dotyczącymi konkretnych procesów.

gputaskman pokaże, kto zużywa pamięć VRAM

Nowe narzędzie udostępnia zestaw parametrów przydatnych podczas diagnozowania problemów z wydajnością. Użytkownik może monitorować obciążenie GPU, wykorzystanie pamięci VRAM, temperaturę, pobór energii oraz taktowanie układu. Program wyświetla również aktywność sprzętowych koderów i dekoderów wideo, a także informacje o transferach przez magistralę PCIe.

Najważniejszą zaletą jest możliwość powiązania odczytów z działającymi procesami. Zamiast analizować wyłącznie ogólne wykorzystanie karty graficznej, można sprawdzić, które aplikacje korzystają z jej zasobów.

Takie informacje przydają się między innymi podczas rozwiązywania problemów z nagłym wzrostem zużycia VRAM, nieoczekiwanym obciążeniem GPU czy spadkami wydajności w wymagających programach.

Uruchamiasz lokalne AI? Tutaj robi się naprawdę ciekawie

Szczególnie interesującą częścią gputaskman jest obsługa lokalnych modeli językowych. Program potrafi rozpoznawać procesy związane z uruchomionymi modelami LLM i wyświetlać informacje wykraczające poza standardowe statystyki wykorzystania GPU.

Można sprawdzić między innymi nazwę modelu, wykorzystywane środowisko uruchomieniowe, liczbę warstw, parametry kwantyzacji oraz informacje dotyczące wag modelu. Narzędzie pokazuje również, ile pamięci graficznej zajmuje dany proces.

To przydatne rozwiązanie dla osób eksperymentujących z lokalną sztuczną inteligencją. Uruchamianie modeli językowych potrafi szybko zapełnić pamięć VRAM, szczególnie na kartach wyposażonych w 8 lub 12 GB. Dzięki dokładniejszym odczytom łatwiej ocenić, czy wybrany model mieści się w dostępnej pamięci i jak duże obciążenie generuje podczas pracy.

Nie tylko Windows. Program działa również na Linuksie i macOS

Chociaż autorem narzędzia jest inżynier Microsoftu, gputaskman nie ogranicza się do systemu Windows. Program obsługuje również Linux, środowisko WSL oraz komputery Mac z procesorami Apple Silicon.

Zakres dostępnych informacji zależy jednak od systemu operacyjnego i sprzętu. Nie wszystkie platformy udostępniają identyczne dane dotyczące temperatury, poboru energii czy wykorzystania poszczególnych jednostek GPU.

Sam Hanselman jest znany z tworzenia niewielkich narzędzi usprawniających codzienną pracę z komputerem. Wcześniej udostępnił między innymi PeekDesktop, aplikację przenoszącą do Windows funkcję szybkiego odsłaniania pulpitu znaną z macOS.

Program jest darmowy, ale jeszcze nie wszystko działa idealnie

Narzędzie można pobrać z publicznego repozytorium Scotta Hanselmana w serwisie GitHub. Trzeba jednak pamiętać, że gputaskman pozostaje na wczesnym, eksperymentalnym etapie rozwoju. Autor nie przedstawia go jako w pełni dopracowanego programu gotowego do bezproblemowej pracy na każdej konfiguracji.