Microsoft uczy AI zmieniać system za użytkownika. Windows 11 bez prywatności?

Microsoft pochwalił się swoim najnowszym dziełem. Gigant z Redmond ogłosił Mu, czyli mały model językowy o wielkości zaledwie 300 milionów parametrów. Mu działa lokalnie bez potrzeby wysyłania danych do chmury dzięki czemu można liczyć na większą prywatność. Chyba nikogo nie zdziwi, że lokalne działanie odbywa się na NPU (Neural Processing Unit).

Mu nie posiada klasycznej architektury decoder-only. Zamiast tego Microsoft wykorzystał typ encoder-decoder. W efekcie odpowiedzi generowane są szybciej. O 47% skrócono czas pierwszego tokena, a prędkość dekodowania stała się 4,7 razy szybsza. Mimo niewielkiego rozmiaru Mu ma dorównywać jakością większym modelom przy zadaniach pokroju generowania kodu czy udzielania odpowiedzi na pytania. Jego szkolenie odbywało się przy użyciu kart graficznych NVIDIA A100 w usłudze Azure Machine Learning.

Można na przykład wpisać w polu wyszukiwania „mój wskaźnik myszy jest za mały” - wówczas agent AI sugeruje zwiększenie wskaźnika na przykład o dwa punkty i pozwoli zrobić to jednym kliknięciem „Zastosuj” w tym samym oknie.

Jak to działa?

Mu stanowi bazę dla nowego agenta AI w aplikacji Ustawienia systemu Windows 11 (oczywiście z Copilot+ PC). Przetwarza i rozumie on zapytania w języku naturalnym oraz potrafi wykonywać odpowiednie akcje w systemie. Można na przykład wpisać w polu wyszukiwania „mój wskaźnik myszy jest za mały” - wówczas agent AI sugeruje zwiększenie wskaźnika na przykład o dwa punkty i pozwoli zrobić to jednym kliknięciem „Zastosuj” w tym samym oknie.

Microsoft tłumaczy, że doskonale zdawał sobie sprawę, iż część wprowadzanych przez użytkowników zapytań może być niejasna dla AI. Na przykład polecenie „zwiększ jasność” może odnosić się do wielu rzeczy w systemie. Pytanie też czy w przypadku konfiguracji z wieloma ekranami w takiej sytuacji jasność ma być zwiększona tylko na jednym wyświetlaczu? Aby rozwiązać problemy z niejasnymi poleceniami Microsoft wykorzystał udoskonalone dane szkoleniowe. Dzięki temu można nadać priorytet najczęściej używanym ustawieniom.

Wnioskując po tym co pisze Microsoft w pasku zapytania można również wpisywać polecenia w typu „zmień język systemu na polski”, „wyłącz automatyczne aktualizacje w nocy” czy „włącz bluetooth”. Dostrojenie modelu Mu sprawia, że czas reakcji wynosi poniżej 500 ms.

To ważna nowość

Mu to niewielki lecz najwyraźniej zaskakująco wydajny model językowy dostosowany do lokalnego działania na NPU. Łączy prywatność oraz szybkość działania i pozwala Windowsowi 11 rozumieć polecenia w języku naturalnym wpisywane w aplikacji Ustawienia.