NVIDIA udostępnia chatbota, który może działać lokalnie na PC z kartą GeForce RTX 

NVIDIA właśnie udostępniła bezpłatne demo chatbota, który działa lokalnie na naszym PC. Jest to o tyle interesujące, że daje chatbotowi dostęp do naszych plików i dokumentów. Możemy przekazać Chatowi RTX wybrane dane osobowe i pozwolić mu na tworzenie podsumowań na podstawie tych informacji. Możemy także zadawać mu pytania, tak jak każdemu chatbotowi i przeglądać dane w celu uzyskania odpowiedzi.

Firma twierdzi, że umożliwia użytkownikom „szybkie i łatwe łączenie plików lokalnych na komputerze PC w formie zbioru danych z dużym modelem językowym o otwartym kodzie źródłowym, takim jak Mistral czy Llama 2”. NVIDIA podaje przykład użytkownika pytającego chatbota o restaurację, którą polecił mu jego partner podczas pobytu w Las Vegas. Oprogramowanie skanuje pliki lokalne, aby znaleźć odpowiedź. Obsługuje całą gamę formatów plików, w tym .txt, .pdf, .doc/.docx i .xml. Firma twierdzi, że załaduje odpowiednie pliki do swojego zbioru danych „w ciągu kilku sekund”.

Chat With RTX brzmi to jak duży krok w kierunku czegoś przypominającego prawdziwego cyfrowego asystenta, który działa w ramach kontekstowych danych osobowych.

Czat z RTX integruje także filmy i playlisty z YouTube. Możemy dodać adres URL filmu do zbioru danych, co zintegruje wiedzę zawartą w klipie na potrzeby zapytań kontekstowych. NVIDIA twierdzi, że będzie to przydatne, gdy poprosimy o rekomendacje dotyczące podróży „na podstawie treści z ulubionych filmów influencerów” lub gdy będziemy szukać samouczków i podsumowań pochodzących z zasobów edukacyjnych.

The Verge miało już okazję pobawić się chatbotem i było pod wrażeniem, pisząc, że postrzega go jako „cenną część badania danych dla dziennikarzy lub każdego, kto potrzebuje przeanalizować zbiór dokumentów”.

Brzmi to jak duży krok w kierunku czegoś przypominającego prawdziwego cyfrowego asystenta, który działa w ramach kontekstowych danych osobowych. W przypadku większości chatbotów dane są wysyłane do chmury, ale Chat with RTX „umożliwia użytkownikom przetwarzanie wrażliwych danych lokalnie na ich komputerze bez konieczności udostępniania ich osobom trzecim lub posiadania połączenia z Internetem”. Jest więc bezpieczniejszy i bardziej świadomy kontekstu.

Istnieją pewne ograniczenia. Jest to produkt demo, więc można spodziewać się wielu błędów, chociaż NVIDIA powinna zacząć je eliminować, gdy użytkownicy zaczną publikować raporty o błędach i tym podobne. Istnieją również pewne ograniczenia sprzętowe. Czat z RTX działa tylko na komputerach PC z systemem Windows wyposażonych w karty graficzne NVIDIA GeForce RTX z serii 30 lub nowsze, które wyposażono w co najmniej 8 GB pamięci VRAM.

NVIDIA zdaje się coraz mocniej stawiać na sztuczną inteligencję i trudno się temu dziwić, patrząc jak lukratywny jest to rynek. Mamy jednak nadzieję, że firma pozostanie przede wszystkim producentem kart graficznych dla graczy.