Dziś udostępniamy Local AI Assistant v2 — całkowicie przebudowaną aplikację czatu działającą lokalnie, opartą na wieloplatformowym stosie AI Suite v2, zastępującą starszą wersję dostępną tylko na Windows. Idea pozostała niezmieniona: prywatny czat AI działający na Twoim własnym urządzeniu. Wszystko, co pod spodem, jest nowe.

Co potrafi

Wybierz model, wpisz wiadomość, a lokalny model AI na Twoim urządzeniu na bieżąco przesyła odpowiedź na Twoim własnym urządzeniu w trakcie pisania — bez konieczności wysyłania danych na serwer kogoś innego. Twoje wiadomości nie są przesyłane przy użyciu lokalnego modelu, a po pobraniu modelu cała aplikacja działa offline. Twoje rozmowy są zapisywane zaszyfrowane w spoczynku na dysku i nigdy nie potrzebujesz konta, aby korzystać z darmowego poziomu.

Jest celowo minimalistyczny. Otrzymujesz czysty czat i niezbędne funkcje, bez niczego zbędnego: utrzymuj dowolną liczbę oddzielnych rozmów na płaskiej liście sesji, znajdź frazę w bieżącym czacie lub przeszukaj wszystkie swoje czaty i przejdź do dopasowania, a każdą rozmowę dostosuj za pomocą dwóch kontrolek kontekstu — pokrętła kreatywności (temperatury) i maksymalnej długości odpowiedzi. Nie ma paneli narzędzi, wyszukiwania w sieci, strefy upuszczania dokumentów ani folderów do zarządzania. Tylko rozmowa.

Nowość w wersji 2

  • Skoncentrowany, działający lokalnie czat. Wybierz model, wpisz i obserwuj odpowiedź na żywo — zatrzymaj ją w dowolnym momencie. Całość działa lokalnie na wydajnym modelu na urządzeniu.
  • Wiele prywatnych sesji. Każda rozmowa to osobny zapisany czat na czystej, płaskiej liście; zmieniaj nazwę, przypinaj i usuwaj. Sesje i wiadomości są przechowywane zaszyfrowane w spoczynku na Twoim urządzeniu.
  • Znajdź i przeszukaj. Znajdź frazę w bieżącym czacie lub przeszukaj wszystkie swoje czaty i przejdź bezpośrednio do dopasowania.
  • Dwie kontrolki kontekstu. Pokrętło kreatywności (temperatury) i maksymalna długość odpowiedzi, ustawiane dla każdego czatu lub jako domyślne — proste i zawsze dostępne jednym kliknięciem.
  • Wybór modeli. Wydajny model lokalny jest wybierany i pobierany automatycznie przy pierwszym uruchomieniu — bez konfiguracji, bez rejestracji, a dla maszyn o mniejszej pamięci wybierany jest lżejszy model. Pro odblokowuje większe modele lokalne i opcjonalnych dostawców w chmurze.
  • W 16 językach i z możliwością skryptowania. Interfejs dostosowuje się do języka systemu operacyjnego. Narzędzie wiersza poleceń bez interfejsu graficznego uruchamia ten sam czat z terminala dla zaawansowanych użytkowników i automatyzacji.

Każda funkcja jest darmowa

To jest część, z której jesteśmy najbardziej dumni: żadna funkcja nie jest zablokowana za Pro. Sesje, zaszyfrowana historia, znajdowanie i wyszukiwanie, kontrolki kontekstu oraz kopia zapasowa, przywracanie i eksport są dostępne w darmowej aplikacji, działającej na wydajnym modelu lokalnym bez limitu czasu i ekranów z przypomnieniami. Pro to po prostu wybór modelu — większe modele lokalne i opcjonalni dostawcy w chmurze, gdy potrzebujesz dodatkowej mocy. Poziom dostępu ogranicza model, nigdy funkcję, więc nigdy nie tracisz żadnej możliwości pozostając na darmowym poziomie.

Dlaczego ważne jest działanie na urządzeniu

Pytania, które ludzie najczęściej chcą zadać AI, to często te, które nie mogą trafić do chmury — szkic e-maila dotyczący kwestii personalnych, klauzula umowy, niedokończony pomysł, którego wolelibyście nie przekazywać osobom trzecim. Lokalny AI Assistant przenosi model do Twoich słów: nic nie opuszcza urządzenia przy lokalnym modelu, Twoja historia jest szyfrowana w spoczynku, a korzystanie nie wiąże się z opłatami za każdą wiadomość. To sprawia, że jest to rozwiązanie odpowiednie dla użytkowników dbających o prywatność, regulowanych branż, gdzie zapytania i odpowiedzi nie mogą opuszczać zarządzanego sprzętu, oraz dla konfiguracji offline lub odizolowanych od sieci. To ta sama zasada lokalnego, priorytetowego podejścia do prywatności, która stoi za wszystkim, co tworzy Software Tailor. [1].

To inny kształt aplikacji niż nasz pełny chatbot, celowo. Jeśli chcesz narzędzia, wyszukiwanie w sieci, czat dokumentów, pamięć lub foldery, te funkcje znajdują się w większym AI Chatbot; Local AI Assistant to sam czat, utrzymany w czystości. Jego brat bliźniak, AI Reasoningto ta sama smukła powłoka dostosowana do modeli, które myślą krok po kroku.

Pobierz

Lokalna wersja AI Assistant v2 jest już dostępna na Microsoft Store dla Windows jako bezpłatne pobranie, z wersją Pro dostępną, gdy potrzebujesz większych modeli i modeli chmurowych [2]. Wraz z nim dostępny jest bezgłowy interfejs CLI dla zaawansowanych użytkowników; w planach są edycje na macOS, Linux, przeglądarki i urządzenia mobilne. Przeczytaj pełną prezentację funkcji na strona produktu.