Lumo: mój prywatny asystent AI
Jeszcze do niedawna opierałem się użyciu tzw. AI do codziennych zadań, zwłaszcza tych związanych z pracą. Moje obawy wiązały się z wielkimi modelami takimi jak ChatGPT, Gemini czy Grok. W sumie nadal nie ufam tym 'czatom', bo nie wiem jak wykorzystają moje dane oraz dane osób w moim otoczeniu. Bo pamiętajmy: moja prywatność pokrywa się z twoją. Prawie nigdy nie jest tak, że moje wybory nie mają wpływu na moje otoczenie (i vice versa). Do tego dochodzą kwestie środowiskowe i etyczne. Nie od dziś wiadomo, że LLMy (Large Language Models) 'przepalają' olbrzymie ilości zasobów, zwłaszcza jeśli chodzi o potrzebną moc obliczeniową. Na marginesie dodam, że nie tak dawno próbowałem odpalać jakiś nieduży model na własnej maszynie. Powiem tylko, że rezultaty nie były zadowalające, a procesor w laptopie grzał się niemiłosiernie. Ale do rzeczy. Pod kątem etyki LLMy też zazwyczaj nie wypadają dobrze. Nawet jeśli model oznaczony jest jako open source to wcale nie oznacza, że był szkolony na danych ogólnodostępnych i podlegających wolnym licencjom. W praktyce jedynie wagi modelu są otwarto-źródłowe. W największym uproszczeniu chodzi tu o parametry modelu czy liczby definiujące siłę połączeń w sieci neuronowej. Jedak ja dzisiaj nie o tym...
W związku z powyższym raczej unikałem popularnych czatbotów. I chciałbym napisać, że wszystko się zmieniło gdy Proton ogłosił własnego asystenta Lumo. Początkowo uznałem to za ciekawostkę i, owszem, sprawdziłem parę razy jak wspomniany asystent działa. Muszę przyznać, że nie byłem zachwycony. Ba, nawet teraz miewam momenty gdzie pozostaje tylko wykonać gest facepalm. Może nawet double facepalm. Po prostu czuję, że wypada być w tym temacie szczerym i w miarę obiektywnym. Ot prosty przykład: Lumo zapytany (po polsku) o vouchery na usługi Protona odesłał mnie do... nieistniejącej strony store.proton.me, podczas gdy właściwa strona to shop.proton.me. Więc tak jak każdy 'szanujący się' LLM popełnia błędy i zmyśla. Choć technicznie rzecz biorąc AI nie może zmyślać ani 'halucynować' bo nie zna pojęcia prawdy. Podsuwa nam tylko to co brzmi dobrze, jak autokorekta na sterydach. Pomijając jednak tego typu wpadki, które możemy dość szybko zweryfikować i poprawić, Lumo działa całkiem nieźle i faktycznie pomaga mi w pracy. Mało tego, z okazji Black Friday sprawiłem sobie wcześniejszy prezent mikołajkowy — subskrypcję Lumo+ na rok. Przy kwocie ok. 240 PLN na rok wychodzi 20 PLN na miesiąc. W porównaniu z kosztami subskrypcji takiego ChataGPT (100 PLN/mies.) to naprawdę dobry 'deal' 🤝
Jako nauczyciel akademicki doceniam, że mogę z pomocą Lumo przygotować angażujące materiały na zajęcia, handouty, lub quizy. Ponieważ pracuję z językiem angielskim nie mam większych zastrzeżeń do działania tego narzędzia. Jak powszechnie wiadomo większość treści w internecie — a więc danych treningowych — jest po angielsku. Zatem w pracy z językiem Lumo sprawdza się bardzo dobrze. Nieźle radzi sobie też z generowaniem fragmentów kodu. Potrafi przeszukiwać sieć i podawać bieżące informacje wraz ze źródłami. Co jednak najważniejsze z mojego punktu widzenia: rozmowy z czatem pozostają poufne, Proton (ani nikt inny) nie ma do nich dostępu. Czym innym pozostaje kwestia wpływu na środowisko i pochodzenia danych treningowych (etyczność). Niestety nie mam wiedzy na temat źródeł danych wykorzystanych przy uczeniu modelu. Jeśli natomiast chodzi o zużycie zasobów to niech każdy sobie odpowie na pytanie: czy warto skorzystać z LLMa czy może jednak wystarczy szybkie wpisanie hasła w DuckDuckGo 🦆 lub innej wyszukiwarce szanującej naszą prywatność. Zdumiewająco często wystarczy to drugie podejście. W momencie gdy jednak potrzebujemy czegoś więcej — artykułu na zadany temat wraz z quizem sprawdzającym słownictwo — Lumo będzie lepszym rozwiązaniem. Podejrzewam, że dla wielu osób nawet wersja darmowa powinna wystarczyć. Jednak jeśli zależy ci na zachowaniu historii czatów, nieograniczonych zapytaniach i lepszych modelach to warto rozważyć wersję z plusem. Dodatkową motywacją do zakupu może być wsparcie Protona — firmy, która słynie z konkretnych rozwiązań na rzecz prywatności. I żeby nie było: ten post nie jest sponsorowany. Po prostu dzielę się tym co uważam za wartościowe 🙂 Do następnego! 👋🏻
Skomentuj na fediwersum: @michal@101010.pl