AI, LLM i Bezpieczna Kancelaria — najważniejsze różnice
AI to szerokie pojęcie obejmujące technologie wykonujące zadania kojarzone z inteligencją.
LLM to rodzaj AI wyspecjalizowany w pracy z językiem.
W Bezpiecznej Kancelarii LLM zna informacje, które system przekazuje mu w kontekście konkretnego zadania.
Nie przekazujemy modelowi całych tomów akt, jeśli do odpowiedzi wystarczy mniejszy zakres danych.
Sztuczna inteligencja coraz częściej pojawia się w programach dla prawników. Potrafi streszczać dokumenty, analizować treść pism, porządkować notatki, odpowiadać na pytania czy pomagać w przygotowaniu dokumentów.
Łatwo jednak odnieść wrażenie, że AI to jeden bardzo inteligentny program, który „wie wszystko”. Tak nie jest.
Warto rozróżnić trzy pojęcia: AI, czyli sztuczną inteligencję, LLM, czyli duży model językowy, oraz system wykorzystujący LLM, taki jak BezpiecznaKancelaria.pl.
Czym jest AI?
AI, czyli sztuczna inteligencja, to bardzo szerokie pojęcie. Obejmuje technologie, które potrafią wykonywać zadania wcześniej wymagające udziału człowieka.
- rozpoznawanie mowy
- analizowanie obrazów
- klasyfikowanie dokumentów
- wykrywanie zależności w danych
- tłumaczenie tekstu
- generowanie odpowiedzi
- analizowanie języka
LLM jest jednym z rodzajów sztucznej inteligencji. Nie każda AI jest LLM-em.
Czym jest LLM?
LLM to skrót od Large Language Model, czyli dużego modelu językowego. Najprościej można powiedzieć, że LLM jest bardzo zaawansowanym narzędziem do pracy z językiem.
Model został wytrenowany na ogromnej liczbie tekstów i nauczył się zależności występujących w języku. Dzięki temu potrafi odpowiadać na pytania, streszczać, porównywać teksty, porządkować informacje, przygotowywać projekty dokumentów, analizować przekazany materiał i rozumieć polecenia napisane zwykłym językiem.
Nie oznacza to jednak, że LLM myśli jak człowiek. Nie ma świadomości i nie zna sam z siebie konkretnej kancelarii ani dokumentów znajdujących się w konkretnej sprawie.
LLM wie to, co wynika z jego ogólnego treningu oraz z informacji przekazanych mu w ramach konkretnego zadania.
LLM zna to, co mu przekażemy
Załóżmy, że prawnik pyta: „Czy w sprawie Kowalskiego mamy podpisane pełnomocnictwo?”. Sam LLM nie zna odpowiedzi. Nie ma naturalnego dostępu do bazy danych kancelarii ani do jej dokumentów.
Bezpieczna Kancelaria może jednak najpierw znaleźć właściwą sprawę, sprawdzić odpowiednie dane i przygotować informacje potrzebne do odpowiedzi. Dopiero wtedy LLM otrzymuje właściwy kontekst i może pracować na materiale dotyczącym tej konkretnej sprawy.
W tym momencie LLM rzeczywiście zna akta w zakresie potrzebnym do odpowiedzi na konkretne pytanie, ponieważ system przekazał mu odpowiednie informacje.
Nie twierdzimy, że nasz LLM nie zna akt. Nie przekazujemy mu automatycznie całych tomów akt, jeżeli do odpowiedzi wystarczy niewielka część informacji.
Dlaczego nie wysyłamy wszystkiego?
Technicznie można byłoby przy każdym pytaniu przekazać modelowi bardzo dużą ilość danych: całe akta, wszystkie dokumenty, notatki, transkrypcje i historię klienta.
W kancelarii nie ma jednak powodu przekazywać większego zakresu informacji, niż wymaga konkretne zadanie. Jeżeli pytanie dotyczy jednego dokumentu, model nie potrzebuje akt innych spraw. Jeżeli odpowiedź wynika z kilku fragmentów materiału, nie trzeba przekazywać setek stron.
To nie jest ograniczanie możliwości LLM. To zasada bezpieczeństwa i minimalizacji danych.
Czym jest AI w Bezpiecznej Kancelarii?
W BezpiecznejKancelarii.pl LLM jest jednym z elementów większego systemu. Nie jest całym systemem, nie zarządza samodzielnie bazą danych i nie otrzymuje automatycznie dostępu do wszystkich dokumentów kancelarii.
Najpierw działa Bezpieczna Kancelaria. System może rozpoznać, czego chce użytkownik, pobrać właściwe dane, sprawdzić uprawnienia, przygotować potrzebny kontekst, uruchomić odpowiednią funkcję i przekazać LLM informacje potrzebne do przygotowania odpowiedzi.
Tradycyjna informatyka pobiera i kontroluje dane, a LLM pomaga je zrozumieć i przedstawić człowiekowi.
LLM może również obsługiwać system
W Bezpiecznej Kancelarii AI nie musi służyć wyłącznie do rozmowy. Może być także naturalnym interfejsem do programu.
Prawnik może poprosić o pokazanie rozpraw na przyszły tydzień, otwarcie sprawy, przygotowanie podsumowania spotkania albo wykonanie innej dostępnej czynności. W zależności od polecenia system może pobrać informacje, uruchomić funkcję Bezpiecznej Kancelarii albo skorzystać z wyspecjalizowanego agenta.
Jeżeli użytkownik poprosi o coś, czego jeszcze nie zaprogramowaliśmy, agent nie powinien udawać, że wykonał zadanie. Powinien powiedzieć wprost, że danej możliwości jeszcze nie ma.
Nie oznacza to, że LLM nie zrozumiał polecenia. Może je rozumieć, ale system nie posiada jeszcze funkcji pozwalającej wykonać daną czynność.
Agent może z czasem wiedzieć coraz więcej
Agent w Bezpiecznej Kancelarii będzie rozwijany. Może z czasem otrzymywać dostęp do większej liczby funkcji i wykonywać coraz bardziej rozbudowane zadania.
Może również analizować szeroki zakres danych, jeżeli użytkownik rzeczywiście tego zażąda. Polecenie dotyczące wszystkich spraw jednego klienta wymaga większego kontekstu niż proste pytanie o jeden dokument.
Dlatego agent może być bardzo dobrze poinformowany i wykonywać złożone zadania, ale dzieje się to na polecenie użytkownika i w zakresie wynikającym z konkretnego zadania.
Agent działa w kontrolowanym środowisku
Model może korzystać z tych funkcji, danych i integracji, które zostały mu udostępnione przez Bezpieczną Kancelarię. Nie powinien samodzielnie rozszerzać swoich uprawnień ani decydować, że potrzebuje dostępu do kolejnych systemów.
LLM może być bardzo zaawansowany, ale jego środowisko pracy nadal pozostaje kontrolowane przez system.
Czy LLM może się pomylić?
Tak. LLM nadal pozostaje modelem językowym. Może źle zinterpretować fragment dokumentu, przeoczyć ważny szczegół albo wyciągnąć zbyt daleko idący wniosek.
Dlatego AI ma wspierać prawnika, a nie przejmować jego odpowiedzialność. System może szybciej dotrzeć do informacji, przygotować podsumowanie czy pomóc w analizie, ale ostateczna ocena pozostaje po stronie człowieka.
Najważniejsze rozróżnienie
AI to szeroka grupa technologii wykonujących zadania kojarzone z inteligencją. LLM to rodzaj AI wyspecjalizowany w pracy z językiem. Bezpieczna Kancelaria to system, który wykorzystuje LLM, ale jednocześnie kontroluje dane, uprawnienia, funkcje i kontekst przekazywany modelowi.
Bezpieczna Kancelaria nie jest więc po prostu chatbotem podłączonym do dokumentów. Najpierw działa system informatyczny, który wie, gdzie znajdują się dane, jakie uprawnienia ma użytkownik i jakie informacje są potrzebne do wykonania polecenia. Dopiero później LLM wykorzystuje przygotowany kontekst.
Nie chodzi o to, aby agent przez cały czas wiedział wszystko. Chodzi o to, aby mógł wiedzieć dokładnie to, czego potrzebuje do wykonania zadania — wtedy, kiedy użytkownik tego potrzebuje.