Model powinien otrzymać tylko informacje potrzebne do konkretnego zadania.
System najpierw wyszukuje istotne fragmenty materiału i przygotowuje kontekst.
Odpowiedź AI nie zastępuje sprawdzenia źródła i pełnego dokumentu.
Sztuczna inteligencja może znacznie przyspieszyć pracę prawnika. Może pomóc odnaleźć informacje w dokumentach, podsumować ustalenia ze spotkania, przygotować projekt pisma, wskazać istotne fragmenty materiałów albo odpowiedzieć na pytanie dotyczące prowadzonej sprawy.
W kancelarii prawnej pojawia się jednak pytanie ważniejsze niż sama wygoda:
ile informacji powinien otrzymać model AI, aby wykonać konkretne zadanie?
Nasza odpowiedź jest prosta.
Jak najmniej.
Agent nie powinien otrzymywać całych akt tylko dlatego, że prawnik zadał jedno pytanie. Nie powinien również posiadać swobodnego dostępu do wszystkich dokumentów, nagrań, klientów i spraw znajdujących się w kancelarii.
W BezpiecznaKancelaria.pl przyjęliśmy inną architekturę.
Najpierw system ustala, jakie informacje są potrzebne do odpowiedzi. Dopiero później wybrane fragmenty mogą zostać przekazane do modelu językowego.
Użytkownik może mieć wrażenie, że agent zna całą kancelarię.
W praktyce widzi tylko to, co system zdecydował się pokazać mu w ramach konkretnego zadania.
Problemem nie jest samo AI. Problemem jest niekontrolowany dostęp do danych
Dyskusja o bezpieczeństwie sztucznej inteligencji często sprowadza się do pytania:
„Czy można wysyłać dokumenty kancelarii do AI?”
To pytanie jest zbyt ogólne.
Istotniejsze jest:
jakie dokumenty, jakie fragmenty, w jakim celu i w jakim zakresie mają zostać przekazane?
Wyobraźmy sobie, że prawnik chce uzyskać odpowiedź na pytanie:
„Jakie były ustalenia klienta dotyczące terminu płatności?”
Do odpowiedzi mogą być potrzebne dwa akapity z umowy, fragment notatki ze spotkania i kilkadziesiąt sekund transkrypcji rozmowy.
Nie ma powodu, aby wraz z nimi przekazywać:
- całą historię klienta,
- wszystkie dokumenty sprawy,
- materiały z innych postępowań,
- nagrania niezwiązane z pytaniem,
- informacje dotyczące innych klientów,
- pozostałe dane znajdujące się w kancelarii.
Model powinien otrzymać tylko to, czego rzeczywiście potrzebuje.
To właśnie nazywamy kontrolą kontekstu.
Najpierw dane pozostają w bezpiecznym środowisku kancelarii
Dokumenty kancelarii nie są dla nas zwykłymi plikami umieszczonymi w przestrzeni internetowej.
Pisma, dokumenty, nagrania oraz inne materiały tworzone i przechowywane w Bezpiecznej Kancelarii znajdują się w odizolowanym środowisku i są szyfrowane.
Dotyczy to między innymi:
- dokumentów przesyłanych do systemu,
- pism tworzonych przez kancelarię,
- materiałów związanych ze sprawami,
- nagrań,
- transkrypcji,
- treści wykorzystywanych później przez funkcje AI.
Samo przechowywanie danych to jednak dopiero pierwszy element architektury.
Jeżeli system ma później pomóc prawnikowi znaleźć odpowiedź w setkach dokumentów, musi potrafić rozpoznać, które fragmenty są związane z zadanym pytaniem.
Do tego służy kolejna warstwa.
Dokumenty są przygotowywane do wyszukiwania semantycznego
Treści znajdujące się w kancelarii są wektoryzowane.
Brzmi technicznie, ale sama idea jest stosunkowo prosta.
Tradycyjna wyszukiwarka szuka najczęściej konkretnych słów. Jeżeli wpiszemy „termin płatności”, może odnaleźć dokumenty zawierające właśnie takie wyrażenie.
Wyszukiwanie semantyczne pozwala pójść dalej. System może odnajdywać informacje związane ze znaczeniem pytania, nawet jeśli w dokumencie użyto innego sformułowania.
Dzięki temu można wyszukiwać odpowiednie fragmenty w:
- umowach,
- pismach,
- notatkach,
- transkrypcjach nagrań,
- dokumentach przygotowanych przez kancelarię.
Informacje potrzebne do takiego wyszukiwania trafiają do specjalnej bazy wektorowej.
Jej zadaniem nie jest zastąpienie dokumentów. Ma pomóc systemowi znaleźć te części materiałów, które mogą być potrzebne do wykonania konkretnego zadania.
Agent nie przeszukuje dowolnie całej kancelarii
To jeden z najważniejszych elementów architektury Bezpiecznej Kancelarii.
Kiedy użytkownik zadaje pytanie agentowi, nie przekazujemy modelowi całego zbioru danych i nie prosimy go, aby sam sobie wybrał potrzebne informacje.
Najpierw działa system Bezpiecznej Kancelarii.
Proces można uprościć do kilku kroków:
- prawnik zadaje pytanie,
- system analizuje, jakich informacji może wymagać odpowiedź,
- wykonywane jest wyszukiwanie w odpowiednim zbiorze danych,
- baza wektorowa wskazuje najbardziej trafne fragmenty,
- system przygotowuje ograniczony kontekst,
- dopiero ten kontekst zostaje przekazany do modelu językowego,
- model przygotowuje odpowiedź dla użytkownika.
Model nie otrzymuje więc kluczy do całego archiwum.
System przynosi mu tylko te kartki, które mogą być potrzebne do wykonania konkretnego zadania.
To zasadnicza różnica.
Użytkownik widzi inteligentnego agenta. Pod spodem działa kontrolowany system
Z perspektywy użytkownika wszystko może wyglądać bardzo prosto.
Prawnik pyta:
„Jak klient uzasadniał odmowę zapłaty?”
Po chwili otrzymuje odpowiedź uwzględniającą dokumenty, notatkę albo rozmowę znajdującą się w systemie.
Może to tworzyć wrażenie, że agent zna całą sprawę, wszystkie dokumenty i historię kancelarii.
Tak jednak nie musi być.
Agent może otrzymać wyłącznie kilka fragmentów dobranych wcześniej przez system.
To istotne, ponieważ bezpieczeństwo nie polega wyłącznie na tym, jaki model AI został użyty.
Ogromne znaczenie ma to, co wydarzyło się zanim model otrzymał pytanie.
W Bezpiecznej Kancelarii dużą część pracy wykonuje właśnie ta warstwa:
- odnalezienie właściwych danych,
- ograniczenie ich zakresu,
- przygotowanie kontekstu,
- przekazanie tylko informacji potrzebnych do zadania.
LLM jest ostatnim elementem procesu, a nie systemem zarządzającym kancelarią.
To my sterujemy agentem, a nie agent nami
W systemach wykorzystujących AI łatwo stworzyć architekturę, w której agent otrzymuje szerokie uprawnienia i samodzielnie szuka informacji, których - jego zdaniem - potrzebuje.
W przypadku kancelarii prawnej takie podejście wymaga szczególnej ostrożności.
My przyjęliśmy odwrotną filozofię.
To system określa:
- do jakiego zakresu danych należy sięgnąć,
- jakie informacje są związane z pytaniem,
- jaki kontekst przygotować,
- co ostatecznie przekazać modelowi.
Agent nie decyduje samodzielnie, że „na wszelki wypadek” potrzebuje wszystkich akt.
Nie projektujemy rozwiązania, w którym model otrzymuje pełny obraz kancelarii i dopiero później zastanawia się, co z niego wykorzystać.
Najpierw ograniczamy dane.
Dopiero później korzystamy z możliwości modelu.
To my sterujemy agentem, a nie agent nami.
Tajemnica zawodowa a zasada minimalizacji informacji
Prawnik od dawna zna zasadę, że poufnej informacji nie należy ujawniać osobie, która nie potrzebuje jej do wykonania swojego zadania.
Podobny sposób myślenia można zastosować do sztucznej inteligencji.
Jeżeli do odpowiedzi wystarczy fragment jednego dokumentu, nie ma potrzeby udostępniania całej teczki.
Jeżeli pytanie dotyczy jednej sprawy, nie ma powodu, aby w kontekście znalazły się materiały dotyczące innego klienta.
Jeżeli wystarczy krótkie ustalenie z transkrypcji, nie trzeba przekazywać całego nagrania.
To nie oznacza, że żadna informacja nigdy nie może trafić do modelu językowego.
Oznacza coś bardziej praktycznego:
do modelu powinny trafiać wyłącznie informacje potrzebne do wykonania konkretnego zadania.
W naszej ocenie właśnie takie podejście powinno być jednym z podstawowych warunków odpowiedzialnego wykorzystania AI w kancelarii.
AI nie powinno dostać więcej informacji „na zapas”
W tradycyjnych systemach informatycznych często spotyka się zasadę najmniejszych uprawnień.
Użytkownik lub proces powinien mieć dostęp tylko do tego, czego potrzebuje do wykonania swojej roli.
Podobną zasadę stosujemy wobec AI.
Model nie powinien otrzymywać dodatkowych danych tylko dlatego, że być może kiedyś okażą się przydatne.
Każda dodatkowa informacja zwiększa zakres kontekstu, który został ujawniony.
Dlatego pytanie przed wywołaniem modelu nie powinno brzmieć:
„Co jeszcze możemy mu wysłać?”
lecz:
„Jak mało danych wystarczy, aby poprawnie wykonać to zadanie?”
To drobna zmiana sposobu myślenia, ale bardzo duża różnica architektoniczna.
Przykład: analiza rozmowy z klientem
Załóżmy, że kancelaria posiada nagranie godzinnej rozmowy z klientem.
Prawnik pyta agenta:
„Co klient powiedział o planowanym terminie sprzedaży nieruchomości?”
Nie ma potrzeby wysyłania do modelu całego nagrania.
System może korzystać z przygotowanej wcześniej reprezentacji treści, odnaleźć fragmenty rozmowy dotyczące sprzedaży i terminu, a następnie przekazać modelowi tylko wybrany kontekst.
Model przygotowuje odpowiedź na podstawie tego materiału.
Dla użytkownika proces trwa chwilę.
Pod spodem różnica jest jednak fundamentalna:
agent nie musiał poznać całej rozmowy, aby odpowiedzieć na jedno konkretne pytanie.
Przykład: pytanie dotyczące pisma
Podobnie działa to w przypadku dokumentów.
Prawnik może zapytać:
„Jakie argumenty dotyczące przedawnienia pojawiały się dotychczas w tej sprawie?”
System może odnaleźć najbardziej powiązane fragmenty pism, notatek lub innych materiałów związanych ze wskazaną sprawą.
Dopiero z tych fragmentów przygotowywany jest kontekst dla modelu.
Nie trzeba przesyłać wszystkich dokumentów klienta.
Nie trzeba przekazywać całego archiwum kancelarii.
Potrzebna jest dobra selekcja.
Bezpieczeństwo AI zaczyna się przed AI
Łatwo skupić całą dyskusję na samym modelu językowym:
- kto go stworzył,
- gdzie działa,
- jaki ma regulamin,
- jak długo przechowuje dane.
To ważne pytania.
Ale bezpieczeństwo systemu AI w kancelarii zaczyna się wcześniej.
Zaczyna się od architektury, która określa:
- gdzie znajdują się dokumenty,
- jak są chronione,
- jak system wyszukuje informacje,
- kto może uruchomić dane działanie,
- jaki zakres danych jest przeszukiwany,
- jaki fragment staje się kontekstem,
- kiedy informacja może zostać przekazana dalej.
Jeżeli do modelu od początku wysłano całe archiwum, późniejsze ograniczenia mają niewielkie znaczenie.
Dlatego w Bezpiecznej Kancelarii najpierw ograniczamy kontekst.
Dopiero potem pytamy model.
AI ma pomagać prawnikowi bez przejmowania jego odpowiedzialności
Nawet najlepiej zabezpieczony agent pozostaje narzędziem.
Może pomóc szybko odnaleźć informacje, zestawić fakty, podsumować materiały i przygotować roboczą odpowiedź.
Nie powinien jednak zastępować profesjonalnej oceny prawnika.
Odpowiedź AI może wymagać:
- sprawdzenia źródła,
- przeczytania pełnego dokumentu,
- oceny kontekstu procesowego,
- weryfikacji stanu prawnego,
- decyzji osoby prowadzącej sprawę.
Dlatego w Bezpiecznej Kancelarii sztuczna inteligencja ma przede wszystkim skracać drogę od pytania do właściwych informacji.
Nie przejmuje odpowiedzialności za decyzję.
Prawnik powinien wiedzieć, co dzieje się z jego danymi
Przy wyborze systemu AI dla kancelarii warto zapytać nie tylko, czy posiada „funkcje sztucznej inteligencji”.
Znacznie ważniejsze są pytania:
- Czy agent otrzymuje dostęp do całych akt?
- Czy system ogranicza kontekst przed wysłaniem zapytania?
- Czy dane z różnych klientów mogą zostać przypadkowo połączone?
- Czy wyszukiwanie odbywa się przed wywołaniem LLM-a?
- Czy można kontrolować zakres informacji używany do odpowiedzi?
- Jak chronione są dokumenty i nagrania przed wykorzystaniem przez AI?
- Czy model jest narzędziem systemu, czy system oddaje mu kontrolę nad dostępem do danych?
To właśnie odpowiedzi na takie pytania decydują, czy AI zostało rzeczywiście zaprojektowane dla kancelarii, czy tylko dodane do istniejącego programu.
Agent powinien wiedzieć tylko tyle, ile musi
Sztuczna inteligencja może być niezwykle użyteczna w pracy prawnika.
Nie wymaga to jednak przekazania jej całej wiedzy kancelarii.
W BezpiecznaKancelaria.pl dokumenty, pisma i nagrania pozostają w zabezpieczonym środowisku. Ich treść może być przygotowana do wyszukiwania semantycznego. Gdy użytkownik zadaje pytanie, system najpierw odnajduje najbardziej istotne informacje, przygotowuje ograniczony kontekst i dopiero później przekazuje go do modelu językowego.
Użytkownik widzi prostą rozmowę z agentem.
Pod spodem działa jednak znacznie bardziej złożony mechanizm, którego zadaniem jest ograniczenie ilości informacji opuszczających właściwy kontekst sprawy.
Bo w kancelarii pytanie nie powinno brzmieć:
„Czy AI może przeczytać wszystkie moje dokumenty?”
Powinno brzmieć:
„Które informacje AI naprawdę musi zobaczyć, aby wykonać to jedno zadanie?”
W Bezpiecznej Kancelarii właśnie od tego zaczynamy.
Opracowanie: BezpiecznaKancelaria.pl
BezpiecznaKancelaria.pl rozwija system dla kancelarii prawnych, w którym sztuczna inteligencja działa jako kontrolowana część większego środowiska informatycznego. Dokumenty, nagrania i inne informacje są chronione, a kontekst przekazywany do modeli AI jest przygotowywany przez system odpowiednio do wykonywanego zadania.