Jak ograniczamy zakres danych przekazywanych do AI?
Agent AI nie otrzymuje swobodnego dostępu do całej kancelarii ani wszystkich akt.
Dokumenty, pisma i nagrania są przechowywane w zabezpieczonym środowisku i przygotowywane do wyszukiwania semantycznego.
Przed wywołaniem LLM-a system wyszukuje w bazie wektorowej tylko fragmenty związane z konkretnym pytaniem.
Do modelu trafia ograniczony kontekst potrzebny do wykonania zadania, a nie całe archiwum kancelarii.
AI wspiera prawnika, ale nie przejmuje odpowiedzialności za ocenę prawną i decyzje.
Sztuczna inteligencja może znacznie przyspieszyć pracę prawnika. Może pomóc odnaleźć informacje w dokumentach, podsumować ustalenia ze spotkania, przygotować projekt pisma, wskazać istotne fragmenty materiałów albo odpowiedzieć na pytanie dotyczące prowadzonej sprawy.
W kancelarii prawnej pojawia się jednak pytanie ważniejsze niż sama wygoda: ile informacji powinien otrzymać model AI, aby wykonać konkretne zadanie? Nasza odpowiedź jest prosta: jak najmniej.
Agent nie powinien otrzymywać całych akt tylko dlatego, że prawnik zadał jedno pytanie. Najpierw system ustala, jakie informacje są potrzebne do odpowiedzi, a dopiero później wybrane fragmenty mogą zostać przekazane do modelu językowego.
Problemem nie jest samo AI. Problemem jest niekontrolowany dostęp do danych
Dyskusja o bezpieczeństwie sztucznej inteligencji często sprowadza się do pytania, czy można wysyłać dokumenty kancelarii do AI. To pytanie jest zbyt ogólne. Istotniejsze jest: jakie dokumenty, jakie fragmenty, w jakim celu i w jakim zakresie mają zostać przekazane?
Jeżeli prawnik pyta o ustalenia klienta dotyczące terminu płatności, do odpowiedzi mogą być potrzebne dwa akapity z umowy, fragment notatki ze spotkania i część transkrypcji rozmowy. Nie ma powodu, aby wraz z nimi przekazywać całą historię klienta, wszystkie dokumenty sprawy, materiały z innych postępowań, nagrania niezwiązane z pytaniem ani informacje dotyczące innych klientów.
Model powinien otrzymać tylko to, czego rzeczywiście potrzebuje. To właśnie nazywamy kontrolą kontekstu.
Najpierw dane pozostają w bezpiecznym środowisku kancelarii
Pisma, dokumenty, nagrania oraz inne materiały tworzone i przechowywane w Bezpiecznej Kancelarii znajdują się w odizolowanym środowisku i są szyfrowane.
- dokumenty przesyłane do systemu
- pisma tworzone przez kancelarię
- materiały związane ze sprawami
- nagrania
- transkrypcje
- treści wykorzystywane później przez funkcje AI
Samo przechowywanie danych to jednak dopiero pierwszy element architektury. Jeżeli system ma później pomóc prawnikowi znaleźć odpowiedź w setkach dokumentów, musi potrafić rozpoznać, które fragmenty są związane z zadanym pytaniem.
Dokumenty są przygotowywane do wyszukiwania semantycznego
Treści znajdujące się w kancelarii są wektoryzowane. Wyszukiwanie semantyczne pozwala odnajdywać informacje związane ze znaczeniem pytania, nawet jeśli w dokumencie użyto innego sformułowania.
Informacje potrzebne do takiego wyszukiwania trafiają do bazy wektorowej. Jej zadaniem nie jest zastąpienie dokumentów, lecz pomoc systemowi w znalezieniu tych części materiałów, które mogą być potrzebne do wykonania konkretnego zadania.
Agent nie przeszukuje dowolnie całej kancelarii
Kiedy użytkownik zadaje pytanie agentowi, nie przekazujemy modelowi całego zbioru danych i nie prosimy go, aby sam wybrał potrzebne informacje. Najpierw działa system Bezpiecznej Kancelarii.
- prawnik zadaje pytanie
- system analizuje, jakich informacji może wymagać odpowiedź
- wykonywane jest wyszukiwanie w odpowiednim zbiorze danych
- baza wektorowa wskazuje najbardziej trafne fragmenty
- system przygotowuje ograniczony kontekst
- dopiero ten kontekst zostaje przekazany do modelu językowego
- model przygotowuje odpowiedź dla użytkownika
Model nie otrzymuje kluczy do całego archiwum. System przynosi mu tylko te kartki, które mogą być potrzebne do wykonania konkretnego zadania.
Użytkownik widzi inteligentnego agenta. Pod spodem działa kontrolowany system
Prawnik może zapytać, jak klient uzasadniał odmowę zapłaty, a po chwili otrzymać odpowiedź uwzględniającą dokumenty, notatkę albo rozmowę znajdującą się w systemie. Może to tworzyć wrażenie, że agent zna całą sprawę, wszystkie dokumenty i historię kancelarii.
W praktyce agent może otrzymać wyłącznie kilka fragmentów dobranych wcześniej przez system. Bezpieczeństwo nie zależy więc wyłącznie od tego, jaki model AI został użyty. Ogromne znaczenie ma to, co wydarzyło się zanim model otrzymał pytanie.
To my sterujemy agentem, a nie agent nami
Model otrzymuje szeroki zakres danych i sam decyduje, które informacje wykorzystać do odpowiedzi.
System najpierw ogranicza dane, wybiera potrzebne fragmenty i dopiero później przygotowuje kontekst dla modelu.
Nie projektujemy rozwiązania, w którym model otrzymuje pełny obraz kancelarii i dopiero później zastanawia się, co z niego wykorzystać. Najpierw ograniczamy dane. Dopiero później korzystamy z możliwości modelu.
Tajemnica zawodowa a zasada minimalizacji informacji
Prawnik od dawna zna zasadę, że poufnej informacji nie należy ujawniać osobie, która nie potrzebuje jej do wykonania swojego zadania. Podobny sposób myślenia można zastosować do sztucznej inteligencji.
- jeżeli do odpowiedzi wystarczy fragment jednego dokumentu, nie ma potrzeby udostępniania całej teczki
- jeżeli pytanie dotyczy jednej sprawy, w kontekście nie powinny znaleźć się materiały dotyczące innego klienta
- jeżeli wystarczy krótkie ustalenie z transkrypcji, nie trzeba przekazywać całego nagrania
Nie oznacza to, że żadna informacja nigdy nie może trafić do modelu językowego. Oznacza, że do modelu powinny trafiać wyłącznie informacje potrzebne do wykonania konkretnego zadania.
AI nie powinno dostać więcej informacji na zapas
W tradycyjnych systemach informatycznych często stosuje się zasadę najmniejszych uprawnień. Podobną zasadę stosujemy wobec AI. Model nie powinien otrzymywać dodatkowych danych tylko dlatego, że być może kiedyś okażą się przydatne.
Pytanie przed wywołaniem modelu nie powinno brzmieć: co jeszcze możemy mu wysłać? Powinno brzmieć: jak mało danych wystarczy, aby poprawnie wykonać to zadanie?
Przykład: analiza rozmowy z klientem
Jeżeli kancelaria posiada nagranie godzinnej rozmowy z klientem, a prawnik pyta o planowany termin sprzedaży nieruchomości, nie ma potrzeby wysyłania do modelu całego nagrania. System może odnaleźć fragmenty rozmowy dotyczące sprzedaży i terminu, a następnie przekazać modelowi tylko wybrany kontekst.
Przykład: pytanie dotyczące pisma
Prawnik może zapytać, jakie argumenty dotyczące przedawnienia pojawiały się dotychczas w danej sprawie. System może odnaleźć najbardziej powiązane fragmenty pism, notatek lub innych materiałów związanych ze wskazaną sprawą. Dopiero z tych fragmentów przygotowywany jest kontekst dla modelu.
Bezpieczeństwo AI zaczyna się przed AI
Łatwo skupić dyskusję na samym modelu językowym: kto go stworzył, gdzie działa, jaki ma regulamin i jak długo przechowuje dane. To ważne pytania, ale bezpieczeństwo systemu AI w kancelarii zaczyna się wcześniej.
- gdzie znajdują się dokumenty
- jak są chronione
- jak system wyszukuje informacje
- kto może uruchomić dane działanie
- jaki zakres danych jest przeszukiwany
- jaki fragment staje się kontekstem
- kiedy informacja może zostać przekazana dalej
Jeżeli do modelu od początku wysłano całe archiwum, późniejsze ograniczenia mają niewielkie znaczenie. Dlatego w Bezpiecznej Kancelarii najpierw ograniczamy kontekst. Dopiero potem pytamy model.
AI ma pomagać prawnikowi bez przejmowania jego odpowiedzialności
Nawet najlepiej zabezpieczony agent pozostaje narzędziem. Może pomóc szybko odnaleźć informacje, zestawić fakty, podsumować materiały i przygotować roboczą odpowiedź. Nie powinien jednak zastępować profesjonalnej oceny prawnika.
- sprawdzenie źródła
- przeczytanie pełnego dokumentu
- ocena kontekstu procesowego
- weryfikacja stanu prawnego
- decyzja osoby prowadzącej sprawę
Prawnik powinien wiedzieć, co dzieje się z jego danymi
Przy wyborze systemu AI dla kancelarii warto pytać nie tylko o obecność funkcji sztucznej inteligencji, ale przede wszystkim o sposób ograniczania dostępu do danych i przygotowania kontekstu.
- Czy agent otrzymuje dostęp do całych akt?
- Czy system ogranicza kontekst przed wysłaniem zapytania?
- Czy dane z różnych klientów mogą zostać przypadkowo połączone?
- Czy wyszukiwanie odbywa się przed wywołaniem LLM-a?
- Czy można kontrolować zakres informacji używany do odpowiedzi?
- Jak chronione są dokumenty i nagrania przed wykorzystaniem przez AI?
- Czy model jest narzędziem systemu, czy system oddaje mu kontrolę nad dostępem do danych?
Agent powinien wiedzieć tylko tyle, ile musi
Sztuczna inteligencja może być niezwykle użyteczna w pracy prawnika. Nie wymaga to jednak przekazania jej całej wiedzy kancelarii.
W BezpiecznaKancelaria.pl dokumenty, pisma i nagrania pozostają w zabezpieczonym środowisku. Ich treść może być przygotowana do wyszukiwania semantycznego. Gdy użytkownik zadaje pytanie, system najpierw odnajduje najbardziej istotne informacje, przygotowuje ograniczony kontekst i dopiero później przekazuje go do modelu językowego.
W kancelarii pytanie nie powinno brzmieć: czy AI może przeczytać wszystkie moje dokumenty? Powinno brzmieć: które informacje AI naprawdę musi zobaczyć, aby wykonać to jedno zadanie?