Jak bezpiecznie korzystać z AI w kancelarii?
Nie należy przekazywać przypadkowemu agentowi AI swobodnego dostępu do wszystkich akt kancelarii.
Agent powinien otrzymywać tylko informacje potrzebne do wykonania konkretnego zadania.
W Bezpiecznej Kancelarii to system przygotowuje właściwy kontekst, zanim cokolwiek zostanie przekazane do modelu.
To system wyznacza granice dostępu i steruje agentem, a nie agent systemem.
Sztuczna inteligencja może zmienić sposób pracy kancelarii. Potrafi w kilka chwil przeanalizować dokumenty, odnaleźć istotne informacje, porównać pisma, uporządkować fakty czy pomóc przygotować argumentację.
To ogromna przewaga. Ale wraz z nią pojawia się pytanie znacznie ważniejsze niż to, co potrafi AI: czy agentowi AI należy dać dostęp do akt kancelarii?
Nie należy przekazywać przypadkowemu agentowi swobodnego dostępu do wszystkich dokumentów kancelarii.
Nie powinno się podłączać zewnętrznego agenta do całego dysku kancelarii tylko po to, aby wygodniej zadawać mu pytania. Nie powinno się również wysyłać mu setek dokumentów na wszelki wypadek, licząc na to, że sam wybierze te, które są potrzebne.
AI powinna otrzymywać tylko te informacje, które są niezbędne do wykonania konkretnego zadania. I właśnie na tej zasadzie budujemy Bezpieczną Kancelarię.
Problemem jest brak kontroli nad tym, co AI otrzymuje
Wyobraź sobie, że chcesz zapytać asystenta AI o najważniejsze ustalenia w konkretnej sprawie i argumenty strony przeciwnej wymagające odpowiedzi. Najprostsze technicznie rozwiązanie byłoby jednocześnie jednym z najmniej rozsądnych: dać agentowi dostęp do całego repozytorium kancelarii i pozwolić mu samodzielnie szukać informacji.
W takim modelu agent mógłby otrzymać dostęp do akt tej sprawy, innych spraw tego samego klienta, dokumentów pozostałych klientów, korespondencji, notatek czy materiałów, które nie mają żadnego związku z zadanym pytaniem.
Agent powinien wiedzieć tylko tyle, ile jest mu potrzebne do wykonania konkretnego zadania.
Agent nie powinien sam decydować, które akta chce przeczytać
W powszechnym wyobrażeniu inteligentny agent AI działa trochę jak niezwykle sprawny pracownik kancelarii. Dostaje polecenie, otwiera odpowiednie akta, przegląda dokumenty, szuka informacji i samodzielnie decyduje, co jest potrzebne.
Taki sposób działania może wydawać się wygodny, ale w przypadku danych kancelarii rodzi zasadniczy problem. Im więcej swobody otrzymuje agent, tym trudniej kontrolować, do jakich informacji rzeczywiście uzyska dostęp.
Dlatego w Bezpiecznej Kancelarii odwracamy tę logikę. To nie agent powinien otrzymać klucz do kancelarii i samodzielnie wybierać dane. To system Bezpiecznej Kancelarii przygotowuje mu właściwy kontekst.
Zanim cokolwiek zostanie wykorzystane do wygenerowania odpowiedzi, system wie, czego dotyczy pytanie, z jakimi materiałami pracuje użytkownik i jakie informacje są potrzebne do wykonania konkretnego zadania. Dopiero odpowiednio przygotowany kontekst może zostać przekazany do modelu.
Użytkownik może mieć wrażenie, że agent wie wszystko
Dobrze zaprojektowany system AI może sprawiać wrażenie, że agent zna całą kancelarię. Możesz zapytać o sprawę, dokument, klienta czy wcześniejsze informacje i szybko otrzymać odpowiedź uwzględniającą właściwy kontekst.
Z punktu widzenia użytkownika wygląda to naturalnie: AI wie, o czym mówię. Ale to nie powinno oznaczać, że model rzeczywiście przez cały czas ma dostęp do wszystkich danych.
W Bezpiecznej Kancelarii agent ma sprawiać wrażenie dobrze poinformowanego dlatego, że system potrafi przygotować dla niego właściwe informacje w odpowiednim momencie, a nie dlatego, że przekazaliśmy mu nieograniczony dostęp do całego archiwum.
Inteligencja rozwiązania nie znajduje się wyłącznie w modelu AI
Łatwo ulec wrażeniu, że cała magia systemu AI pochodzi z samego modelu językowego. W rzeczywistości w profesjonalnym systemie to tylko jeden z elementów.
Ogromne znaczenie ma wszystko to, co dzieje się przed zadaniem pytania modelowi. System musi określić, jakie informacje są związane z poleceniem użytkownika, jaki zakres danych powinien zostać wykorzystany i jaki kontekst będzie wystarczający do przygotowania dobrej odpowiedzi.
Dopiero wtedy można wykorzystać możliwości modelu językowego. Bezpieczna integracja AI z kancelarią wymaga więc znacznie więcej niż podłączenia popularnego agenta do dysku z aktami. Potrzebna jest przemyślana warstwa systemu IT pomiędzy dokumentami kancelarii a modelem AI.
To my sterujemy agentem, a nie agent nami
Ta zasada najlepiej opisuje nasze podejście do AI w Bezpiecznej Kancelarii. Agent jest bardzo potężnym narzędziem, ale pozostaje narzędziem.
Nie powinien samodzielnie decydować, że skoro analizuje jedną sprawę, to przy okazji zajrzy do innych. Nie powinien otrzymywać całego archiwum tylko dlatego, że być może znajdzie w nim coś przydatnego. Nie powinien dostawać większej ilości informacji, niż wymaga konkretne polecenie.
Otrzymuje szeroki dostęp do danych i sam szuka informacji, które uzna za potrzebne.
System przygotowuje właściwy kontekst i przekazuje agentowi tylko informacje potrzebne do konkretnego zadania.
To Bezpieczna Kancelaria steruje tym, jaki kontekst otrzyma agent. Model ma wykonać określone zadanie na przygotowanym dla niego materiale, a nie samodzielnie wyznaczać granice dostępu.
Nie wysyłamy tony dokumentów i nie liczymy, że AI sobie poradzi
Najłatwiejszym sposobem zbudowania pozornie inteligentnego asystenta byłoby przesłanie mu wszystkiego: całych akt, całej historii, wszystkich załączników i wszystkich notatek, a następnie polecenie mu, aby sam wybrał potrzebne informacje.
W kancelarii łatwość implementacji nie może być ważniejsza od kontroli nad informacją. Dlatego naszym celem nie jest przekazywanie modelowi jak największej ilości danych.
Dobry system powinien umieć ustalić, jak mało danych wystarczy, aby agent mógł dobrze wykonać swoje zadanie. Jeżeli pytanie dotyczy jednego dokumentu, nie ma powodu przekazywać całych akt klienta. Jeżeli potrzebne są informacje z określonej sprawy, agent nie musi poznawać dokumentów innych klientów.
Szyfrowanie dokumentów to ważny element, ale nie jedyny
Dokumenty w Bezpiecznej Kancelarii są chronione poprzez szyfrowanie. Jednak bezpieczeństwo systemu AI nie kończy się na odpowiedzi na pytanie, czy pliki są zaszyfrowane.
Równie istotne jest to, co dzieje się w chwili, gdy AI rzeczywiście potrzebuje informacji z dokumentu. Nie chodzi o to, aby otworzyć agentowi dostęp do całego repozytorium. Chodzi o to, aby kontrolowany system przygotował informacje potrzebne do konkretnego zadania, a następnie przekazał modelowi właściwy kontekst.
Przypadkowy agent AI i AI wbudowana w system kancelarii to nie to samo
Z jednej strony mamy ogólnodostępne narzędzia AI, do których użytkownik może wkleić tekst, przesłać dokument albo podłączyć zewnętrzne źródło danych. Z drugiej strony można zbudować system, w którym korzystanie z AI jest częścią kontrolowanego procesu.
W Bezpiecznej Kancelarii nie chodzi o to, aby dać prawnikowi agenta i pozostawić mu decyzję, jak szeroko otworzyć przed nim swoje akta. Użytkownik ma móc pracować z systemem i zadawać pytania naturalnym językiem, podczas gdy mechanizmy znajdujące się pod spodem przygotowują właściwe informacje dla modelu.
Dla prawnika różnica może być prawie niewidoczna. Dla bezpieczeństwa jego dokumentów jest fundamentalna.
Najlepszy agent nie musi mieć największych uprawnień
W świecie AI łatwo pomylić możliwości z zakresem dostępu. Można pomyśleć, że im więcej agent wie, tym lepiej będzie pracował. Nie zawsze.
Agent powinien otrzymać najlepszy możliwy kontekst, a nie największą możliwą ilość danych.
Właściwe przygotowanie kontekstu pozwala połączyć wygodę korzystania z bardzo zaawansowanej AI oraz kontrolę nad dokumentami kancelarii. Użytkownik może korzystać z możliwości nowoczesnego modelu, nie przekazując mu jednocześnie nieograniczonego dostępu do całego swojego cyfrowego archiwum.
Bezpieczna Kancelaria ma być mądrzejsza od samego połączenia z AI
Najważniejsza przewaga nie polega na samym fakcie dodania do programu asystenta AI. Znacznie trudniej zbudować system, który wie, kiedy, dlaczego i w jakim zakresie powinien z możliwości modelu skorzystać.
W Bezpiecznej Kancelarii agent AI ma być elementem systemu, a nie systemem nadrzędnym wobec danych użytkownika. Dokumenty nie mają być bezrefleksyjnie przekazywane do modelu. System ma przygotować odpowiedni kontekst i dopiero wtedy wykorzystać AI do wykonania zadania.
Agent nie wie wszystkiego. Dostaje to, co w danym momencie powinien wiedzieć.
Czy więc należy powierzać agentowi AI akta kancelarii?
Nie należy powierzać całych akt przypadkowemu agentowi i dawać mu nieograniczonego dostępu do dokumentów kancelarii. Nie oznacza to jednak, że kancelaria powinna zrezygnować z możliwości sztucznej inteligencji.
AI może stać się jednym z najpotężniejszych narzędzi wspomagających pracę prawnika, pod warunkiem że pomiędzy dokumentami a modelem znajduje się system, który kontroluje przepływ informacji.
- Nie przekazujemy agentowi wszystkiego tylko dlatego, że byłoby to wygodne.
- Przygotowujemy dla niego informacje potrzebne do konkretnego zadania.
- Nie pozwalamy, aby agent sam określał granice swojego dostępu.
- Bezpieczeństwo budujemy poprzez kontrolę tego, co AI może otrzymać.
Najważniejsze jest to, kto decyduje, co agent wie. W Bezpiecznej Kancelarii decyduje system zaprojektowany do ochrony danych kancelarii, nie agent AI.