AI powinna otrzymywać tylko informacje niezbędne do wykonania konkretnego zadania.
System przygotowuje informacje potrzebne do odpowiedzi, zanim trafią do modelu.
Szyfrowanie dokumentów jest jednym z elementów ochrony.
Sztuczna inteligencja może zmienić sposób pracy kancelarii. Potrafi w kilka chwil przeanalizować dokumenty, odnaleźć istotne informacje, porównać pisma, uporządkować fakty czy pomóc przygotować argumentację.
To ogromna przewaga.
Ale wraz z nią pojawia się pytanie znacznie ważniejsze niż to, co potrafi AI:
Czy agentowi AI należy dać dostęp do akt kancelarii?
Odpowiedź brzmi: nie, jeśli oznacza to przekazanie przypadkowemu agentowi swobodnego dostępu do wszystkich dokumentów.
Nie powinno się podłączać zewnętrznego agenta do całego dysku kancelarii tylko po to, aby wygodniej zadawać mu pytania. Nie powinno się również wysyłać mu setek dokumentów „na wszelki wypadek”, licząc na to, że sam wybierze te, które są potrzebne.
AI powinna otrzymywać tylko te informacje, które są niezbędne do wykonania konkretnego zadania.
I właśnie na tej zasadzie budujemy Bezpieczną Kancelarię.
Problemem nie jest samo AI. Problemem jest brak kontroli nad tym, co AI otrzymuje
Wyobraź sobie, że chcesz zapytać asystenta AI:
„Jakie były najważniejsze ustalenia w tej sprawie i jakie argumenty strony przeciwnej wymagają odpowiedzi?”
Najprostsze technicznie rozwiązanie byłoby jednocześnie jednym z najmniej rozsądnych: dać agentowi dostęp do całego repozytorium kancelarii i pozwolić mu samodzielnie szukać informacji.
W takim modelu agent mógłby otrzymać dostęp do akt tej sprawy, innych spraw tego samego klienta, dokumentów pozostałych klientów, korespondencji, notatek czy materiałów, które nie mają żadnego związku z zadanym pytaniem.
Tylko po co?
Jeżeli do przygotowania odpowiedzi potrzebnych jest kilka konkretnych dokumentów albo fragmentów dokumentów, agent nie musi wiedzieć niczego więcej.
To jedna z najważniejszych zasad bezpiecznego wykorzystania AI w kancelarii:
Agent powinien wiedzieć tylko tyle, ile jest mu potrzebne do wykonania konkretnego zadania.
Agent nie powinien sam decydować, które akta chce przeczytać
W powszechnym wyobrażeniu inteligentny agent AI działa trochę jak niezwykle sprawny pracownik kancelarii.
Dostaje polecenie, otwiera odpowiednie akta, przegląda dokumenty, szuka informacji i samodzielnie decyduje, co jest potrzebne.
Taki sposób działania może wydawać się wygodny, ale w przypadku danych kancelarii rodzi zasadniczy problem.
Im więcej swobody otrzymuje agent, tym trudniej kontrolować, do jakich informacji rzeczywiście uzyska dostęp.
Dlatego w Bezpiecznej Kancelarii odwracamy tę logikę.
To nie agent powinien otrzymać klucz do kancelarii i samodzielnie wybierać dane.
To system Bezpiecznej Kancelarii przygotowuje mu właściwy kontekst.
Zanim cokolwiek zostanie wykorzystane do wygenerowania odpowiedzi, system wie, czego dotyczy pytanie, z jakimi materiałami pracuje użytkownik i jakie informacje są potrzebne do wykonania konkretnego zadania.
Dopiero odpowiednio przygotowany kontekst może zostać przekazany do modelu.
Użytkownik może mieć wrażenie, że agent wie wszystko
I właśnie tutaj pojawia się ciekawy paradoks.
Dobrze zaprojektowany system AI może sprawiać wrażenie, że agent zna całą kancelarię.
Możesz zapytać o sprawę, dokument, klienta czy wcześniejsze informacje i szybko otrzymać odpowiedź uwzględniającą właściwy kontekst.
Z punktu widzenia użytkownika wygląda to naturalnie:
„AI wie, o czym mówię.”
Ale to nie powinno oznaczać, że model rzeczywiście przez cały czas ma dostęp do wszystkich Twoich danych.
W Bezpiecznej Kancelarii chcemy osiągnąć dokładnie odwrotny efekt.
Agent ma sprawiać wrażenie dobrze poinformowanego dlatego, że system potrafi przygotować dla niego właściwe informacje w odpowiednim momencie, a nie dlatego, że przekazaliśmy mu nieograniczony dostęp do całego archiwum.
To ogromna różnica.
Inteligencja całego rozwiązania nie znajduje się wyłącznie w modelu AI
Łatwo ulec wrażeniu, że cała „magia” systemu AI pochodzi z samego modelu językowego.
W rzeczywistości w profesjonalnym systemie to tylko jeden z elementów.
Ogromne znaczenie ma wszystko to, co dzieje się przed zadaniem pytania modelowi.
System musi określić, jakie informacje są związane z poleceniem użytkownika, jaki zakres danych powinien zostać wykorzystany i jaki kontekst będzie wystarczający do przygotowania dobrej odpowiedzi.
Dopiero wtedy można wykorzystać możliwości modelu językowego.
To właśnie dlatego bezpieczna integracja AI z kancelarią wymaga znacznie więcej niż podłączenia popularnego agenta do Google Drive albo wskazania mu katalogu z aktami.
Potrzebna jest przemyślana warstwa systemu IT pomiędzy dokumentami kancelarii a modelem AI.
Warstwa, która kontroluje przepływ informacji.
To my sterujemy agentem, a nie agent nami
Ta zasada najlepiej opisuje nasze podejście do AI w Bezpiecznej Kancelarii.
Agent jest bardzo potężnym narzędziem.
Ale pozostaje narzędziem.
Nie powinien samodzielnie decydować, że skoro analizuje jedną sprawę, to przy okazji zajrzy do pięciu innych. Nie powinien otrzymywać całego archiwum tylko dlatego, że być może znajdzie w nim coś przydatnego. Nie powinien dostawać większej ilości informacji, niż wymaga konkretne polecenie.
To Bezpieczna Kancelaria steruje tym, jaki kontekst otrzyma agent.
Model ma wykonać określone zadanie na przygotowanym dla niego materiale.
Nie odwrotnie.
To fundamentalna różnica pomiędzy świadomym wykorzystaniem AI a bezrefleksyjnym „wpuszczeniem agenta” do systemu kancelarii.
Nie wysyłamy tony dokumentów i nie liczymy, że AI sobie poradzi
Najłatwiejszym sposobem zbudowania pozornie inteligentnego asystenta byłoby przesłanie mu wszystkiego.
Całych akt.
Całej historii.
Wszystkich załączników.
Wszystkich notatek.
I dodanie polecenia:
„Przeczytaj to i odpowiedz.”
Tylko że w kancelarii łatwość implementacji nie może być ważniejsza od kontroli nad informacją.
Dlatego naszym celem nie jest przekazywanie modelowi jak największej ilości danych.
Wręcz przeciwnie.
Dobry system powinien umieć ustalić, jak mało danych wystarczy, aby agent mógł dobrze wykonać swoje zadanie.
Jeżeli pytanie dotyczy jednego dokumentu, nie ma powodu przekazywać całych akt klienta.
Jeżeli potrzebne są informacje z określonej sprawy, agent nie musi poznawać dokumentów innych klientów.
Jeżeli do odpowiedzi wystarczą konkretne fragmenty materiału, nie ma sensu zwiększać zakresu danych tylko dlatego, że technicznie byłoby to możliwe.
To nie ogranicza możliwości AI.
To świadome zarządzanie jej możliwościami.
Szyfrowanie dokumentów to ważny element, ale nie jedyny
Dokumenty w Bezpiecznej Kancelarii są chronione poprzez szyfrowanie.
Jednak bezpieczeństwo systemu AI nie kończy się na odpowiedzi na pytanie: „Czy pliki są zaszyfrowane?”
Równie istotne jest kolejne:
„Co dzieje się w chwili, gdy AI rzeczywiście potrzebuje informacji z dokumentu?”
Bo właśnie wtedy rozpoczyna się najważniejsza część całego procesu.
Nie chodzi o to, aby otworzyć agentowi dostęp do całego repozytorium.
Chodzi o to, aby kontrolowany system przygotował informacje potrzebne do konkretnego zadania, a następnie przekazał modelowi właściwy kontekst.
Dlatego bezpieczeństwo AI w kancelarii należy rozpatrywać jako całość: ochronę dokumentów, sposób dostępu do nich oraz kontrolę informacji przekazywanych do modelu.
Przypadkowy agent AI i AI wbudowana w system kancelarii to nie to samo
To rozróżnienie będzie coraz ważniejsze.
Z jednej strony mamy ogólnodostępne narzędzia AI. Użytkownik może wkleić do nich tekst, przesłać dokument albo podłączyć zewnętrzne źródło danych.
Z drugiej strony można zbudować system, w którym korzystanie z AI jest częścią kontrolowanego procesu.
To dwa zupełnie różne podejścia.
W Bezpiecznej Kancelarii nie chodzi o to, aby powiedzieć prawnikowi:
„Masz tutaj agenta. Daj mu swoje akta i zobacz, co zrobi.”
Chcemy, aby użytkownik mógł po prostu pracować z systemem i zadawać pytania naturalnym językiem, podczas gdy mechanizmy znajdujące się pod spodem dbają o przygotowanie właściwych informacji dla modelu.
Dla prawnika różnica może być prawie niewidoczna.
Dla bezpieczeństwa jego dokumentów jest fundamentalna.
Najlepszy agent nie musi mieć największych uprawnień
W świecie AI łatwo pomylić możliwości z zakresem dostępu.
Można pomyśleć:
„Im więcej agent wie, tym lepiej będzie pracował.”
Nie zawsze.
Znacznie lepszą zasadą jest:
Agent powinien otrzymać najlepszy możliwy kontekst, a nie największą możliwą ilość danych.
To właśnie właściwe przygotowanie kontekstu pozwala połączyć dwie rzeczy, które pozornie mogą się wykluczać: wygodę korzystania z bardzo zaawansowanej AI oraz kontrolę nad dokumentami kancelarii.
Użytkownik może korzystać z możliwości nowoczesnego modelu, nie przekazując mu jednocześnie nieograniczonego dostępu do całego swojego cyfrowego archiwum.
Bezpieczna Kancelaria ma być mądrzejsza od samego połączenia z AI
Najważniejsza przewaga nie polega więc na samym fakcie dodania do programu „asystenta AI”.
Dzisiaj model językowy można podłączyć do niemal każdej aplikacji.
Znacznie trudniej zbudować system, który wie, kiedy, dlaczego i w jakim zakresie powinien z możliwości tego modelu skorzystać.
To wymaga przemyślanej architektury całego rozwiązania.
W Bezpiecznej Kancelarii agent AI ma być elementem systemu, a nie systemem nadrzędnym wobec danych użytkownika.
Dokumenty nie mają być bezrefleksyjnie przekazywane do modelu.
System ma przygotować odpowiedni kontekst i dopiero wtedy wykorzystać AI do wykonania zadania.
Dzięki temu użytkownik może mieć wrażenie, że rozmawia z asystentem, który doskonale orientuje się w jego pracy.
Pod spodem sytuacja wygląda jednak inaczej.
Agent nie wie wszystkiego. Dostaje to, co w danym momencie powinien wiedzieć.
I właśnie tak powinno wyglądać odpowiedzialne wykorzystanie AI w kancelarii.
Czy więc należy powierzać agentowi AI akta kancelarii?
Nie należy powierzać całych akt przypadkowemu agentowi i dawać mu nieograniczonego dostępu do dokumentów kancelarii.
Nie oznacza to jednak, że kancelaria powinna zrezygnować z możliwości sztucznej inteligencji.
Wręcz przeciwnie.
AI może stać się jednym z najpotężniejszych narzędzi wspomagających pracę prawnika, pod warunkiem że pomiędzy dokumentami a modelem znajduje się system, który kontroluje przepływ informacji.
W Bezpiecznej Kancelarii właśnie tak podchodzimy do tego problemu.
Nie przekazujemy agentowi wszystkiego dlatego, że byłoby to wygodne.
Przygotowujemy dla niego informacje potrzebne do konkretnego zadania.
Nie pozwalamy, aby agent sam określał granice swojego dostępu.
To system określa te granice.
Nie budujemy bezpieczeństwa na założeniu, że AI „będzie rozsądna”.
Budujemy je poprzez kontrolę tego, co AI może otrzymać.
Bo w profesjonalnym systemie najważniejsze nie jest to, jak dużo agent może wiedzieć.
Najważniejsze jest to, kto decyduje, co agent wie.
W Bezpiecznej Kancelarii odpowiedź jest prosta:
decyduje system zaprojektowany do ochrony danych kancelarii - nie agent AI.