Kto naprawdę kontroluje dane przekazane do AI?
Publiczny chat AI działa według zasad swojego dostawcy, a te zasady i mechanizmy bezpieczeństwa mogą się zmieniać.
W kancelarii opisy gwałtów, zabójstw, gróźb czy przemocy mogą być zwykłą treścią akt, dlatego nie powinny być automatycznie kopiowane do publicznego chatu.
Bezpieczna Kancelaria utrzymuje dane w izolowanym środowisku i kontroluje, jakie informacje są potrzebne zewnętrznemu modelowi do konkretnego zadania.
Prawnik nie powinien śledzić zmian w politykach i algorytmach każdego dostawcy AI - od tego powinien być system.
Sztuczna inteligencja jest niezwykle wygodna. Otwieramy ChatGPT, przeciągamy dokument do okna, wpisujemy pytanie i po kilkunastu sekundach otrzymujemy streszczenie, analizę albo projekt pisma. To właśnie ta prostota może być największym zagrożeniem, bo łatwo zapomnieć, że okno rozmowy z publicznym systemem AI nie jest zamkniętym pokojem w kancelarii.
24 sierpnia 2026 roku Niebezpiecznik opisał historię Darrena Shidy Zhou, który wykorzystywał ChatGPT podczas planowania porwania, gwałtu i zabójstwa swojej byłej partnerki. Według opisu sprawy rozmowa została oznaczona przez mechanizmy bezpieczeństwa OpenAI, a informacje zostały przekazane służbom.
ChatGPT to nie konfesjonał.
To, co wpisujesz do AI, nie znika po naciśnięciu Enter
Przyzwyczailiśmy się do traktowania chatu jak rozmowy. Piszemy pytanie, dostajemy odpowiedź i zamykamy okno. Technicznie treść musi jednak zostać przesłana do infrastruktury dostawcy i przetworzona zgodnie z zasadami jego usługi oraz stosowanymi przez niego mechanizmami bezpieczeństwa.
OpenAI informuje, że gdy system wykryje użytkowników planujących skrzywdzenie innych osób, rozmowy mogą trafić do specjalnego procesu oceny przez człowieka. Jeżeli zespół uzna, że istnieje bezpośrednie zagrożenie poważną krzywdą fizyczną, sprawa może zostać przekazana organom ścigania.
Nawet Temporary Chat nie oznacza, że rozmowa technicznie przestaje istnieć w chwili zamknięcia okna. OpenAI podaje obecnie, że ze względów bezpieczeństwa kopia takiej rozmowy może być przechowywana do 30 dni. Pliki mogą podlegać własnym zasadom przechowywania, niezależnym od samego czatu.
Prawnik powinien dokładnie wiedzieć, do jakiego środowiska wysyła informacje objęte tajemnicą zawodową.
Dla zwykłego użytkownika to sytuacja ekstremalna. Dla kancelarii - materiał sprawy
System bezpieczeństwa publicznego AI może spotkać się ze słowami: zabójstwo, gwałt, porwanie, broń, groźba, narkotyki, przemoc. Dla przeciętnego użytkownika mogą to być treści wyjątkowe. Dla adwokata prowadzącego sprawy karne, rodzinne czy dotyczące przemocy domowej mogą być zwykłym elementem akt.
- zeznania ofiary gwałtu
- protokół oględzin miejsca zabójstwa
- wiadomości sprawcy grożącego pokrzywdzonemu
- dokumentacja medyczna ofiary
- zdjęcia obrażeń i opinie biegłych
- wyjaśnienia oskarżonego
- korespondencja dotycząca przemocy wobec dziecka
To właśnie przy setkach czy tysiącach stron akt AI może dać prawnikowi największą przewagę. Problem nie brzmi więc, czy wolno wykorzystywać AI, lecz dokąd wysyłamy dokumenty i kto decyduje o tym, co rzeczywiście musi zobaczyć zewnętrzny model.
Wyłączenie trenowania to nie to samo co izolacja danych
Nie należy utożsamiać stwierdzenia, że dostawca nie wykorzystuje danych do trenowania modeli, ze stwierdzeniem, że dane nie opuszczają kontrolowanego przez kancelarię środowiska. To dwa różne zagadnienia.
Można korzystać z rozwiązania biznesowego, API i odpowiednich ustawień prywatności. Nadal pozostaje jednak fundamentalne pytanie: co dokładnie zostało wysłane do zewnętrznego systemu? Jeżeli prawnik przesłał 400-stronicowe akta tylko dlatego, że chciał zapytać o jeden termin procesowy, problem powstał jeszcze zanim model wygenerował odpowiedź.
My odwracamy tę relację
W Bezpiecznej Kancelarii nie chcemy, aby prawnik przed każdym pytaniem analizował ustawienia dostawcy, okresy przechowywania danych, tryby prywatności czy zakres dokumentów, które może przesłać. To nie powinno być zadaniem prawnika.
Dane kancelarii znajdują się w izolowanym środowisku. Prawnik zadaje pytanie wewnątrz Bezpiecznej Kancelarii, a system kontroluje, czy do wykonania zadania potrzebny jest zewnętrzny model, jaki model może zostać wykorzystany, jakie informacje są mu rzeczywiście potrzebne i jakie zapytanie zostanie do niego wysłane.
Nie oddajemy modelowi kancelarii. Dajemy modelowi tylko to, czego potrzebuje do wykonania konkretnego zadania.
To my składamy pytanie do AI
Prawnik może zapytać: Kiedy upływa termin na złożenie odpowiedzi? W publicznym sposobie pracy często oznacza to otwarcie chatu, przesłanie dokumentu lub całych akt i dopiero zadanie pytania.
W Bezpiecznej Kancelarii pytanie trafia najpierw do środowiska kancelarii. To system zna sprawę, odnajduje potrzebne informacje i przygotowuje zapytanie, które - jeżeli zewnętrzny model jest potrzebny - zostanie przekazane dalej. Zewnętrzny model nie musi otrzymać całej historii klienta tylko dlatego, że prawnik potrzebuje odpowiedzi na jedno konkretne pytanie.
Użytkownik sam wybiera materiały do przesłania i musi znać aktualne ustawienia oraz zasady dostawcy. Po wysłaniu danych ich przetwarzanie podlega również jego procedurom.
Prawnik pracuje w izolowanym środowisku, a system kontroluje, czy zewnętrzny model jest potrzebny, jakie informacje może otrzymać i jakie zapytanie zostanie do niego wysłane.
A co będzie za rok?
Zmieniają się modele, funkcje, mechanizmy pamięci, systemy bezpieczeństwa, zasady przechowywania danych i regulaminy usług. 19 sierpnia 2026 roku OpenAI ogłosiło Private Safety Processing dla części klientów korzystających z API i Zero Data Retention - mechanizm mający rozpoznawać wzorce ryzyka pomiędzy powiązanymi interakcjami przy zachowaniu założeń zerowej retencji dla uprawnionych klientów.
To dobry przykład tempa zmian. Nie wiemy, co zostanie zmienione za pół roku, jak będą działały modele w 2027 roku ani jakie nowe obowiązki zostaną nałożone na ich dostawców. Prawnik nie powinien być zmuszony tego śledzić.
Prawnik nie powinien studiować algorytmów OpenAI
Adwokat ma znać prawo, znać sprawę i reprezentować klienta. Nie powinien jednocześnie śledzić kolejnych wersji polityki retencji OpenAI, Anthropic, Google czy następnego dostawcy modelu. Nie powinien pamiętać, gdzie wyłącza się historię, jakie ustawienie dotyczy trenowania ani czy producent właśnie zmienił zasady bezpieczeństwa.
Od tego powinien być system.
Jeżeli jutro zmienimy dostawcę AI, prawnik nadal powinien zadawać pytanie w tym samym miejscu. Jeżeli za rok pojawi się lepszy model, powinniśmy móc go wykorzystać bez przenoszenia całej kancelarii do środowiska jego producenta. Jeżeli zmienią się zasady jednego dostawcy, powinniśmy móc ograniczyć przekazywane mu informacje albo przestać z niego korzystać.
Największym zagrożeniem może być zwykłe przeciągnij i upuść
Nie musi dojść do cyberataku, włamania ani kradzieży hasła. Może wystarczyć zwykła codzienna czynność: przeciągnięcie akt sprawy do okna publicznego chatu. Od tej chwili sposób przetwarzania informacji zależy również od architektury, polityk i procedur podmiotu, któremu je przekazaliśmy.
Materiały kancelarii mogą zawierać informacje o zdrowiu, majątku, rodzinie, seksualności, konfliktach, przestępstwach, strategii procesowej i tajemnicach przedsiębiorstwa. Czasami zawierają rzeczy, których klient nie powiedział nikomu poza swoim prawnikiem.
Pytanie nie powinno brzmieć: Czy ChatGPT jest bezpieczny? Prawidłowe brzmi: Czy powinniśmy przekazywać publicznemu chatbotowi całość informacji, które posiadamy o swoim kliencie?
Izolowane środowisko nie jest marketingowym dodatkiem
Można stworzyć system dla kancelarii i po prostu umieścić w nim okno prowadzące bezpośrednio do popularnego modelu AI. Byłoby szybciej, łatwiej i taniej. Nie byłaby to jednak Bezpieczna Kancelaria.
Dla nas sztuczna inteligencja nie zaczyna się od pytania, który model jest najlepszy. Zaczyna się od pytania, jak sprawić, żeby model dostał dokładnie tyle informacji, ile powinien dostać - i ani jednej więcej.
Oddzielamy wiedzę kancelarii od zewnętrznych modeli. Kancelaria zachowuje swoje dane, a system kontroluje przepływ informacji, wybiera zakres potrzebny do zadania i przygotowuje zapytanie kierowane do zewnętrznego modelu. Kiedy technologia się zmieni, możemy zmienić model bez zmiany podstawowej zasady.
Dane kancelarii pozostają po właściwej stronie granicy.
ChatGPT jest świetnym narzędziem. Ale nie jest kancelarią
Historia opisana przez Niebezpiecznik nie jest historią o złym ChatGPT. Pokazuje, że dostawca publicznego systemu AI ma własne mechanizmy bezpieczeństwa, procedury, regulaminy i obowiązki. Problem pojawia się wtedy, kiedy kancelaria zaczyna traktować cudzą infrastrukturę tak, jakby była własnym zamkniętym środowiskiem.
Chcemy korzystać z najlepszych modeli, jakie będą dostępne - OpenAI, Anthropic, Google i modeli, których dzisiaj jeszcze nie znamy. Chcemy jednak korzystać z nich na naszych zasadach, bez automatycznego przekazywania im całej kancelarii i bez uzależniania bezpieczeństwa od tego, czy prawnik przeczytał najnowszy regulamin dostawcy.
Prawnik ma zadać pytanie. Bezpieczna Kancelaria ma zadbać o to, co wydarzy się z danymi dalej.
Tajemnica zawodowa nie powinna zależeć od ustawienia zaznaczonego w oknie chatu ani od regulaminu, który jutro może wyglądać inaczej. Powinna wynikać z architektury systemu.
Źródła
- Niebezpiecznik, Planował zabić swoją ex-dziewczynę, ale ChatGPT poinformował o tym policję, 24.08.2026 - https://niebezpiecznik.pl/post/planowal-zabic-swoja-ex-dziewczyne-ale-chatgpt-poinformowal-o-tym-policje/
- OpenAI, Helping people when they need it most - https://openai.com/index/helping-people-when-they-need-it-most/
- OpenAI Help Center, Temporary Chat FAQ - https://help.openai.com/en/articles/8914046-temp
- OpenAI Help Center, Chat and File Retention Policies in ChatGPT - https://help.openai.com/en/articles/8983778
- OpenAI, Offering Zero Data Retention for frontier models, 19.08.2026 - https://openai.com/index/offering-zero-data-retention-for-frontier-models/