Artykuł ma charakter informacyjny i nie stanowi porady prawnej. Dołożyliśmy wszelkich starań, aby analiza była zgodna z aktualnym stanem prawnym, jednak przepisy mogą się zmieniać, a ich interpretacja bywa przedmiotem sporu. W kwestiach dotyczących konkretnej sytuacji firmy skonsultuj się z radcą prawnym lub specjalistą ds. ochrony danych.
Co się dzieje w momencie przeklejenia wiadomości?
Wyobraź sobie typową sytuację: klient pisze reklamację, a pracownik sklepu kopiuje tę wiadomość do ChatGPT, żeby szybciej sformułować odpowiedź. Cała transakcja trwa kilka sekund. To, co się właśnie wydarzyło prawnie, zajmuje znacznie więcej czasu do opisania.
Po pierwsze, Twoja firma zawarła relację prawną z dostawcą modelu językowego jako podmiotem przetwarzającym dane osobowe w Twoim imieniu. Po drugie, dane osobowe klienta opuściły Europejski Obszar Gospodarczy i trafiły do infrastruktury zarządzanej przez podmiot z siedzibą w Stanach Zjednoczonych. Po trzecie, system AI wchodzący w interakcję z użytkownikiem uruchomił obowiązki wynikające z rozporządzenia UE 2024/1689, czyli AI Act.
Większość przedsiębiorców zdaje sobie sprawę co najwyżej z jednego z tych trzech wymiarów. Celem tego artykułu jest opisanie wszystkich trzech oraz pokazanie, które z nich lokalne AI strukturalnie usuwa, a które pozostają bez względu na architekturę systemu.
Łańcuch przetwarzania
Zacznijmy od kategorii prawnych. Zgodnie z art. 4 ust. 7 RODO administrator danych to podmiot, który "samodzielnie lub wspólnie z innymi ustala cele i sposoby przetwarzania danych osobowych". Gdy Twoja firma przetwarza wiadomość klienta, jest administratorem: Ty decydujesz, w jakim celu i w jaki sposób te dane są używane.
Gdy przesyłasz tę wiadomość do zewnętrznego modelu językowego, dostawca modelu staje się podmiotem przetwarzającym w rozumieniu art. 4 ust. 8 RODO: "podmiot, który przetwarza dane osobowe w imieniu administratora". Do łańcucha mogą dołączyć dalsi podwykonawcy: dostawcy infrastruktury chmurowej, sieci dystrybucji treści, systemy monitorowania. Każdy z nich dziedziczy obowiązki wynikające z RODO, ale to Ty jako administrator odpowiadasz za to, że cały łańcuch działa zgodnie z przepisami.
Art. 28 ust. 1 RODO precyzuje to wprost: administrator korzysta wyłącznie z podmiotów przetwarzających, "które zapewniają wystarczające gwarancje wdrożenia odpowiednich środków technicznych i organizacyjnych". Nie wystarczy założyć, że dostawca modelu spełnia te wymagania. Art. 28 ust. 3 nakłada obowiązek zawarcia pisemnej umowy powierzenia przetwarzania, która musi zawierać m.in. klauzulę, że podmiot przetwarzający działa wyłącznie na udokumentowane polecenie administratora i stosuje środki bezpieczeństwa wymagane przez art. 32 RODO.
Praktyczna konsekwencja jest prosta: jako administrator Twoja firma ponosi odpowiedzialność za każde naruszenie w łańcuchu przetwarzania, niezależnie od tego, po czyjej stronie technicznie do niego doszło. Umowa powierzenia chroni przed ryzykiem, ale nie przenosi odpowiedzialności.
Transfer poza EOG
Gdy wiadomość klienta trafia do modelu językowego z siedzibą w Stanach Zjednoczonych, dane osobowe opuszczają Europejski Obszar Gospodarczy. Od tego momentu zastosowanie ma Rozdział V RODO (art. 44-50), który reguluje przekazywanie danych do państw trzecich. Transfer jest dopuszczalny, ale wiąże się z obowiązkami, które muszą być aktywnie realizowane.
Fundamentem prawnym w tej dziedzinie jest wyrok Trybunału Sprawiedliwości UE z 16 lipca 2020 r. w sprawie C-311/18 (Schrems II), ECLI:EU:C:2020:559. Trybunał unieważnił wcześniejszą decyzję Komisji uznającą Privacy Shield za wystarczający mechanizm ochrony i stwierdził, że prawo krajowe Stanów Zjednoczonych nie zapewnia ochrony równoważnej tej wynikającej z RODO. Trybunał zwrócił uwagę przede wszystkim na uprawnienia amerykańskich służb do masowego dostępu do danych i brak skutecznych środków odwoławczych dla obywateli UE.
Odpowiedzią Komisji była decyzja wykonawcza 2023/1795 z 10 lipca 2023 r., która ustanowiła ramy EU-US Data Privacy Framework (DPF). Kluczowe zastrzeżenie: DPF obejmuje wyłącznie te organizacje ze Stanów Zjednoczonych, które samocertyfikowały się w ramach tego programu, i tylko w zakresie objętym certyfikacją. Nie jest to ogólna decyzja stwierdzająca, że USA zapewnia odpowiedni poziom ochrony. Wielu dostawców modeli językowych nie figuruje na liście DPF lub ich certyfikacja nie obejmuje konkretnego rodzaju przetwarzania danych.
Gdy transfer nie jest objęty DPF, wymagane jest zastosowanie odpowiedniego instrumentu z art. 46 RODO, typowo standardowych klauzul umownych. Sama ich obecność w umowie nie wystarczy. Zalecenia EROD 01/2020 wymagają przeprowadzenia sześcioetapowej oceny: zidentyfikuj transfery, wskaż narzędzie prawne, oceń prawo kraju docelowego w kontekście skuteczności wybranego narzędzia, wdróż dodatkowe środki, podejmij wymagane kroki proceduralne, regularnie weryfikuj sytuację. Etap trzeci jest tym, gdzie wiele organizacji napotyka trudności: po Schrems II ocena prawa amerykańskiego w kontekście masowego nadzoru jest wymagana jako realna analiza, a nie formalne oświadczenie.
DPF jest poddawany okresowym przeglądom przez Komisję i jest przedmiotem trwającego postępowania przed TSUE. Podstawa prawna transferów do USA zmieniała się dwukrotnie w ciągu pięciu lat. To nie znaczy, że transfery są niedozwolone, lecz że obowiązki z nimi związane muszą być aktywnie realizowane, a firma musi na bieżąco śledzić zmiany w tym obszarze.
Warstwa AI Act
Rozporządzenie (UE) 2024/1689, czyli AI Act, weszło w życie 1 sierpnia 2024 r. Przepisy stosują się jednak stopniowo: zakaz praktyk wysokiego ryzyka zaczął obowiązywać 2 lutego 2025 r., obowiązki dotyczące modeli ogólnego przeznaczenia (GPAI) weszły w życie 2 sierpnia 2025 r., a przepisy ogólne stosują się od 2 sierpnia 2026 r. Szczególna kategoria systemów wysokiego ryzyka z art. 6 ust. 1 zacznie obowiązywać dopiero 2 sierpnia 2027 r.
Jeśli Twoja firma używa AI wyłącznie do redagowania odpowiedzi dla klientów, najprawdopodobniej nie masz do czynienia z systemem wysokiego ryzyka w rozumieniu AI Act. Załącznik III do rozporządzenia wymienia osiem obszarów, w których systemy AI są z zasady klasyfikowane jako wysokiego ryzyka: biometria, infrastruktura krytyczna, edukacja, zatrudnienie, dostęp do usług podstawowych, egzekwowanie prawa, zarządzanie migracją i wymiar sprawiedliwości. Obsługa klienta polegająca na redagowaniu odpowiedzi na wiadomości nie pojawia się w Załączniku III. Zastrzeżenie: w zależności od kontekstu użycia ocena ta może być inna. Jeżeli system AI podejmuje lub bezpośrednio warunkuje automatyczne decyzje wpływające na dostęp osób fizycznych do usług, klasyfikacja może się zmienić.
Niezależnie od kwalifikacji ryzyka, art. 50 ust. 1 AI Act nakłada obowiązek transparentności na wszystkich dostawców systemów AI przeznaczonych do bezpośredniej interakcji z osobami fizycznymi. Użytkownik musi wiedzieć, że rozmawia z systemem AI, chyba że jest to oczywiste z punktu widzenia przeciętnie zorientowanej i uważnej osoby. Obowiązek ten dotyczy każdego systemu, który generuje treści skierowane do konkretnego człowieka, bez względu na poziom ryzyka systemu.
Na poziomie RODO istotne jest też stanowisko Grupy Roboczej ds. ChatGPT EROD z 23 maja 2024 r.. W paragrafie 30 tego dokumentu EROD stwierdza wstępnie, że ze względu na probabilistyczną naturę modeli językowych generowane przez nie wyniki mogą zawierać treści stronnicze lub zmyślone, a użytkownicy końcowi często traktują je jako faktycznie dokładne. EROD wskazuje, że zasada prawidłowości danych wynikająca z art. 5 ust. 1 lit. d RODO musi być przestrzegana. To oznacza, że treści generowane przez AI, które odnoszą się do osób fizycznych, podlegają wymogowi dokładności tak samo jak inne dane osobowe.
Waga decyzji krajowych organów nadzorczych nie ogranicza się do ich własnego terytorium. Włoski Garante w trybie pilnym 30 marca 2023 r. nakazał zawieszenie przetwarzania danych przez OpenAI, powołując się wprost na art. 5, 6 i 13 RODO (docweb 9870832). Uzasadnienie dotyczyło braku podstawy prawnej przetwarzania danych treningowych, nieścisłości generowanych wyników i braku mechanizmów weryfikacji wieku. RODO to jedno rozporządzenie stosowane przez wszystkie krajowe organy nadzorcze, w tym UODO: decyzja Garante powołuje te same artykuły, z których egzekwowania UODO jest zobowiązany w Polsce. Na dzień publikacji tego artykułu UODO nie opublikował szczegółowych wytycznych dotyczących korzystania z chmurowych modeli językowych, ale egzekwuje to samo rozporządzenie na podstawie tych samych przepisów.
Co lokalne AI rzeczywiście zmienia
Gdy model językowy działa lokalnie, na własnej infrastrukturze Twojej firmy zlokalizowanej na terenie EOG, cztery konkretne ryzyka prawne zostają strukturalnie wyeliminowane. Po pierwsze, żadne dane osobowe nie opuszczają EOG w momencie wnioskowania, co oznacza, że Rozdział V RODO i analiza wymagana przez Schrems II w ogóle nie wchodzą w grę. Po drugie, nie powstaje relacja podmiot przetwarzający z dostawcą modelu z siedzibą w USA ani z jego podwykonawcami, co zdejmuje z Ciebie obowiązek weryfikacji ich zabezpieczeń w rozumieniu art. 28 RODO. Po trzecie, wiadomości klientów nie trafiają do infrastruktury strony trzeciej, która mogłaby używać ich do dalszego trenowania swoich modeli. Po czwarte, nie istnieje zależność od trwałości prawnej Data Privacy Framework, który był już raz unieważniony i pozostaje przedmiotem postępowania sądowego.
Lokalne przetwarzanie nie zmienia jednak niczego w tym, co stanowi rdzeń obowiązków administratora danych, i ta lista jest dłuższa. Twoja firma pozostaje administratorem w pełnym sensie art. 5 RODO, co oznacza ciągłą odpowiedzialność za legalność, rzetelność i przejrzystość przetwarzania, a także za prawa podmiotów danych wynikające z art. 12-22, w tym prawo dostępu, sprostowania i usunięcia. Podstawa prawna z art. 6 RODO jest nadal wymagana, a jej dobór musi być uzasadniony konkretnym celem przetwarzania, nie architekturą techniczną. W zależności od skali i charakteru użycia AI, ocena skutków dla ochrony danych przewidziana w art. 35 RODO może być nadal obowiązkowa. Obowiązki wynikające z AI Act są przypisane do przypadku użycia, a nie do modelu wdrożenia: art. 50 ust. 1 dotyczący transparentności wobec użytkowników stosuje się niezależnie od tego, gdzie model jest uruchomiony, a jeżeli konkretne zastosowanie wchodzi w zakres Załącznika III, obowiązki dla systemów wysokiego ryzyka pozostają w pełni w mocy. Lokalne uruchomienie modelu nie eliminuje też ryzyka halucynacji ani nieścisłych wyników, co jest istotne z perspektywy art. 5 ust. 1 lit. d RODO. EROD w opinii 28/2024 z 18 grudnia 2024 r. stwierdził wstępnie, że "modeli AI trenowanych z wykorzystaniem danych osobowych nie można we wszystkich przypadkach uznać za anonimowe". Wstępne stanowisko EROD dotyczące dokładności generowanych treści, o którym mowa w sekcji poprzedniej, stosuje się do każdego modelu, bez względu na to, gdzie jest on uruchomiony.
Lokalne przetwarzanie zmienia zatem powierzchnię prawną problemu, strukturalnie eliminując ryzyka związane z transferem danych poza EOG, ale nie zmienia substantywnych obowiązków, które ciążą na Tobie jako administratorze danych osobowych klientów.
Ruchomy cel
Regulacja wciąż jest wdrażana: AI Act nie jest jeszcze w pełni stosowany, a najbardziej dotkliwe obowiązki są rozłożone w czasie aż do 2027 r.
Data Privacy Framework oparty na decyzji wykonawczej Komisji 2023/1795 podlega okresowym przeglądom Komisji. Jego poprzednik, Privacy Shield, został unieważniony wyrokiem Schrems II po trzech latach obowiązywania. Obecne ramy są przedmiotem co najmniej jednego toczącego się postępowania sądowego. Podstawa prawna transferów danych do USA może zatem zmienić się ponownie, niezależnie od tego, jaką ocenę wydała Komisja w 2023 r.
Decyzja o lokalnym przetwarzaniu danych zyskuje na wartości wprost proporcjonalnie do wzrostu powierzchni regulacyjnej: obowiązki, które lokalna architektura strukturalnie eliminuje, to dokładnie te, które w kolejnych latach będą się rozszerzać.
Praktyczne wnioski
Trzy pytania, które Twoja firma powinna być w stanie konkretnie odpowiedzieć w tej chwili.
Gdzie geograficznie są przetwarzane wiadomości Twoich klientów, gdy trafiają do narzędzia AI, z którego korzystasz? Czy infrastruktura serwująca odpowiedzi modelu znajduje się na terenie EOG, czy poza nim?
Jeżeli Twój dostawca modelu ma siedzibę w Stanach Zjednoczonych: czy figuruje na aktualnej liście certyfikowanych podmiotów DPF i czy jego certyfikacja obejmuje konkretny rodzaj przetwarzania, który realizujesz? Jeżeli nie, czy Twoja firma przeprowadziła sześcioetapową ocenę wymaganą przez zalecenia EROD 01/2020?
Czy Twoi klienci wiedzą w momencie interakcji, że rozmawiają z systemem AI? Obowiązek transparentności wynikający z art. 50 ust. 1 AI Act stosuje się niezależnie od poziomu ryzyka systemu i od miejsca, w którym model jest uruchomiony. Dotyczy on jednak systemów, w których AI bezpośrednio wchodzi w interakcję z klientem. Model z weryfikacją ludzką przed wysłaniem zmienia tę ocenę: klient wchodzi w interakcję z człowiekiem, który używa AI jako narzędzia, a nie z samym systemem AI.
Lokalne AI, takie jak Suovo, jest zbudowane z założeniem, że dane klientów nie opuszczają Twojej infrastruktury. Napisaliśmy ten artykuł, żeby pokazać, co to zmienia prawnie i co nie zmienia się niezależnie od architektury.
Źródła
Parlament Europejski i Rada UE, Rozporządzenie (UE) 2024/1689 z dnia 13 czerwca 2024 r. (AI Act). Art. 5, 6, 50, Załącznik III, art. 113. https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng. Sprawdzone: 2026-04-13.
Parlament Europejski i Rada UE, Rozporządzenie (UE) 2016/679 z dnia 27 kwietnia 2016 r. (RODO). Art. 4, 5(1)(d), 28, 35, Rozdział V (art. 44-50). https://eur-lex.europa.eu/eli/reg/2016/679/oj. Sprawdzone: 2026-04-13.
Komisja Europejska, Decyzja wykonawcza Komisji (UE) 2023/1795 z dnia 10 lipca 2023 r. (EU-US Data Privacy Framework). https://eur-lex.europa.eu/eli/dec_impl/2023/1795/oj/eng. Sprawdzone: 2026-04-13.
Trybunał Sprawiedliwości UE, Wyrok z dnia 16 lipca 2020 r., sprawa C-311/18, Data Protection Commissioner przeciwko Facebook Ireland i Maximillian Schrems (Schrems II). ECLI:EU:C:2020:559. https://curia.europa.eu/juris/liste.jsf?num=C-311/18. Sprawdzone: 2026-04-13.
Europejska Rada Ochrony Danych (EROD), Zalecenia 01/2020 w sprawie środków uzupełniających narzędzia przekazywania danych, wersja 2.0, przyjęte 18 czerwca 2021 r. https://www.edpb.europa.eu/system/files/2021-06/edpb_recommendations_202001vo.2.0_supplementarymeasurestransferstools_en.pdf. Sprawdzone: 2026-04-13.
Europejska Rada Ochrony Danych (EROD), Sprawozdanie z prac Grupy Zadaniowej ds. ChatGPT, 23 maja 2024 r. https://www.edpb.europa.eu/our-work-tools/our-documents/other/report-work-undertaken-chatgpt-taskforce_en. Sprawdzone: 2026-04-13.
Europejska Rada Ochrony Danych (EROD), Opinia 28/2024 w sprawie niektórych aspektów ochrony danych w kontekście modeli AI, 18 grudnia 2024 r. https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en. Sprawdzone: 2026-04-13.
Garante per la protezione dei dati personali (włoski organ ochrony danych), Provvedimento del 30 marzo 2023, nr 112, docweb 9870832. Art. 5, 6, 8, 13, 25, 58(2)(f) RODO. https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9870832. Sprawdzone: 2026-04-13.