Kiedy wkładasz dane do AI: co naprawdę grozi twojej firmie (i jak tego uniknąć)

W marcu 2023 roku dział półprzewodników Samsunga zniósł wewnętrzny zakaz korzystania z ChatGPT. Pracownicy zaczęli wklejać do chatbota kod źródłowy, dane o wadliwym sprzęcie i notatki ze spotkań — żeby na przykład szybciej dostać podsumowanie albo poprawić fragment kodu. W ciągu trzech tygodni doszło do trzech osobnych incydentów wycieku danych poufnych. Skutkiem był całkowity zakaz korzystania z generatywnej AI na firmowych urządzeniach Samsunga, wprowadzony od 2 maja 2023 roku. To nie była kara regulatora — to był czysto biznesowy koszt braku procedury.

To najlepiej udokumentowany przykład tego, jak wygląda ryzyko „pracownik wkleja dane firmowe lub dane klienta do publicznego AI”. Ale obok ryzyka biznesowego istnieje też ryzyko prawne — i ono właśnie zaczyna nabierać realnych konsekwencji w Unii Europejskiej.

---

Kary dla dostawców AI w UE — i ważne zastrzeżenie

Włoski organ ochrony danych (Garante) decyzją nr 755 z 2 listopada 2024 roku (ogłoszoną publicznie 20 grudnia 2024 roku) zamknął postępowanie wobec OpenAI, nakładając karę 15 mln euro za naruszenia RODO w działaniu ChatGPT: brak odpowiedniej podstawy prawnej przetwarzania danych do trenowania modelu, niedopełnienie obowiązków informacyjnych wobec użytkowników oraz brak wystarczającej weryfikacji wieku dla ochrony małoletnich. OpenAI miało też przeprowadzić sześciomiesięczną kampanię informacyjną we włoskich mediach.

18 marca 2026 roku sąd w Rzymie (Tribunale di Roma) całkowicie uchylił tę decyzję — ale nie z powodów merytorycznych. Sąd w ogóle nie oceniał, czy doszło do naruszenia RODO. Uchylił decyzję z powodów proceduralnych: od 15 lutego 2024 roku, gdy OpenAI ustanowiło swoją jedyną siedzibę w UE w Irlandii, kompetencja w sprawach przetwarzania transgranicznego przeszła na mechanizm „one-stop-shop” — czyli na irlandzki organ ochrony danych (DPC), a nie na włoski Garante. Sprawa formalnie wraca do punktu wyjścia i może zostać przejęta przez Dublin; Garante może też odwołać się do Kasacji. Nie należy więc przedstawiać tego wyroku jako „OpenAI wygrało, bo nie złamało RODO” — sąd tego pytania po prostu nie rozstrzygnął.

Równolegle Garante wydał decyzje wobec Luka Inc., twórcy aplikacji Replika: w lutym 2023 roku tymczasowy zakaz przetwarzania danych włoskich użytkowników (z powodu ryzyka dla małoletnich i osób podatnych emocjonalnie), a w kwietniu 2025 roku podtrzymanie zakazu i karę 5 mln euro (2% globalnego obrotu firmy) za brak podstawy prawnej przetwarzania, niejasne informacje dla użytkowników i brak skutecznej weryfikacji wieku.

Dla porównania: ogólna maksymalna stawka kary za naruszenie podstawowych zasad przetwarzania danych z RODO (art. 5) to do 20 mln euro albo 4% globalnego rocznego obrotu firmy — w zależności od tego, która wartość jest wyższa.

A co z Polską?

Polski Urząd Ochrony Danych Osobowych prowadzi od co najmniej sierpnia 2023 roku postępowanie wobec OpenAI w sprawie skargi obywatela: ChatGPT wygenerował o nim nieprawdziwe informacje, a OpenAI nie zrealizowało prawa do sprostowania ani prawa do bycia zapomnianym, ani obowiązku informacyjnego co do źródła danych użytych do treningu. Sprawa nie została jeszcze zakończona żadną decyzją — to wciąż trwające postępowanie wyjaśniające.

Ważne zastrzeżenie: nie ma dotąd potwierdzonej, prawomocnej kary żadnego unijnego regulatora wobec pracodawcy (firmy trzeciej, korzystającej z AI, a nie będącej jej dostawcą) za to, że jej pracownik wkleił dane osobowe klienta do publicznego narzędzia AI. Dotychczasowe kary — OpenAI i Replika — dotyczą dostawców modeli i aplikacji, nie firm, które z nich korzystają.

---

AI Act i obowiązki pracodawcy jako „deployera”

Unijny AI Act wchodzi w życie etapami. Od lutego 2025 roku obowiązuje zakaz wybranych praktyk (np. manipulacyjnych systemów AI) oraz wymóg kompetencji AI dla personelu. Od sierpnia 2025 roku obowiązują zasady dla modeli ogólnego przeznaczenia (GPAI). Pełna stosowalność obowiązków dla systemów „wysokiego ryzyka” ma się zacząć 2 sierpnia 2026 roku — choć w chwili pisania tego tekstu Parlament Europejski wstępnie zatwierdził porozumienie przesuwające ten termin na 2 grudnia 2027 roku; zmiana czeka jeszcze na formalne przyjęcie przez Radę UE, więc warto śledzić aktualny stan prac zamiast zakładać sztywno tę datę.

Artykuł 26 AI Act nakłada obowiązki na „deployera” — czyli podmiot (np. pracodawcę), który stosuje system wysokiego ryzyka. Obejmują one m.in.: stosowanie się do instrukcji dostawcy, zapewnienie reprezentatywności danych wejściowych, wyznaczenie nadzoru człowieka, monitorowanie ryzyk, przechowywanie logów, zgłaszanie incydentów oraz — przed wdrożeniem systemu — poinformowanie pracowników, że podlegają działaniu systemu wysokiego ryzyka.

Kluczowa zasada modelu odpowiedzialności w AI Act: nawet jeśli dostawca systemu przeszedł ocenę zgodności, pracodawca jako deployer ponosi niezależną odpowiedzialność za to, jak system jest realnie używany w firmie. Odpowiedzialność dostawcy nie zwalnia pracodawcy z własnej.

Nie ma jeszcze przetestowanego w praktyce case law, jak dokładnie art. 26 będzie egzekwowany wobec małych firm — harmonogram i treść przepisu są jasne, ale w momencie powstawania tego artykułu (przepis wchodzi w pełni w życie 2 sierpnia 2026 roku) nie ma jeszcze rozstrzygniętych spraw.

---

Co robić

1. Zakaż wklejania danych osobowych klienta (imię, nazwisko, adres, e-mail, numer zamówienia, dane płatnicze) do publicznych narzędzi AI bez umowy powierzenia przetwarzania (DPA) z dostawcą modelu.
2. Jeśli firma używa AI do obsługi klienta — na przykład chatbota sklepowego — to jest przetwarzanie danych osobowych. Wymaga podstawy prawnej, informacji dla klienta (że rozmawia z botem i jak przetwarzane są jego dane) i, przy systemach wysokiego ryzyka, nadzoru człowieka oraz logów.
3. Firma jako deployer nie może powoływać się na to, że „dostawca AI zapewniał zgodność” — własną odpowiedzialność trzeba wykazać osobno: polityką użycia AI, szkoleniem pracowników, logami rozmów, możliwością audytu.
4. Przed 2 sierpnia 2026 roku warto mieć już wdrożone: informacje dla pracowników i klientów o użyciu AI, rejestr systemów AI używanych w firmie, procedurę zgłaszania incydentów.
5. Wniosek z incydentu Samsunga: sam zakaz nie wystarczy. Potrzebne jest techniczne ograniczenie (np. brak dostępu do publicznych chatbotów z firmowej sieci) plus jasna instrukcja, co wolno wkleić.

Test na 5 minut

1. Czy jakikolwiek chatbot lub asystent AI w twojej firmie ma dostęp do prawdziwych danych klienta — adresu, historii zamówień, danych płatniczych? Jeśli tak, potrzebna jest podstawa prawna i informacja dla klienta.
2. Czy pracownik może wkleić treść rozmowy z klientem (z danymi osobowymi) do zewnętrznego, publicznego modelu AI w ramach pracy? Jeśli tak, bez umowy powierzenia — to dokładnie ten sam wzorzec, co incydent Samsunga.
3. Czy klient jest jasno poinformowany, że rozmawia z botem, a nie z człowiekiem? Brak tej informacji to podstawowe naruszenie zasady przejrzystości z AI Act i RODO.

Źródła

• Garante per la protezione dei dati personali, komunikat prasowy, decyzja nr 755 wobec OpenAI, 20.12.2024
• The Hacker News, Euronews — relacje z decyzji Garante wobec OpenAI
• ADVANT Nctm, Il Sole 24 Ore, https://aipolicy.it — relacje z wyroku Tribunale di Roma, 18.03.2026, uchylającego decyzję Garante z przyczyn proceduralnych
• EDPB (komunikat), IAPP, GDPRhub — decyzja Garante nr 10130115 wobec Luka Inc. (Replika)
• Bankier.pl, https://www.bankier.pl ; Computerworld.pl, https://www.computerworld.pl ; prawo.pl, https://www.prawo.pl — relacje o postępowaniu polskiego UODO wobec OpenAI
• https://artificialintelligenceact.eu — harmonogram i treść AI Act, w tym art. 26
• Ogletree, Crowell & Moring (2026) — analizy obowiązków deployera wg AI Act art. 26
• https://spidersweb.pl , https://bulldogjob.pl — relacje o incydencie Samsunga (marzec–maj 2023)

Ten artykuł jest częścią serii „Bezpieczne używanie AI” na barnabaai.com.