Gdy AI zmyśla fakty, które brzmią wiarygodnie

Opublikowano: 4 września 2026

Gdy AI zmyśla fakty, które brzmią wiarygodnie

Gdy AI zmyśla fakty, które brzmią wiarygodnie

We własnym raporcie inwestorskim, przygotowywanym z pomocą AI, znalazły się kiedyś trzy cytowane badania naukowe. Brzmiały wiarygodnie — nazwiska, rok publikacji, konkretne wnioski. Żadne z nich nie istniało. AI potraktowało parametry techniczne produktu jak dane z realnych publikacji i przypisało im autorów, których nigdy nie było. Błąd wychwycono przed publikacją raportu, ale pokazuje mechanizm, który dotyka nie tylko małych firm — dotyka też sądów, gabinetów lekarskich i księgowości dużych korporacji.

Prawo: narzędzia reklamowane jako “wolne od halucynacji” halucynują

Zespół Stanford RegLab (Magesh, Surani, Dahl, Suzgun, Manning, Ho) przebadał w maju 2024 roku komercyjne narzędzia prawnicze oparte na AI — Lexis+ AI, Westlaw AI-Assisted Research, Ask Practical Law AI. Mimo że producenci reklamowali je jako wolne od halucynacji, narzędzia te myliły się w 17-33% zapytań. Wcześniej, w styczniu 2024 roku, ci sami badacze sprawdzili ogólne modele językowe (m.in. GPT-3.5/4, PaLM, Llama) przy konkretnych pytaniach z zakresu prawa federalnego USA — tam odsetek błędnych odpowiedzi sięgnął 69-88%. Metodologia badania RegLab była później kwestionowana przez dostawców tych narzędzi, więc dokładne liczby to spór w toku, nie ostateczny konsensus — sam kierunek wyniku (błędy mimo zapewnień o ich braku) pozostaje jednak niepodważony.

Skutki w praktyce już widać w salach sądowych. W sprawie Mata v. Avianca, Inc. (Sąd Okręgowy USA dla Południowego Dystryktu Nowego Jorku, wyrok z 22 czerwca 2023 roku) prawnicy złożyli pismo procesowe powołujące się na sześć nieistniejących spraw wygenerowanych przez ChatGPT — z fikcyjnymi cytatami i fikcyjnymi liniami lotniczymi. Sąd nałożył karę 5000 dolarów i zobowiązał prawników do wysłania listów wyjaśniających do wszystkich sędziów wymienionych w sfabrykowanych orzeczeniach. W lipcu 2025 roku, w sądzie federalnym w Kolorado, w sprawie związanej z Mike’em Lindellem (CEO MyPillow), dwóch prawników złożyło pismo z blisko trzydziestoma wadliwymi lub nieistniejącymi cytatami — każdy z nich zapłacił karę 3000 dolarów.

To już nie pojedyncze przypadki. Baza Damiena Charlotina dokumentuje 1871 spraw sądowych z halucynacjami AI w pismach procesowych (stan na 11 sierpnia 2026 roku, dane z USA, Kanady, Australii, Wielkiej Brytanii i innych jurysdykcji). Kary rosną: od 5000 dolarów w sprawie Mata po 110 204,38 dolara w sprawie Couvrette v. Wisnovsky (2025) — a suma samych kar za wprowadzenie treści z AI do pism procesowych w USA przekroczyła w pierwszym kwartale 2026 roku 145 000 dolarów.

Medycyna: zamiana soli na truciznę

Annals of Internal Medicine: Clinical Cases opisały w sierpniu 2025 roku przypadek 60-letniego mężczyzny, który po konsultacji z ChatGPT zastąpił w swojej diecie chlorek sodu bromkiem sodu kupionym online i stosował go przez około trzy miesiące. Trafił do szpitala na trzy tygodnie — z psychozą, halucynacjami, paranoją, zaburzeniami elektrolitowymi, zmianami skórnymi i niedoborami mikroskładników. Wyzdrowiał po leczeniu (dożylne płyny, lek przeciwpsychotyczny), ale przypadek pokazuje, jak pozornie niewinne pytanie dietetyczne, potraktowane jako gotowa odpowiedź zamiast punktu wyjścia do rozmowy z lekarzem, może skończyć się realną hospitalizacją.

W tym samym obszarze toczą się obecnie pozwy przeciwko OpenAI — między innymi w związku ze śmiercią Sama Nelsona po przedawkowaniu 31 maja 2025 roku, po wielomiesięcznych rozmowach z ChatGPT, oraz w sprawie mężczyzny z Florydy, któremu ChatGPT miał zbagatelizować ból związany z zatorowością płucną. Te postępowania są w toku i nie zapadły w nich prawomocne wyroki — nie da się więc na tym etapie mówić o ustalonej przez sąd odpowiedzialności, tylko o toczących się i medialnie nagłośnionych sprawach.

Finanse: głos i twarz też można podrobić

W lutym 2024 roku pracownik działu finansów międzynarodowej firmy w Hongkongu przelał 25 milionów dolarów po wideokonferencji, na której “przełożeni” byli w rzeczywistości syntetycznymi, podrobionymi wizerunkami. Sprawa była szeroko relacjonowana w prasie technologicznej i branżowej.

Czego te dane nie mówią

Nie ma systematycznego przeglądu ani metaanalizy mierzącej, jaki odsetek porad medycznych od AI prowadzi do realnej szkody pacjenta — dostępne są pojedyncze opisy przypadków i pozwy sądowe, nie zbiorcze dane epidemiologiczne. Szacunki strat finansowych z ataków deepfake, publikowane przez firmy analityczne i bezpieczeństwa, to dane branżowe, nie wyniki recenzowanych badań naukowych, więc traktujemy je ostrożniej niż liczby z publikacji akademickich cytowane wyżej.

Test, który zajmie kilka minut

Weź ostatnią odpowiedź AI zawierającą konkretną liczbę, cytat albo nazwisko — badanie, ustawę, orzeczenie — i sprawdź źródło pod podanym linkiem. Jeśli AI nie poda linku, link nie działa albo nie potwierdza treści, oznacz całą odpowiedź jako niezweryfikowaną i nie używaj jej dalej bez niezależnego potwierdzenia.

Co zrobić

  1. Każdy cytat prawny czy orzeczenie podane przez AI sprawdź w oficjalnej bazie (orzeczenia sądów, Lex, SAOS) przed użyciem w jakimkolwiek dokumencie.
  2. Nie traktuj porady medycznej od AI jako ostatecznej — zwłaszcza w sprawach dawkowania, substytucji składników czy interakcji lekowych.
  3. Objaw, który AI bagatelizuje jako “nic groźnego”, to sygnał do konsultacji lekarskiej, nie do kolejnego pytania w czacie.
  4. Każdą “pilną” prośbę finansową padającą w wideorozmowie lub przez głos rzekomego przełożonego weryfikuj innym kanałem — telefonem na wcześniej znany numer, nie na ten podany w tej rozmowie.
  5. Sprawdzaj, czy link albo DOI podany przez AI naprawdę istnieje i prowadzi do treści, którą AI opisuje — nieistniejący DOI to czerwona flaga.
  6. W firmie wdróż procedurę podwójnej weryfikacji dla przelewów powyżej ustalonej kwoty, niezależnie od tego, kto rzekomo o nie prosi.
  7. Pozornie niewinne pytanie dietetyczne też wymaga źródła medycznego, nie tylko odpowiedzi chatbota — przypadek zamiany soli na bromek skończył się trzema tygodniami hospitalizacji.
  8. W sprawach finansowych (inwestycje, kredyty) traktuj rekomendacje AI jako punkt startowy do rozmowy z doradcą, nie jako gotową decyzję.

Źródła

Ten artykuł jest częścią serii “Bezpieczne używanie AI” na barnabaai.com.

Ten tekst powstał przy udziale narzędzi AI. Treść merytoryczna została sprawdzona przez autora.

sofi - neutral