Lekcja 5.1
Halucynacje: kiedy AI zmyśla
Model potrafi wymyślić cytat, książkę albo wyrok sądu — i podać go z pełnym przekonaniem.
5.1Halucynacje: kiedy AI zmyśla
Witaj na ostatnim poziomie wyprawy. Tutaj poznasz ciemniejszą stronę AI — nie po to, żeby się jej bać, ale żeby się przed nią chronić. Zaczniemy od zjawiska, które już kilka razy się pojawiło: AI potrafi z pełnym przekonaniem podać coś, co nie jest prawdą.
Każdy rozdział zaczyna się prosto. Chcesz więcej? Otwórz Zaawansowany, a w nim Ekspert.
Pewny ton, zmyślona treść
Czasem AI odpowiada płynnie i bardzo pewnie, a to, co mówi, jest po prostu nieprawdą: podaje nieistniejącą książkę, zmyślony cytat albo błędną datę. Takie zmyślenia nazywamy halucynacjami.
To nie kłamstwo w ludzkim sensie — AI nie wie, że się myli. Ale skutek bywa taki sam: jeśli uwierzysz, przekażesz dalej błąd.
Wyobraź to sobie tak
„Model językowy jest jak uczeń, który na odpowiedzi ustnej woli powiedzieć cokolwiek płynnie, niż przyznać, że nie wie — bo za milczenie i tak dostałby jedynkę.”
Pamiętasz z lekcji o modelach językowych, że model przewiduje najbardziej prawdopodobny ciąg tokenów? Nie sprawdza faktów w bazie wiedzy. Gdy w danych zabrakło informacji, lukę wypełnia tekst, który brzmi wiarygodnie — bo tak wyglądają odpowiedzi w tekstach, na których się uczył.
Najczęstsze objawy to zmyślone cytaty, nieistniejące publikacje i linki, błędne liczby i pomieszane fakty o mniej znanych osobach. Ryzyko rośnie przy pytaniach niszowych i bardzo szczegółowych.
- 1Model przewiduje kolejne tokeny
- 2Brak faktu w danych tworzy lukę
- 3Lukę wypełnia wiarygodnie brzmiący tekst
- 4Pewny ton maskuje błąd
Kalai i in. (OpenAI, 2025) argumentują, że halucynacje wynikają ze statystyki pretrainingu i z ewaluacji nagradzających zgadywanie. Przy ocenie zero-jedynkowej model, który „strzela”, uzyskuje wyższy średni wynik niż model mówiący „nie wiem” — więc trening premiuje pewne siebie odpowiedzi.
Autorzy proponują ocenianie, które mocniej karze pewne błędy niż wstrzymanie się od odpowiedzi. Kalibracja, czyli zgodność deklarowanej pewności z faktyczną trafnością, może się dodatkowo pogarszać po dostrajaniu RLHF — co odnotował raport techniczny GPT-4 (2023).
Zapis formalny
wynik = P(trafne)·1 − P(błędne)·k, k > 0
Kiedy to boli naprawdę
Halucynacje mogą mieć poważne skutki. Prawnicy, którzy uwierzyli AI, złożyli w sądzie pismo powołujące się na wyroki, które nigdy nie zapadły — i zostali za to ukarani.
W nauce, zdrowiu czy prawie jeden zmyślony fakt potrafi narobić dużo szkody. Dlatego im ważniejsza sprawa, tym staranniej trzeba sprawdzać.
Szczególnie zdradliwe są zmyślone źródła: AI potrafi podać tytuł artykułu, autorów, a nawet link, które wyglądają prawdziwie, ale nie istnieją — albo istnieją, lecz mówią coś zupełnie innego.
Dlatego sama obecność źródła w odpowiedzi niczego nie dowodzi. Trzeba je otworzyć i sprawdzić, czy rzeczywiście zawiera to, co twierdzi AI.
Częsty błąd
Jeśli AI podaje źródło, informacja jest prawdziwa.
Jak jest naprawdę
Modele potrafią zmyślać także źródła i linki. Zawsze otwórz źródło i sprawdź, czy mówi to, co twierdzi AI.
W sprawie Mata v. Avianca (USA, 2023) prawnicy zostali ukarani za złożenie pisma z wymyślonymi przez ChatGPT orzeczeniami. Od tego czasu odnotowano setki podobnych przypadków w sądach na całym świecie.
W dziedzinach o wysokiej stawce (prawo, medycyna, finanse) standardem staje się łączenie modelu z wiarygodną bazą dokumentów, wymóg cytowania i obowiązkowa weryfikacja przez specjalistę przed użyciem wyniku.
Jak się bronić
Daty, liczby, cytaty i źródła zawsze sprawdzaj w innym, zaufanym miejscu. Możesz też zapytać AI wprost: „czego w tej odpowiedzi nie jesteś pewna?”.
AI to pomocnik, a nie wyrocznia. Przećwiczysz wyłapywanie zmyśleń w widgecie z tej lekcji i w grze „Wykrywacz halucynacji”.
Pomaga podłączenie modelu do wyszukiwarki lub dokumentów (RAG, poznany w lekcji o chatbotach), prośba o cytaty z linkami i zachęcanie modelu do mówienia „nie wiem”. Przy ważnych zadaniach warto zadać to samo pytanie kilka razy albo różnym modelom — rozbieżne odpowiedzi to sygnał ostrzegawczy.
Najskuteczniejszą ochroną pozostaje jednak weryfikacja przez człowieka w niezależnym źródle.
RAG (Lewis i in., 2020) zmniejsza halucynacje faktograficzne, ale ich nie eliminuje: model może błędnie streścić poprawne źródło albo dobrać nieadekwatny fragment. Dlatego ocenia się osobno trafność wyszukiwania i wierność odpowiedzi wobec źródeł.
Metody wykrywania niepewności — na przykład sprawdzanie spójności wielu wygenerowanych odpowiedzi — pomagają oznaczać ryzykowne odpowiedzi, ale żadna nie daje dziś gwarancji prawdziwości.
W Laboratorium
W Laboratorium: Wykrywacz halucynacji
W grze „Wykrywacz halucynacji” czytasz odpowiedzi AI na pięć pytań — o Koperniku, Wiśle, fotosyntezie, pająkach i AI Act. W każdej odpowiedzi jedno zdanie jest zmyślone. Twoje zadanie: znaleźć je i kliknąć.
Po każdym wyborze dowiesz się, dlaczego to zdanie było fałszywe. Zwróć uwagę, jak naturalnie zmyślenie wtapia się między prawdziwe fakty.
Każdy przypadek pokazuje inny typ halucynacji, o których była mowa w tej lekcji: zmyślony zaszczyt w biografii, błąd geograficzny, nieistniejące źródło z autorką i numerem strony oraz błąd kategorii (pająk zaliczony do owadów).
Gra uczy nawyku: przy liczbach, datach, nazwiskach i źródłach zatrzymaj się i zapytaj „skąd to wiadomo?”. Zmyślenia rzadko wyglądają podejrzanie — są podane tym samym pewnym tonem co prawda.
- 1Przeczytaj pytanie i odpowiedź
- 2Szukaj konkretów: dat, liczb, źródeł
- 3Kliknij zdanie, które budzi wątpliwość
- 4Przeczytaj wyjaśnienie
- 5Zapamiętaj typ zmyślenia
Odpowiedzi w grze napisano ręcznie, wzorując się na typowych halucynacjach dużych modeli: fabrykowaniu szczegółów biograficznych, mieszaniu podobnych faktów i tworzeniu wiarygodnie wyglądających cytowań. Za każde wykryte zmyślenie dostajesz punkt; wynik to liczba trafień na 5.
Zmyślone cytowania są szczególnie groźne, bo mają poprawną formę bibliograficzną. W praktyce weryfikuje się je, sprawdzając istnienie publikacji w katalogach i bazach, a potem zgodność cytowanej treści z tekstem źródła.
Zapamiętaj
- Halucynacja = przekonująca, ale nieprawdziwa treść.
- Najczęstsze przy liczbach, cytatach, źródłach i rzadkich tematach.
- Zawsze weryfikuj w niezależnym źródle.
Znajdź zmyślenie
kliknij podejrzane zdanie
odpowiedź modelu · niezweryfikowana
analizaOznaczono: 0
Ciekawostka
W 2023 roku prawnik w Nowym Jorku złożył w sądzie pismo z sześcioma nieistniejącymi wyrokami wymyślonymi przez ChatGPT. Sąd nałożył na kancelarię karę 5000 dolarów.
W liczbach
6
fikcyjnych wyroków w piśmie sądowym w sprawie Mata v. Avianca
Źródło: Sąd okręgowy w Nowym Jorku, 2023
Ewaluacja · 3 pytania
Sprawdź się
Czym jest halucynacja AI?
Dokąd dalej
Następny przystanek: Deepfake i dezinformacja
Halucynacje biorą się z tego, że model przewiduje prawdopodobny tekst, a nie sprawdza faktów — a testy często nagradzają zgadywanie. Bronisz się, sprawdzając fakty i źródła w niezależnych miejscach.
Halucynacja to błąd, którego AI nie popełnia celowo. W następnej lekcji zmierzymy się z fałszem tworzonym celowo przez ludzi: z deepfake'ami i dezinformacją.