Nauka AI
Halucynacje AI: dlaczego model zmyśla i jak sprawdzać jego odpowiedzi
Czym są halucynacje i dlaczego się zdarzają
Halucynacja AI to odpowiedź, która brzmi wiarygodnie, ale jest nieprawdziwa. Model podaje nieistniejący artykuł ustawy, książkę, której nikt nie napisał, albo liczbę wziętą znikąd. Nie kłamie celowo. Po prostu generuje tekst, który statystycznie pasuje do pytania.
Mechanizm opisałem dokładniej w tekście jak działa ChatGPT. W skrócie: model przewiduje kolejne słowa. Jeśli pytasz o coś, czego w danych treningowych było mało, model i tak coś przewidzi. Nie ma wbudowanego odruchu „nie wiem”, chociaż nowsze modele coraz częściej go mają.
Najgorsze jest to, że zmyślenie wygląda tak samo jak prawda. Ten sam ton, ta sama pewność, to samo formatowanie. Nie ma czerwonej lampki. Dlatego weryfikacja musi być nawykiem, a nie reakcją na podejrzenie.
Przykład z mojej praktyki: klient poprosił czat o listę dotacji dla małych firm w swoim województwie. Dostał pięć programów z nazwami, kwotami i terminami. Trzy z nich nie istniały w takiej formie, a dwa dawno się zakończyły. Wyglądało to jak rzetelne zestawienie.
Gdzie AI zmyśla najczęściej
Z mojego doświadczenia najbardziej ryzykowne są: przepisy prawa z numerami artykułów, orzecznictwo, cytaty z konkretnych osób, statystyki, daty, dane kontaktowe i linki. Wszystko, co jest precyzyjne i łatwe do podrobienia.
Drugi obszar to wiedza lokalna i niszowa. Model dużo wie o ogólnych zasadach księgowości, ale pytany o konkretną interpretację polskiego urzędu skarbowego sprzed roku może już fantazjować. Podobnie z informacjami o małych firmach, lokalnych przepisach i nowych wydarzeniach.
Trzeci: obliczenia na wielu liczbach. Model językowy nie jest kalkulatorem. Proste działania zwykle robi dobrze, ale przy sumowaniu kolumny z trzydziestoma pozycjami potrafi się pomylić. Jeśli narzędzie ma funkcję uruchamiania kodu lub analizy danych, poproś, żeby jej użyło.
Czwarty obszar to streszczenia długich dokumentów. Model potrafi dodać do streszczenia wniosek, którego w oryginale nie ma, albo pominąć ważne zastrzeżenie. Przy umowach i regulaminach sprawdzaj, czy najważniejsze zapisy są oddane wiernie.
Pięć sposobów, żeby sprawdzić odpowiedź
Po pierwsze, poproś o źródła i je otwórz. Nie wystarczy, że model poda link. Kliknij go i sprawdź, czy strona istnieje i czy mówi to, co model twierdzi. Zdarza się, że link jest prawdziwy, a treść zupełnie inna.
Po drugie, zadaj to samo pytanie inaczej albo w nowej rozmowie. Jeśli odpowiedzi się rozjeżdżają, masz sygnał ostrzegawczy. Po trzecie, sprawdź u drugiego modelu. ChatGPT, Claude i Gemini rzadko zmyślają dokładnie to samo.
Po czwarte, zapytaj wprost: „Które fragmenty tej odpowiedzi mogą być niepewne?”. Model często sam wskaże słabe punkty. Po piąte, i najważniejsze: fakty, które mają skutki prawne lub finansowe, sprawdzasz w oficjalnym źródle. Ustawę w bazie aktów prawnych, dane firmy w rejestrze, stawkę na stronie urzędu.
Nie musisz robić wszystkich pięciu kroków przy każdej odpowiedzi. Przy mailu do znajomego wystarczy przeczytać tekst. Przy piśmie do urzędu robisz wszystkie.
Jak ograniczać halucynacje już na etapie promptu
Najskuteczniejsza metoda: daj modelowi materiał źródłowy. Wklej regulamin, cennik czy fragment umowy i napisz „odpowiadaj wyłącznie na podstawie tego tekstu; jeśli czegoś w nim nie ma, napisz, że nie wiesz”. Liczba zmyśleń spada wtedy wyraźnie.
Druga metoda: wprost pozwól na niewiedzę. Model często zmyśla, bo „chce” odpowiedzieć. Zdanie „Jeśli nie jesteś pewien, powiedz to” naprawdę pomaga. Trzecia: proś o cytaty z dostarczonego tekstu. Łatwo wtedy sprawdzić, czy cytat istnieje.
Więcej takich technik opisuję w tekście jak pisać dobre prompty. Ogólna zasada: im mniej model musi wyciągać z pamięci, tym mniej ma okazji do fantazjowania.
Czwarta metoda: dziel duże pytania na mniejsze. Zamiast prosić o pełny raport o rynku, poproś najpierw o listę tematów do sprawdzenia, potem o każdy z osobna. Łatwiej wtedy wyłapać moment, w którym model zaczyna zgadywać.
Jak radzę sobie z tym w agentach AI dla firm
Agent, który rozmawia z klientami, nie może wymyślać cen ani godzin otwarcia. Dlatego w każdym wdrożeniu stosuję RAG: agent najpierw wyszukuje odpowiedź w bazie wiedzy firmy, a dopiero potem formułuje zdanie. Jeśli w bazie nic nie ma, ma przekazać sprawę człowiekowi.
Do tego dochodzą guardrails, czyli reguły i automatyczne kontrole, które blokują odpowiedzi spoza dozwolonego zakresu. Agent umawiający wizyty nie będzie doradzał w sprawie leczenia, nawet jeśli klient zapyta.
Przy decyzjach, które mają znaczenie, zostawiam człowieka w pętli. AI przygotowuje, człowiek zatwierdza. Tak działa to w biurach rachunkowych i kancelariach, z którymi pracuję.
Każdą rozmowę agenta zapisuję i przeglądam regularnie, szczególnie na początku wdrożenia. Jeśli agent raz odpowiedział niepoprawnie, poprawiam bazę wiedzy albo instrukcję, żeby błąd się nie powtórzył. Tego samego podejścia możesz używać w małej skali: gdy AI coś zmyśliło, dopisz do swojego szablonu promptu zdanie, które temu zapobiega.
Prosta zasada na koniec
Traktuj odpowiedź AI jak notatkę od nowego współpracownika, który jest bystry, ale czasem pewny siebie bez powodu. Styl i strukturę bierzesz od razu. Fakty sprawdzasz.
Im większa stawka, tym staranniejsza weryfikacja. Post na Facebooka z drobnym błędem to wpadka. Pismo do klienta z nieistniejącym przepisem to realny problem, a odpowiedzialność ponosisz ty, nie narzędzie.
To podejście wynika też z AI Act, który od lutego 2025 roku wymaga, żeby firmy dbały o kompetencje w zakresie AI wśród osób korzystających z tych narzędzi. Umiejętność rozpoznania halucynacji to jedna z pierwszych rzeczy, której warto nauczyć zespół.
Jeszcze jedno: nie wstydź się przyznać przed klientem, że coś sprawdzasz. Lepiej odpowiedzieć godzinę później z pewną informacją niż od razu z wymyśloną. Klienci doceniają rzetelność bardziej niż szybkość.
Mini procedura weryfikacji dla zespołu
W firmach, z którymi pracuję, proponuję prostą procedurę na trzy poziomy. Poziom pierwszy: teksty wewnętrzne i szkice. Wystarczy przeczytać i ocenić, czy ma sens. Poziom drugi: teksty do klientów. Sprawdzasz każdą liczbę, datę i nazwę.
Poziom trzeci: wszystko, co ma skutki prawne, podatkowe, medyczne lub finansowe. Tu obowiązuje sprawdzenie w źródle pierwotnym i podpis osoby odpowiedzialnej. AI może przygotować szkic, ale nie może być jedynym źródłem.
Zapisz tę procedurę w polityce AI firmy i omów na szkoleniu. Ludzie chętniej sprawdzają, kiedy wiedzą, jak głęboko mają sprawdzać. Bez takiej wskazówki jedni sprawdzają wszystko i tracą czas, inni nic i narażają firmę.
Dobrym ćwiczeniem na start jest wspólne szukanie zmyśleń. Zadaj modelowi kilka pytań o twoją branżę i niech zespół wyłapie błędy. Po takiej sesji nikt już nie traktuje odpowiedzi AI jak wyroczni.
Najczęstsze pytania
Czy nowsze modele już nie halucynują?
Halucynują rzadziej, ale nadal się to zdarza. Żaden obecny model nie daje gwarancji prawdziwości odpowiedzi, dlatego weryfikacja faktów pozostaje konieczna.
Czy wyszukiwanie w internecie eliminuje zmyślenia?
Zmniejsza ich liczbę, bo model opiera się na znalezionych stronach. Może jednak źle streścić źródło albo trafić na nierzetelną stronę. Otwieraj linki i sprawdzaj.
Jak rozpoznać, że AI zmyśla?
Po wyglądzie nie rozpoznasz. Sygnałami ostrzegawczymi są bardzo precyzyjne dane bez źródła, różne odpowiedzi na to samo pytanie i linki, które nie działają lub prowadzą gdzie indziej.
Czy agent AI w firmie też może zmyślać?
Może, dlatego dobrze zbudowany agent korzysta z bazy wiedzy firmy (RAG), ma ograniczenia tematów i przekazuje trudne sprawy człowiekowi.
Zobacz też
Potrzebujesz agenta AI, który odpowiada klientom na podstawie twoich dokumentów i nie wymyśla cen? Zbuduję go z bazą wiedzy i kontrolą odpowiedzi.
Kontakt
Masz proces, który zjada czas zespołu?
Napisz dwa zdania o tym, co boli. Odpiszę i powiem wprost, czy warto to automatyzować.
albo zadzwoń +48 735 170 951 · +48 516 461 444
Zwykle odpisuję tego samego dnia.