Nauka AI
Czego AI nie potrafi: szczera lista od kogoś, kto buduje agentów AI
Dlaczego piszę o ograniczeniach
Buduję agentów AI dla firm. Mógłbym pisać tylko o tym, co AI robi świetnie. Ale najwięcej rozczarowań, jakie widzę, bierze się z przekonania, że AI zrobi wszystko. Firma wdraża narzędzie do zadania, do którego się nie nadaje, a potem uznaje, że „AI nie działa”.
Znajomość ograniczeń pozwala wybrać właściwe zadania. A tych jest naprawdę dużo: obsługa powtarzalnych pytań, streszczanie, pisanie szkiców, porządkowanie danych, umawianie wizyt. Poniżej lista rzeczy, przy których zachowuję ostrożność.
Zastrzeżenie: modele szybko się poprawiają i część ograniczeń słabnie. Nie piszę o tym, czego AI „nigdy” nie zrobi, tylko o tym, na co dziś trzeba uważać w codziennej pracy.
Ta lista nie ma cię zniechęcić. Ma pomóc wybrać zadania, przy których AI da ci realną korzyść i nie narobi kłopotów. Po jej przeczytaniu łatwiej ocenisz, gdzie zaczynać.
AI nie gwarantuje prawdy
Model językowy generuje tekst, który pasuje do pytania. Zwykle jest prawdziwy, czasem nie. Te pomyłki to halucynacje i nie da się ich wyeliminować w stu procentach. Da się je ograniczać, na przykład dając modelowi dokumenty źródłowe.
W praktyce oznacza to, że AI nie powinno samodzielnie wysyłać klientom informacji o cenach, terminach czy warunkach umowy, jeśli nie korzysta z aktualnej bazy wiedzy firmy. Agent, którego buduję, zawsze ma podpięte źródło i instrukcję, co robić, gdy odpowiedzi w nim nie ma.
Jak sprawdzać odpowiedzi w codziennej pracy, opisałem w tekście halucynacje AI.
Warto też pamiętać, że model nie wie, czego nie wie. Nie ma wbudowanego poczucia niepewności, które pojawiłoby się w odpowiednim momencie. Czasem przyzna, że nie jest pewien, ale nie można na tym polegać.
AI nie zna twojej firmy, dopóki mu jej nie pokażesz
Model wie dużo o świecie, ale nic o tym, że pan Nowak jest stałym klientem i zawsze płaci z tygodniowym opóźnieniem. Nie zna twojego cennika, niepisanych zasad ani historii relacji z dostawcą. Tej wiedzy nie ma w danych treningowych.
Można mu ją dać: przez wklejenie kontekstu, przez bazę wiedzy i RAG, przez podłączenie do systemu CRM. Ale to wymaga pracy i porządku w danych. Jeśli cennik istnieje w trzech sprzecznych wersjach, AI nie zgadnie, która jest aktualna.
Model nie uczy się też sam z twoich rozmów w trakcie pracy. To, co powiesz mu dziś, jutro w nowej rozmowie trzeba powtórzyć, chyba że system ma zbudowaną pamięć agenta.
Z tego samego powodu AI nie zauważy, że coś się zmieniło w firmie. Nowy cennik, nowy pracownik, zamknięty oddział. Dopóki ktoś nie zaktualizuje bazy wiedzy, agent będzie odpowiadał według starych danych. Aktualizacja wiedzy to obowiązek, który zostaje po stronie firmy.
AI nie bierze odpowiedzialności
Jeśli AI napisze błędną interpretację podatkową, a ty ją wyślesz klientowi, odpowiadasz ty. Nie dostawca modelu. Dlatego wszędzie, gdzie decyzja ma skutki prawne, finansowe lub zdrowotne, zostawiam człowieka, który ją zatwierdza. To podejście nazywa się human in the loop.
AI Act idzie w tę samą stronę. Przy zastosowaniach wysokiego ryzyka, na przykład w rekrutacji czy ocenie zdolności kredytowej, wymaga nadzoru człowieka. W małej firmie rzadko trafia się takie zastosowanie, ale zasada jest dobra wszędzie.
Praktyczny podział, który stosuję: AI przygotowuje, człowiek decyduje. AI robi szkic odpowiedzi na reklamację, człowiek go akceptuje. AI streszcza CV, człowiek wybiera kandydatów.
W rozmowach telefonicznych, które prowadzą agenci głosowi, widać to szczególnie wyraźnie. Klient zaczyna od pytania o termin, potem wtrąca skargę na poprzednią wizytę, a na koniec pyta o coś zupełnie innego. Dobrze zaprojektowany agent rozpoznaje, że sprawa wykracza poza jego zakres, i łączy z człowiekiem.
Precyzyjne obliczenia i sytuacje nietypowe
Model językowy liczy „na oko”. Proste działania wychodzą, ale przy sumowaniu długiej listy pozycji czy liczeniu odsetek z kilku okresów potrafi się pomylić. Dlatego przy danych liczbowych proszę model o napisanie formuły do arkusza albo o użycie narzędzia do obliczeń. Sam wynik liczbowy traktuję jako szacunek. Przykłady takich poleceń są w kategorii prompty do Excela i danych.
Druga słabość to sytuacje nietypowe. AI dobrze radzi sobie z tym, co częste. Klient z nietypowym problemem, reklamacja z nietypową historią, rozmowa, która zmienia kierunek w połowie: tu model częściej się gubi. Dlatego agent obsługi klienta zawsze ma ścieżkę przekazania sprawy człowiekowi.
W agentach, które mają działać w systemach firmy, używam function calling: model nie liczy sam, tylko wywołuje funkcję, która robi to poprawnie. Model decyduje, co trzeba zrobić, a kod to wykonuje.
AI nie ocenia też, czy coś jest etyczne w twoim konkretnym kontekście. Może napisać bardzo skuteczny tekst sprzedażowy, który jednak wprowadza klienta w błąd. Granice wyznaczasz ty. Model wykona polecenie w ramach swoich ogólnych zasad, ale nie zna twoich wartości ani reputacji, którą budujesz latami.
Empatia, relacje i wyczucie
AI potrafi napisać współczujący tekst. Nie potrafi współczuć. W rozmowie z klientem, który właśnie stracił pieniądze przez twoją pomyłkę, albo z pracownikiem w trudnej sytuacji, ludzie wyczują różnicę. Tam rozmawia człowiek.
Nie zastąpi też wyczucia, które masz po latach w branży. Wiesz, że ten klient nie lubi długich maili, a ta firma zawsze negocjuje. AI może ci pomóc napisać wiadomość, ale decyzję, co w niej napisać, podejmujesz ty.
Najlepsze wdrożenia, jakie widziałem, dzielą pracę właśnie tak: AI zdejmuje z ludzi rutynę, żeby mieli więcej czasu na rozmowy, które wymagają człowieka. Od tego zaczynam każdy projekt, a jeśli chcesz zrozumieć podstawy, zacznij od sekcji nauka AI.
Takie przebudowanie procesu często daje więcej niż próba pełnej automatyzacji. Zamiast agenta, który robi wszystko i czasem się myli, masz agenta, który robi osiemdziesiąt procent pracy dobrze i oddaje resztę człowiekowi. W małej firmie to zwykle najlepszy stosunek korzyści do ryzyka.
Jak z tego korzystać przy wyborze zadań dla AI
Zanim oddasz AI jakieś zadanie, zadaj sobie cztery pytania. Czy to zadanie się powtarza? Czy opiera się głównie na tekście? Czy łatwo sprawdzić, że wynik jest dobry? Czy pomyłka jest do naprawienia bez dużych szkód? Cztery razy tak oznacza dobrego kandydata.
Odpowiedzi na typowe pytania klientów, streszczanie maili, szkice ofert, porządkowanie notatek ze spotkań, opisy produktów: tu zwykle wychodzi cztery razy tak. Samodzielne wysyłanie wezwań do zapłaty, decyzje kadrowe czy porady zdrowotne: tu odpowiedzi na ostatnie pytania są na nie.
Między tymi biegunami jest duża przestrzeń na współpracę. AI przygotowuje, człowiek sprawdza i zatwierdza. Tak wygląda większość wdrożeń, które prowadzę, i właśnie w tej przestrzeni AI daje małym firmom najwięcej.
Jeśli wynik testu cię zaskoczył i uważasz, że zadanie mimo wszystko nadaje się do automatyzacji, porozmawiajmy. Czasem da się je przebudować tak, żeby ryzykowną część robił człowiek, a resztę maszyna.
Najczęstsze pytania
Czy AI zastąpi pracowników w małej firmie?
W większości małych firm AI przejmuje część zadań, a nie całe stanowiska. Najczęściej chodzi o powtarzalne pytania, dokumenty i maile. Ludzie zyskują czas na pracę, której AI nie zrobi dobrze.
Czy AI może podejmować decyzje za mnie?
Może proponować i przygotowywać. Decyzje o skutkach prawnych, finansowych czy dotyczących ludzi powinien zatwierdzać człowiek, bo to on ponosi odpowiedzialność.
Dlaczego AI myli się w prostych obliczeniach?
Bo model językowy przewiduje tekst, a nie liczy jak kalkulator. Przy liczbach poproś o formułę do arkusza lub o użycie funkcji obliczeniowej, jeśli narzędzie ją ma.
Jak sprawdzić, czy moje zadanie nadaje się do AI?
Dobre zadanie jest powtarzalne, oparte na tekście i ma jasne kryteria dobrego wyniku. Jeśli do tego pomyłka jest łatwa do wyłapania, możesz śmiało zaczynać. Pomoże ci tekst pierwsza automatyzacja z AI krok po kroku.
Zobacz też
Nie wiesz, czy twoje zadanie nadaje się do AI? Opisz mi je, a szczerze powiem, co warto zautomatyzować, a czego lepiej nie ruszać.
Kontakt
Masz proces, który zjada czas zespołu?
Napisz dwa zdania o tym, co boli. Odpiszę i powiem wprost, czy warto to automatyzować.
albo zadzwoń +48 735 170 951 · +48 516 461 444
Zwykle odpisuję tego samego dnia.