Blog
AI Act a agenci AI: co musi wiedzieć firma wdrażająca sztuczną inteligencję
Czym jest AI Act i dlaczego dotyczy też małych wdrożeń
AI Act, czyli unijne rozporządzenie o sztucznej inteligencji, znane też jako Regulation EU 2024/1689, to pierwsze tak szerokie prawo regulujące systemy AI w całej Unii Europejskiej. W Polsce obowiązuje wprost, z mocy samego rozporządzenia, bez osobnej ustawy krajowej dla większości przepisów. Wyjątkiem są elementy takie jak wyznaczenie krajowego organu nadzoru, które wymagają dodatkowych działań na poziomie państwa. Efekt jest prosty: jeden zestaw zasad dla firm działających w Polsce i w reszcie Unii.
Rozporządzenie obejmuje nie tylko wielkie modele językowe budowane przez duże koncerny technologiczne. Dotyczy każdego systemu AI wdrożonego w firmie, w tym agenta obsługującego klientów, bota na infolinii czy asystenta kadrowego pracującego na dokumentach wewnętrznych. Skala firmy nie ma tu znaczenia prawnego, choć wpływa na to, jak rozbudowana musi być dokumentacja. Mała firma z jednym agentem poradzi sobie z opisem na kilku stronach, duża organizacja potrzebuje bardziej uporządkowanego rejestru wdrożeń.
Ten tekst to praktyczne wprowadzenie, a nie porada prawna. Piszę go z perspektywy kogoś, kto wdraża agentów AI w firmach i na co dzień musi odpowiadać sobie na pytanie, jak dany projekt sklasyfikować i jakie dokumenty przygotować. Przy wątpliwościach, zwłaszcza w sektorach regulowanych jak finanse, ochrona zdrowia czy HR, naprawdę warto skonsultować konkretne wdrożenie z prawnikiem specjalizującym się w prawie nowych technologii, zanim system trafi do produkcji.
Cztery poziomy ryzyka w klasyfikacji AI Act
Rozporządzenie dzieli systemy AI na cztery kategorie ryzyka i od tej klasyfikacji zależy właściwie cała reszta obowiązków. Ryzyko niedopuszczalne to zastosowania zakazane wprost: scoring społeczny obywateli, manipulacyjne techniki wpływające na zachowanie ludzi w sposób szkodliwy, niektóre formy masowej biometrycznej identyfikacji w przestrzeni publicznej. Takich systemów po prostu nie da się wdrożyć na rynku unijnym, niezależnie od branży czy skali firmy.
Ryzyko wysokie dotyczy systemów wpływających na bezpieczeństwo, zatrudnienie, dostęp do kredytu, edukację, opiekę zdrowotną czy wymiar sprawiedliwości. Wiąże się z najbardziej rozbudowanymi obowiązkami: oceną zgodności, dokumentacją techniczną, nadzorem człowieka, rejestracją w odpowiedniej bazie. To kategoria, w której koszt i czas wdrożenia rosną najbardziej. Lepiej wiedzieć o niej jak najwcześniej, najlepiej na etapie projektowania systemu, a nie tuż przed uruchomieniem.
Ryzyko ograniczone to głównie systemy wchodzące w bezpośrednią interakcję z ludźmi, jak chatboty czy asystenci głosowi. Tu najważniejszy jest obowiązek przejrzystości, o którym piszę dalej. Ryzyko minimalne obejmuje większość pozostałych zastosowań, na przykład proste automatyzacje czy filtry spamu, i praktycznie nie generuje dodatkowych obowiązków. Zdecydowana większość wdrożeń typu agent obsługi klienta, którymi się zajmuję, mieści się w kategorii niskiego lub ograniczonego ryzyka. To zawsze zależy od konkretnego zastosowania, nie od samej technologii.
Gdzie mieszczą się agenci AI obsługujący klientów
Agent AI, który odbiera zgłoszenia z WhatsApp, maila, telefonu czy aplikacji, odpowiada na pytania na podstawie dokumentów firmy i wykonuje proste zadania w systemach klienta, w większości przypadków klasyfikuje się jako system niskiego lub ograniczonego ryzyka. Nie podejmuje samodzielnie decyzji wiążących dla klienta, na przykład o przyznaniu kredytu czy zatrudnieniu, więc nie wchodzi automatycznie w kategorię wysokiego ryzyka. Warunek jest jeden: jego zadanie musi faktycznie ograniczać się do informowania i obsługi zgłoszeń.
Sytuacja zmienia się, gdy agent zaczyna wspierać decyzje kadrowe, oceniać zdolność kredytową, kwalifikować pacjentów do zabiegów albo działać w obszarze bezpieczeństwa infrastruktury krytycznej. Wtedy już na etapie projektowania trzeba sprawdzić, czy dane zastosowanie nie wpada w katalog systemów wysokiego ryzyka, bo zmienia to zakres wymaganej dokumentacji i poziom nadzoru człowieka nad decyzjami systemu. I jeszcze jedno: klasyfikacja nie jest jednorazowa, bo zakres funkcji agenta w firmach zwykle rośnie z czasem.
To jest dokładnie ten moment, żeby zweryfikować klasyfikację z prawnikiem, zanim projekt trafi do produkcji, a nie po jego uruchomieniu. Koszt takiej konsultacji na starcie jest zwykle niewielki w porównaniu z kosztem przebudowy systemu i dokumentacji, gdy po fakcie okaże się, że zastosowanie jednak wymagało wyższego poziomu nadzoru niż pierwotnie zakładano. To, co zaczęło się jako proste FAQ na WhatsApp, po kilku miesiącach potrafi obsługiwać znacznie więcej spraw.
Obowiązek przejrzystości, czyli informowanie że rozmawia się z AI
Dla większości agentów AI i asystentów głosowych, o których pisałem wyżej jako o przykładach niskiego lub ograniczonego ryzyka, najważniejszy jest obowiązek przejrzystości. Osoba rozmawiająca z systemem AI powinna mieć możliwość dowiedzenia się, że rozmawia z maszyną, a nie z człowiekiem, chyba że jest to oczywiste z kontekstu. Zwykle wystarczy prosta informacja na starcie rozmowy telefonicznej albo widoczny komunikat w interfejsie czatu czy aplikacji.
Przy asystentach głosowych, które odbierają telefon i mówią naturalnym, ludzko brzmiącym głosem, ten obowiązek nabiera dodatkowego znaczenia. Sama jakość głosu potrafi zamaskować to, że rozmówca ma do czynienia z botem, a nie z pracownikiem infolinii. Dobra praktyka to jasne przedstawienie się na początku rozmowy, na przykład informacja, że dzwoni asystent głosowy firmy, plus szybkie przekierowanie do człowieka, gdy klient o to poprosi.
Przejrzystość dotyczy nie tylko pierwszego kontaktu. Chodzi też o sposób formułowania odpowiedzi. System, który mówi wprost, skąd czerpie wiedzę, na przykład że odpowiada wyłącznie na podstawie bazy wiedzy klienta, buduje zaufanie i spełnia ducha regulacji, a nie tylko jej literę. Klienci rzadko protestują przeciwko rozmowie z botem, jeśli ten szybko i trafnie rozwiązuje ich sprawę, bez zbędnego przełączania między systemami.
Jak praktycznie przygotować firmę na wymogi
Niezależnie od kategorii ryzyka, dobrze mieć podstawowy komplet dokumentacji, zanim agent trafi do produkcji. To opis funkcji systemu i danych, na których działa, prosta ocena ryzyka spisana choćby na dwóch, trzech stronach, informacja o tym, kto w firmie odpowiada za nadzór nad systemem, i jasne zasady eskalacji do człowieka w trudnych, niejasnych lub spornych sprawach. Taki dokument nie musi być rozbudowany, żeby był użyteczny.
Drugi filar to logi działania agenta. Zapis, jakie pytanie dostał system, jaką odpowiedź udzielił i na jakiej podstawie, na przykład z którego dokumentu czy fragmentu bazy wiedzy, przydaje się pod kątem zgodności z AI Act. Ale nie tylko, bo pomaga też w zwykłej kontroli jakości. W projektach, które prowadzę, taki log jest standardem od pierwszego dnia, razem z kontrolą kosztów i zgodnością z RODO.
Trzeci element to jasność co do dostawcy modelu i lokalizacji danych. Firmy coraz częściej pytają, czy dane trafiają poza Unię Europejską, czy da się wdrożyć system w chmurze europejskiej albo on-premise, i czy da się zmienić dostawcę modelu językowego bez przebudowy całego systemu. Te pytania lepiej zadać sobie przed podpisaniem umowy z dostawcą technologii, nie po, bo zmiana architektury w trakcie działania systemu bywa kosztowna.
Gdzie w tym wszystkim jest miejsce na dobrą architekturę
Zgodność z AI Act łatwiej utrzymać, gdy jest wbudowana w architekturę systemu od początku, a nie doklejona na końcu jako dokument w szufladzie, o którym nikt nie pamięta. Routing między wieloma modelami językowymi, możliwość pracy na własnych kluczach API, ustawione limity kosztów, logowanie każdej interakcji, to elementy, które i tak warto mieć w produkcyjnym wdrożeniu GenAI, niezależnie od regulacji. Poprawiają stabilność i przewidywalność kosztów systemu.
Dzięki takiemu podejściu ocena ryzyka i dokumentacja powstają niejako przy okazji budowy systemu, a nie jako osobny projekt odpalany na ostatnią chwilę przed wdrożeniem. Pytanie o AI Act lepiej zadać już na etapie prototypu, nie tuż przed uruchomieniem produkcyjnym, kiedy zmiana architektury jest już dużo trudniejsza. Dwutygodniowy prototyp na prawdziwych danych klienta to dobry moment, żeby sprawdzić, jak system klasyfikuje się pod kątem ryzyka.
Sprawdzenie, jakie dane wchodzą do modelu, gdzie fizycznie są przechowywane logi rozmów i kto w firmie ma dostęp do panelu administracyjnego agenta, zajmuje niewiele czasu na starcie projektu. Miesiące później, gdy system obsługuje realny ruch klientów, poprawianie tego bywa dużo bardziej kosztowne, bo każda zmiana wymaga ostrożności. To jedna z tych rzeczy, które łatwiej zrobić dobrze od razu, niż naprawiać pod presją czasu.
Najczęstsze błędy przy wdrożeniach
Pierwszy błąd to założenie, że skoro agent tylko odpowiada na pytania, to regulacja go w ogóle nie dotyczy. Dotyczy, tylko w niższej kategorii ryzyka, czyli mniej obowiązków, nie zero obowiązków. Drugi częsty błąd to brak jakiejkolwiek pisemnej oceny ryzyka, nawet krótkiej, przez co firma nie ma czym wykazać, że w ogóle przeprowadziła klasyfikację systemu, gdyby ktoś o to zapytał.
Trzeci błąd to ukrywanie tego, że rozmówca rozmawia z AI, w imię lepszych wskaźników konwersji czy wyższej satysfakcji klienta. Krótkoterminowo statystyki mogą wyglądać lepiej. Długoterminowo firma naraża się na ryzyko regulacyjne i wizerunkowe, gdy klient sam to odkryje, choćby z posta w mediach społecznościowych. Odbudowanie zaufania kosztuje wtedy więcej niż uczciwe poinformowanie klienta od początku rozmowy.
Czwarty błąd to traktowanie AI Act jako tematu wyłącznie dla działu prawnego, bez udziału osób technicznych, które wiedzą, jakie dane faktycznie przepływają przez system i gdzie są przechowywane. Prostsza i bezpieczniejsza droga to wspólna praca prawnika i zespołu technicznego od samego początku projektu, nie dopiero po wykryciu problemu. Osoba budująca system wie, co się dzieje z danymi w agencie, prawnik wie, jak to ubrać w wymaganą formę. Te dwie perspektywy najlepiej łączyć od razu, nie na końcu.
Najczęstsze pytania
Czy każdy chatbot na stronie firmowej musi spełniać wymogi AI Act?
Tak, w podstawowym zakresie. Prosty chatbot informacyjny zwykle mieści się w niskim lub ograniczonym ryzyku, więc obowiązki sprowadzają się głównie do poinformowania użytkownika, że rozmawia z AI, i do podstawowej dokumentacji funkcji systemu. To nie porada prawna, więc przy nietypowym zastosowaniu lepiej zweryfikować to indywidualnie z prawnikiem.
Czy asystent głosowy odbierający telefon musi mówić, że jest botem?
Co do zasady tak, jeśli nie jest to oczywiste z kontekstu rozmowy. Dobra praktyka to krótkie przedstawienie się na początku połączenia i jasna ścieżka przekierowania do człowieka, gdy klient o to poprosi albo gdy sprawa wykracza poza wiedzę zapisaną w bazie systemu.
Od czego zacząć przygotowanie firmy do AI Act?
Od prostego przeglądu systemów AI używanych w firmie i wstępnej klasyfikacji ryzyka każdego z nich, choćby na kilku stronach dokumentu. Kolejny krok to logi działania agentów, jasne zasady eskalacji do człowieka i ustalenie, kto w firmie odpowiada za nadzór. Przy wątpliwościach naprawdę warto skonsultować się z prawnikiem.
Czy agent AI wspierający rekrutację zawsze jest systemem wysokiego ryzyka?
Nie zawsze, ale często. Systemy wykorzystywane w rekrutacji i ocenie pracowników zwykle wchodzą w katalog wysokiego ryzyka, a ostateczna kwalifikacja zależy od konkretnej funkcji systemu i tego, jak duży ma wpływ na decyzję o zatrudnieniu. To obszar, w którym naprawdę warto skonsultować projekt z prawnikiem przed wdrożeniem produkcyjnym.
Zobacz też
Planujesz wdrożenie agenta AI i zależy Ci na porządku w dokumentacji i logach od samego startu? Napisz, porozmawiajmy o konkretach.
Kontakt
Masz proces, który zjada czas zespołu?
Napisz dwa zdania o tym, co boli. Odpiszę i powiem wprost, czy warto to automatyzować.
albo zadzwoń +48 735 170 951 · +48 516 461 444
Zwykle odpisuję tego samego dnia.