GenAI w produkcie

Wdrożenie GenAI w firmie: integracja LLM z CRM i ERP

Podłączam model językowy do CRM, ERP i bazy wiedzy firmy. Routing między ponad 35 modelami, własne klucze API, limity kosztów i dane w UE od pierwszego dnia.

GenAI dla firm to nie kolejny chatbot doklejony do strony. To model językowy podłączony bezpośrednio do systemów, w których firma już pracuje: CRM, ERP, baza wiedzy, dokumenty wewnętrzne. Model odpowiada na pytania klientów i pracowników na podstawie prawdziwych danych firmy, a nie ogólnej wiedzy z internetu. Buduję integracje GenAI dla małych i średnich firm w Polsce, głównie dla działów HR, obsługi klienta, sprzedaży i operacji. Zależy im, żeby model językowy realnie skracał czas pracy zespołu, a nie tylko robił wrażenie na demo.

Integracja LLM z CRM czy ERP to coś więcej niż jedno wywołanie API. To routing między dziesiątkami modeli, żeby zapytanie trafiało tam, gdzie pasuje do zadania i budżetu. To też kontrola kosztów, żeby rachunek za API nie zaskoczył pod koniec miesiąca. I decyzja, gdzie fizycznie leżą dane firmy: w chmurze klienta, w chmurze UE, czy on-premise. Pracuję na stacku Anthropic, OpenAI, protokole MCP i tool use. Dzięki temu model nie tylko odpowiada, ale też wykonuje zadania w systemach klienta.

Czym jest GenAI w produkcie i dla kogo

GenAI w produkcie oznacza podłączenie modelu językowego do konkretnego systemu firmy (CRM, ERP, wewnętrznej bazy wiedzy czy dokumentacji), tak żeby odpowiadał na pytania i wykonywał zadania na prawdziwych danych, a nie na ogólnej wiedzy z treningu. Różnica jest praktyczna. Model zna aktualny stan zamówień, procedury firmy czy zapisy w regulaminie, zamiast zgadywać na podstawie tego, co przeczytał w internecie.

Taka integracja ma sens dla firm, w których duża część pracy to szukanie informacji i odpowiadanie na powtarzalne pytania. Dział HR odpowiada na pytania o urlopy i dokumenty kadrowe, obsługa klienta sprawdza status zamówienia w CRM, sprzedaż szuka historii kontaktu z klientem. Kieruję to do małych i średnich firm w Polsce oraz klientów z UE, którzy mają już CRM albo ERP i chcą, żeby model językowy z niego korzystał, zamiast być osobnym, oderwanym narzędziem.

Jak to działa technicznie

Rdzeniem integracji jest routing między więcej niż 35 modelami językowymi. Proste pytanie trafia do tańszego i szybszego modelu, a złożona analiza dokumentu prawnego już do modelu mocniejszego. Routing obniża koszty i skraca czas odpowiedzi, bo nie każde zapytanie wymaga najdroższego modelu na rynku. Do tego dochodzi tool use i protokół MCP. Dzięki nim model nie tylko generuje tekst, ale wywołuje funkcje w CRM czy ERP klienta: tworzy rekord, aktualizuje status, wysyła dokument.

Gdy baza wiedzy firmy liczy setki czy tysiące dokumentów, samo umieszczenie ich w oknie kontekstu modelu nie wystarcza. Wtedy stosuję RAG, czyli wyszukiwanie fragmentów dokumentów pasujących do pytania i dostarczenie ich modelowi jako kontekstu. Często łączę przy tym wyszukiwanie semantyczne z klasycznym BM25 po słowach kluczowych. Model odpowiada na podstawie konkretnego fragmentu, a nie z pamięci, co obniża ryzyko zmyślonych odpowiedzi.

Klient może korzystać z własnych kluczy API (BYOK), co daje pełną kontrolę nad kosztami i danymi rozliczeniowymi. Ustawiam też limity kosztów na poziomie modelu i użytkownika, żeby integracja nie generowała niekontrolowanych rachunków.

Zastosowania: od CRM po dokumenty kadrowe

Dobry przykład integracji GenAI z bazą wiedzy to Janina, asystentka kadrowa działająca w produkcji od 2026 roku. Odpowiada na pytania kadrowe na podstawie 40 aktów prawnych i ponad 900 dokumentów, w tym orzecznictwa Sądu Najwyższego, korzystając z RAG hybrydowego łączącego wyszukiwanie semantyczne z BM25. Każda odpowiedź ma numer artykułu ustawy, więc dział HR może ją zweryfikować, a nie tylko zaufać na słowo.

Janina pilnuje terminów ZUS i PIT, generuje dokumenty kadrowe i integruje się z KSeF, a dane pracowników są pseudonimizowane. Działa na WhatsApp, czyli tam, gdzie pracownicy i tak już piszą. To pokazuje wzorzec, który powtarzam w innych wdrożeniach: model podłączony do konkretnej, dużej bazy dokumentów, z cytowaniem źródła i integracją z systemem, którego firma już używa. Niekoniecznie kadrowym, równie dobrze może to być CRM sprzedażowy czy system zgłoszeń serwisowych.

Integracje i stack technologiczny

Pod względem stacku pracuję głównie na modelach Anthropic i OpenAI, protokole MCP do komunikacji między modelem a narzędziami, tool use do wywoływania funkcji w systemach klienta oraz bazach wektorowych do wyszukiwania semantycznego w dokumentach. Wybór konkretnego modelu i bazy wektorowej zależy od tego, jakich systemów już używa klient i ile ma dokumentów do przeszukania.

Hosting agentów i modeli może działać na osobnym serwerze na każdego agenta, w chmurze UE albo on-premise, z automatycznym failoverem między ponad 35 modelami LLM. Tak działa to na przykład w ClawLabs, gdzie prowadzę hosting agentów AI w produkcji z obsługą 13 kanałów komunikacji i własnymi aplikacjami w Microsoft Store i Google Play. To zaplecze pozwala przenieść ten sam model infrastruktury do integracji GenAI w konkretnej firmie.

Ile to kosztuje i ile trwa wdrożenie

Proces zaczynam od godzinnej rozmowy, w której klient mówi, co zajmuje czas jego zespołu, a ja mówię, co da się zautomatyzować i jakie systemy trzeba podłączyć. Po niej buduję prototyp, zwykle w dwa tygodnie, działający na prawdziwych danych klienta, nie na przykładowych. Dopiero po prototypie ustalamy uruchomienie produkcyjne: chmura klienta, chmura UE albo on-premise, logi, kontrola kosztów i RODO od pierwszego dnia.

Na rynku polskim i unijnym orientacyjne widełki cenowe za wdrożenie integracji GenAI w 2026 roku wahają się zwykle od kilkunastu do kilkudziesięciu tysięcy złotych za pierwszy etap, w zależności od liczby integrowanych systemów i wielkości bazy wiedzy. To ogólna, rynkowa orientacja, nie sztywny cennik tej konkretnej usługi. Ostateczny koszt i termin ustalam po rozmowie, kiedy zobaczę, z jakimi systemami i danymi trzeba pracować.

Kiedy GenAI w produkcie ma sens, a kiedy nie

Integracja GenAI ma sens, gdy firma ma powtarzalny proces oparty na dokumentach lub danych w systemie, a wolumen pytań jest na tyle duży, że automatyzacja realnie odciąża zespół. Ma też sens, gdy dane firmy są wrażliwe i wymagają przetwarzania w UE albo on-premise. To ustalam od pierwszego dnia, razem z pseudonimizacją tam, gdzie jest potrzebna.

Nie warto wdrażać GenAI, gdy proces dotyczy pojedynczych, rzadkich przypadków, gdzie ręczna obsługa jest szybsza niż budowa i utrzymanie integracji, albo gdy dokumentacja firmy jest na tyle niekompletna czy niespójna, że model nie ma z czego czerpać wiarygodnych odpowiedzi. W takich sytuacjach mówię to wprost już na etapie rozmowy, zamiast sprzedawać wdrożenie, które się nie zwróci.

Jak to działa

  1. 01

    Rozmowa

    Godzinna rozmowa o tym, jakie systemy i dane ma podłączyć model oraz co realnie zajmuje czas zespołu.

  2. 02

    Prototyp

    W dwa tygodnie buduję działającą integrację na prawdziwych danych klienta, nie na przykładach.

  3. 03

    Uruchomienie

    Wybór infrastruktury: chmura klienta, chmura UE albo on-premise, wraz z logami, limitami kosztów i RODO.

  4. 04

    Opieka

    Ciągły monitoring, aktualizacje modeli i routingu tak długo, jak firma tego potrzebuje.

Najczęstsze pytania

Czym różni się integracja GenAI od zwykłego chatbota na stronie?

Chatbot na stronie zwykle odpowiada z ogólnej wiedzy modelu i nie ma dostępu do danych firmy. Integracja GenAI podłącza model bezpośrednio do CRM, ERP czy bazy wiedzy, więc odpowiada na podstawie aktualnych danych klienta i może wykonywać zadania w tych systemach, a nie tylko prowadzić rozmowę.

Czy dane firmy trafiają poza Unię Europejską?

Nie musi tak być. Infrastrukturę ustalam z klientem od pierwszego dnia: chmura klienta, chmura w UE albo on-premise. RODO i lokalizacja danych to część rozmowy już na etapie prototypu, nie dodatek na końcu wdrożenia.

Po co routing między ponad 35 modelami językowymi?

Różne zadania wymagają różnych modeli. Proste pytanie o status zamówienia nie potrzebuje najdroższego modelu na rynku, a analiza długiego dokumentu prawnego już tak. Routing kieruje zapytanie do modelu dopasowanego do zadania i budżetu, co obniża koszty bez utraty jakości tam, gdzie jakość jest krytyczna.

Ile kosztuje wdrożenie GenAI w firmie?

To zależy od liczby systemów do integracji, wielkości bazy wiedzy i wybranej infrastruktury. Orientacyjne widełki rynkowe w Polsce i UE w 2026 roku to zwykle kilkanaście do kilkudziesięciu tysięcy złotych za pierwszy etap. To ogólna orientacja rynkowa, nie cennik tej konkretnej usługi. Dokładną wycenę podaję po rozmowie.

Czy mogę użyć własnych kluczy API do modeli (BYOK)?

Tak. Integracja może działać na własnych kluczach API klienta, co daje pełną kontrolę nad rozliczeniami i pozwala korzystać z już wynegocjowanych warunków z dostawcą modelu. Ustawiam przy tym limity kosztów, żeby wydatki zostały pod kontrolą.

Czy da się to podłączyć do konkretnego, już działającego CRM lub ERP?

Tak, to jest właśnie sens tej usługi. Model łączę z systemem, którego firma już używa, przez API i tool use, zamiast namawiać na migrację do nowego narzędzia. Zakres integracji, czyli co model może czytać, a co zapisywać, ustalamy razem na etapie prototypu.

AI Act a agenci AI: co musi wiedzieć firma wdrażająca sztuczną inteligencję

Unijne rozporządzenie o sztucznej inteligencji obejmuje też agentów AI działających w polskich firmach. Piszę, jak ocenić ryzyko i na co naprawdę warto się przygotować.

Czytaj artykuł

Integracja agenta AI z CRM i ERP - jak podłączyć AI do systemu firmowego

Jak realnie wygląda podłączenie agenta AI do CRM, ERP czy systemu rezerwacji: API, tool use, protokół MCP, uprawnienia i RODO w jednym miejscu.

Czytaj artykuł

Ile kosztuje wdrożenie agenta AI i kiedy zwraca się inwestycja

Rozkładam na czynniki pierwsze koszt wdrożenia agenta AI i pokazuję, jak w praktyce liczę ROI automatyzacji - od prototypu po utrzymanie w produkcji.

Czytaj artykuł

Opowiedz mi, jaki system chcesz podłączyć do modelu językowego. W 60 minut powiem, co da się zautomatyzować.

Umów rozmowę

Kontakt

Masz proces, który zjada czas zespołu?

Napisz dwa zdania o tym, co boli. Odpiszę i powiem wprost, czy warto to automatyzować.

albo zadzwoń +48 735 170 951 · +48 516 461 444

Zwykle odpisuję tego samego dnia.

Znajdziesz mnie też tutaj

GitHubLinkedInX