Co to jest system prompt i co w nim zapisać?

Czym różni się od zwykłego promptu

Zwykły prompt to pojedyncza wiadomość. System prompt obowiązuje przez całą rozmowę i modele traktują go z wyższym priorytetem niż wiadomości użytkownika. W ChatGPT jego odpowiednikiem są własne instrukcje i instrukcje w GPT, w Claude instrukcje projektu. W agentach i chatbotach firmowych pisze go twórca, a klient go nie widzi.

Co w nim zapisuję

Rolę i ton („jesteś asystentem recepcji kliniki, piszesz uprzejmie i krótko”). Zakres, czyli o czym rozmawiać, a co odsyłać do człowieka. Twarde zasady: czego nigdy nie obiecywać, jakich danych nie podawać. Zachowanie przy braku wiedzy: „jeśli odpowiedzi nie ma w dokumentach, powiedz, że sprawdzisz, i przekaż sprawę”. Zasady korzystania z narzędzi. Format odpowiedzi.

Przy agencie obsługującym klientów to potrafi być kilkaset linii. Nie dlatego, że długie jest lepsze, tylko dlatego, że każda linia odpowiada na sytuację, która naprawdę się zdarzyła.

Najczęstsze błędy

Sprzeczne zasady, które narastają, bo każdy dopisuje swoje („bądź zwięzły”, a dwadzieścia linii niżej „zawsze wyjaśniaj szczegółowo”). Lista samych zakazów bez wskazania, co robić zamiast. I trzymanie w system prompcie rzeczy, które nie powinny wyciec: haseł, kluczy, wewnętrznych marż. System prompt nie jest sejfem, da się go wyciągnąć przez prompt injection.

Każdą zmianę w system prompcie traktuję jak zmianę w kodzie: wersja, opis, co się zmieniło, i test na zestawie zapisanych rozmów. Więcej o tej pracy przy haśle prompt engineering.