Co to jest few-shot prompting? Prompt z przykładami, który działa lepiej

Zero-shot, one-shot, few-shot

Nazwy mówią, ile przykładów dostaje model. Zero-shot to samo polecenie, one-shot to polecenie z jednym przykładem, few-shot z kilkoma. Termin spopularyzowała praca OpenAI z 2020 roku o modelu GPT-3, zatytułowana „Language Models are Few-Shot Learners”. Pokazała, że duże modele uczą się nowego zadania z samych przykładów w prompcie, bez żadnego trenowania.

Przykład

Chcesz, żeby model przypisywał maile od klientów do kategorii. Zamiast pisać długą definicję każdej kategorii, dajesz trzy przykłady: „Mail: »Kiedy przyjdzie moja paczka?« Kategoria: status zamówienia”, „Mail: »Chcę oddać buty, są za małe« Kategoria: zwrot”, „Mail: »Czy macie ten model w czarnym?« Kategoria: pytanie o produkt”. Po takich przykładach model trzyma się dokładnie tych nazw kategorii i tego formatu.

Jak dobierać przykłady

Zwykle wystarczają trzy do pięciu. Powinny różnić się od siebie i obejmować też trudniejsze przypadki, bo model uczy się granic kategorii właśnie na nich. Uważaj na przykłady zbyt podobne do siebie: model zacznie je kopiować, łącznie z długością i konkretnymi sformułowaniami.

Few-shot to najtańszy sposób na powtarzalne odpowiedzi. Jeśli potrzebujesz setek przykładów, żeby model zrozumiał zadanie, to znak, że warto rozważyć fine-tuning. Gotowe prompty z przykładami znajdziesz w bibliotece promptów.