Guidance (generowanie sterowane) to technika kontrolowania procesów decyzyjnych modeli językowych, która wymusza generowanie odpowiedzi zgodnie z określonym formatem lub strukturą logiczną. Metoda ta pozwala na ograniczenie zbioru dopuszczalnych tokenów w czasie rzeczywistym, co zapewnia wysoką precyzję i przewidywalność wyników, np. przy tworzeniu kodu lub danych w formacie JSON.
📖 Dowiedz się więcej w kontekście:
Reklama
