Generowanie strukturalne (structured generation) to technika wymuszająca, aby odpowiedzi modelu językowego były zgodne ze ściśle określonym formatem lub schematem danych, takim jak JSON czy wyrażenia regularne. Zamiast swobodnego tekstu, model tworzy obiekty o zdefiniowanych polach i typach wartości, co umożliwia ich bezpośrednie przetwarzanie przez inne systemy i aplikacje bez ryzyka błędów składniowych. Metoda ta często opiera się na dekodowaniu z ograniczeniami, które na każdym etapie generowania tokenów maskuje opcje niezgodne z założoną strukturą.
📖 Dowiedz się więcej w kontekście:
Reklama
