Prompt system tokens to jednostki tekstu pochodzące z ukrytych instrukcji systemowych (system prompts), które definiują rolę, styl oraz zasady bezpieczeństwa modelu AI przed interakcją z użytkownikiem. Stanowią one część całkowitej liczby tokenów wejściowych (input tokens) i bezpośrednio wpływają na koszt oraz wykorzystanie okna kontekstowego, mimo że nie są widoczne w treści zapytania użytkownika.
📖 Dowiedz się więcej w kontekście:
Reklama
