User instruction tokens to jednostki tekstu stanowiące część zapytania, która zawiera konkretne instrukcje lub wytyczne systemowe określające sposób zachowania i zadania modelu AI. Obejmują one polecenia definiujące rolę asystenta oraz format odpowiedzi, co pozwala na precyzyjne sterowanie procesem generowania treści. Monitorowanie ich liczby jest kluczowe dla efektywnego zarządzania oknem kontekstowym oraz optymalizacji kosztów korzystania z API.
📖 Dowiedz się więcej w kontekście:
Reklama
