Okno kontekstowe to maksymalna liczba tokenów, którą model językowy może przetworzyć i uwzględnić w ramach jednej interakcji. Określa ono limit danych wejściowych, takich jak historia rozmowy czy przesłane dokumenty, które AI jest w stanie „zapamiętać” podczas generowania odpowiedzi. Przekroczenie tego rozmiaru powoduje, że model zaczyna tracić wątek lub ignorować najwcześniejsze fragmenty tekstu, co negatywnie wpływa na spójność i trafność wyników.
📖 Dowiedz się więcej w kontekście:
Reklama
