128K context window (okno kontekstowe o rozmiarze 128 000 tokenów) to maksymalna ilość danych tekstowych, jaką model językowy (LLM) potrafi jednocześnie przetworzyć i „zapamiętać” w ramach jednej sesji lub zapytania. Taki limit odpowiada w przybliżeniu 96 000 słów lub około 300 stronom standardowej książki, co pozwala modelowi na analizę całych dokumentów, kodu źródłowego czy długich historii konwersacji bez utraty wątku. W tym obszarze pamięci roboczej model mieści zarówno instrukcje systemowe, zapytanie użytkownika, jak i generowaną przez siebie odpowiedź. Przekroczenie tego limitu wymaga skrócenia lub streszczenia tekstu, aby sztuczna inteligencja mogła kontynuować pracę bez błędów.
Źródło: sitespeak.ai
