n‑gram – token‑level memory units (n‑gram)

N-gram to ciąg n następujących po sobie elementów, takich jak słowa, litery lub tokeny, w danym fragmencie tekstu. W przetwarzaniu języka naturalnego oraz modelach językowych służy do analizy kontekstu i przewidywania prawdopodobieństwa wystąpienia kolejnego wyrazu. W kontekście pamięci na poziomie tokenów jednostki n-gram pomagają modelowi wychwytywać lokalne zależności oraz powtarzające się wzorce tekstowe. Dzięki temu systemy AI mogą efektywniej generować spójne wypowiedzi i przetwarzać struktury językowe.