Top-p, znane również jako nucleus sampling, to parametr sterujący procesem generowania tekstu przez duże modele językowe (LLM). Polega na ograniczeniu wyboru kolejnego słowa do najmniejszego zbioru tokenów, których łączne prawdopodobieństwo osiąga określoną wartość progową p. Niższa wartość p powoduje, że wygenerowany tekst staje się bardziej przewidywalny i skoncentrowany, podczas gdy wyższa wartość zwiększa różnorodność i kreatywność wypowiedzi. W przeciwieństwie do stałego wyboru K najlepszych słów, metoda ta elastycznie dostosowuje liczbę branych pod uwagę tokenów w zależności od pewności modelu.
Top‑p (nucleus sampling parameter for LLM generation) (Top‑p)
