Współczynnik uczenia (learning rate) to kluczowy hiperparametr w uczeniu maszynowym, który określa wielkość kroku wykonywanego przez algorytm w kierunku minimum funkcji kosztu podczas każdej iteracji. Decyduje on o tym, jak bardzo aktualizowane są wagi modelu na podstawie obliczonego gradientu błędu. Odpowiednio dobrana wartość pozwala na stabilną zbieżność procesu optymalizacji, podczas gdy zbyt wysoki współczynnik może prowadzić do przeskoczenia minimum, a zbyt niski do drastycznego wydłużenia czasu nauki. Jest to jeden z najważniejszych parametrów kontrolowanych przez programistę przed rozpoczęciem procesu trenowania sieci neuronowej lub modelu regresji.
Współczynnik uczenia (η) (learning rate)
Źródło: en.wikipedia.org




