Współczynnik uczenia (η) (learning rate)

Współczynnik uczenia (learning rate) to kluczowy hiperparametr w uczeniu maszynowym, który określa wielkość kroku wykonywanego przez algorytm w kierunku minimum funkcji kosztu podczas każdej iteracji. Decyduje on o tym, jak bardzo aktualizowane są wagi modelu na podstawie obliczonego gradientu błędu. Odpowiednio dobrana wartość pozwala na stabilną zbieżność procesu optymalizacji, podczas gdy zbyt wysoki współczynnik może prowadzić do przeskoczenia minimum, a zbyt niski do drastycznego wydłużenia czasu nauki. Jest to jeden z najważniejszych parametrów kontrolowanych przez programistę przed rozpoczęciem procesu trenowania sieci neuronowej lub modelu regresji.

Powiązane posty

Zacznij wpisywać wyszukiwane hasło powyżej i naciśnij Enter, aby wyszukać. Naciśnij ESC, aby anulować.

Powrót do góry