Spadek gradientu to algorytm optymalizacji iteracyjnej stosowany w uczeniu maszynowym do minimalizacji funkcji kosztu poprzez stopniową aktualizację parametrów modelu. Proces ten polega na obliczaniu pochodnych cząstkowych i przesuwaniu się w kierunku przeciwnym do wektora gradientu, co odpowiada szukaniu najstromszego zejścia do lokalnego minimum. Dzięki powtarzaniu tych kroków system koryguje wagi i błędy, aż do osiągnięcia punktu konwergencji, w którym błąd między przewidywaniami a rzeczywistymi danymi jest najmniejszy. Metoda ta jest kluczowa dla trenowania większości modeli, od prostej regresji liniowej po złożone sieci neuronowe.
Spad gradientu (Gradient Descent) (gradient descent)
Źródło: developers.google.com




