Pierwsze kroki z Lokalnym AI

Zbuduj własne, prywatne AI. Zobacz kompleksowe zestawienie poradników – od instalacji pierwszej aplikacji po zaawansowanych agentów. Sprawdź poradnik

Reparameterization trick for stochastic gradient estimation (Reparameterization trick)

Sztuczka reparametryzacyjna (ang. reparameterization trick) to technika stosowana w uczeniu maszynowym, głównie w wariacyjnych autoenkoderach (VAE), umożliwiająca wsteczną propagację błędów przez węzły stochastyczne. Polega ona na wydzieleniu losowości z procesu próbkowania i wyrażeniu zmiennej losowej jako deterministycznej funkcji parametrów oraz zewnętrznego szumu. Dzięki temu możliwe jest obliczanie gradientów względem parametrów rozkładu i efektywne trenowanie modeli generatywnych za pomocą metody spadku gradientu. Technika ta znacząco ułatwia optymalizację stochastycznych sieci neuronowych.

Źródło: arxiv.org

Powiązane posty

Powrót do góry