Rzadka architektura (Sparse Architecture) to model sieci neuronowej, w którym tylko część wag lub aktywacji jest aktywna podczas wykonywania obliczeń. W przeciwieństwie do gęstych architektur, nie wszystkie połączenia między neuronami biorą udział w przetwarzaniu każdego sygnału wejściowego. Takie podejście pozwala na znaczną redukcję zapotrzebowania na pamięć oraz zmniejszenie złożoności obliczeniowej bez znacznej utraty dokładności modelu. Dzięki temu rzadkie architektury umożliwiają efektywniejsze trenowanie oraz szybsze wnioskowanie na urządzeniach o ograniczonych zasobach.




