Block pruning to technika optymalizacji modeli uczenia maszynowego, polegająca na usuwaniu całych bloków warstw z architektury sieci neuronowej. W przeciwieństwie do tradycyjnego przycinania pojedynczych wag, metoda ta usuwa spójne struktury, co znacząco zmniejsza rozmiar modelu. Dzięki temu przyspiesza się czas wnioskowania i redukuje zapotrzebowanie na pamięć bez konieczności modyfikowania fizycznej struktury obliczeniowej. Rozwiązanie to jest szczególnie stosowane w skracaniu dużych modeli językowych oraz sieci typu Transformer.
Źródło: github.com
