Kwantyzacja to technika optymalizacji modeli uczenia maszynowego polegająca na redukcji precyzji ich wag i aktywacji, na przykład poprzez konwersję wartości z formatu 32-bitowego na 8-bitowy lub 4-bitowy. Proces ten pozwala na znaczne zmniejszenie rozmiaru modelu, obniżenie zapotrzebowania na pamięć oraz przyspieszenie wnioskowania, co umożliwia uruchamianie zaawansowanych systemów AI na słabszym sprzęcie i urządzeniach mobilnych przy minimalnej utracie dokładności.
Źródło: geeksforgeeks.org
