FP32 (Single Precision Floating Point) to standardowy format zapisu liczb zmiennoprzecinkowych wykorzystujący 32 bity, co zapewnia optymalny balans między precyzją obliczeń a wydajnością sprzętową. Składa się z 1 bitu znaku, 8 bitów wykładnika oraz 23 bitów mantysy, co pozwala na reprezentowanie szerokiego zakresu wartości stosowanych powszechnie w uczeniu maszynowym i badaniach naukowych. Przez lata był to domyślny format trenowania sieci neuronowych, choć obecnie w celu optymalizacji pamięci i przyspieszenia wnioskowania często zastępuje się go formatami o niższej precyzji, takimi jak FP16 czy BF16.
📖 Dowiedz się więcej w kontekście:
Reklama
