NVIDIA NIM (NVIDIA Inference Microservices) to zestaw zoptymalizowanych mikrousług służących do szybkiego wdrażania modeli sztucznej inteligencji na dowolnej infrastrukturze przyspieszanej przez układy GPU. Rozwiązanie to dostarcza gotowe kontenery zawierające modele, silniki inferencyjne oraz standardowe interfejsy API, co pozwala deweloperom na łatwe skalowanie aplikacji generatywnej AI w środowiskach chmurowych i lokalnych.
NIM
