Inferencja w czasie rzeczywistym (real-time inference) to proces, w którym wytrenowany model uczenia maszynowego generuje prognozy lub decyzje natychmiast po otrzymaniu nowych danych wejściowych. Charakteryzuje się ona bardzo niskimi opóźnieniami (latencją), co pozwala systemom na błyskawiczne reagowanie na zmieniające się warunki, na przykład w pojazdach autonomicznych, systemach wykrywania oszustw finansowych czy chatbotach. W przeciwieństwie do przetwarzania wsadowego, dane są tu analizowane w sposób ciągły i na żądanie, co umożliwia interaktywne działanie aplikacji.
real-time inference
