Batch inference (wnioskowanie wsadowe) to proces generowania przewidywań przez model uczenia maszynowego na dużym zbiorze danych wejściowych jednocześnie, zamiast przetwarzania pojedynczych zapytań w czasie rzeczywistym. Technika ta jest optymalizowana pod kątem wysokiej przepustowości i efektywności kosztowej, a zadania są zazwyczaj uruchamiane cyklicznie zgodnie z harmonogramem. Wyniki są zapisywane w bazie danych lub magazynie plików, skąd mogą być później pobrane przez aplikacje lub systemy analityczne.
Źródło: learn.microsoft.com
