Przepustowość (throughput) to wskaźnik określający ilość danych, jaką system AI lub sieć komunikacyjna jest w stanie przetworzyć lub przesłać w jednostce czasu, zazwyczaj mierzony w bitach na sekundę lub liczbie tokenów na sekundę. W kontekście uczenia maszynowego wysoka przepustowość oznacza zdolność modelu do obsługi dużej liczby zapytań jednocześnie, co jest kluczowe dla wydajności systemów produkcyjnych. Parametr ten pozwala ocenić realną efektywność infrastruktury sprzętowej i programowej przy maksymalnym obciążeniu pracą.
📖 Dowiedz się więcej w kontekście:
Reklama
