Experts Backend to komponent infrastruktury w rzadkich modelach typu Mixture of Experts (MoE), który odpowiada za wydajne zarządzanie i uruchamianie wyspecjalizowanych warstw ekspertów. System ten umożliwia dynamiczne przydzielanie obliczeń do konkretnych podsieci oraz optymalizuje wykorzystanie pamięci VRAM poprzez ładowanie tylko tych wag, które są aktualnie wymagane przez mechanizm bramkowania.
Experts Backend
