Gęsta architektura w kontekście sieci neuronowych odnosi się do modelu, w którym każdy neuron w danej warstwie jest połączony ze wszystkimi neuronami w warstwie poprzedniej i następnej. W przeciwieństwie do architektur rzadkich, w tym podejściu podczas przetwarzania danych aktywowane są wszystkie wagi i parametry sieci. W wielkich modelach językowych gęsta architektura zapewnia wysoką spójność oraz stałą wydajność reprezentacji, choć wymaga większych zasobów obliczeniowych i pamięciowych. Jest to tradycyjny wzorzec projektowy, stanowiący fundament wielu klasycznych struktur uczenia głębokiego.




