Architektura Transformera to zaawansowany model sieci neuronowej oparty na mechanizmie samouwagi (self-attention), który umożliwia analizowanie relacji między wszystkimi elementami sekwencji jednocześnie. Pozwala to na równoległe przetwarzanie danych, co znacząco przyspiesza proces trenowania w porównaniu do tradycyjnych modeli sekwencyjnych. Architektura ta stanowi fundament dla współczesnych dużych modeli językowych (LLM) oraz wielu zaawansowanych systemów sztucznej inteligencji.
Źródło: en.wikipedia.org
