Generative Pre-trained Transformer (GPT) to zaawansowany model językowy oparty na architekturze sieci neuronowych typu Transformer. Przed przystąpieniem do wykonywania konkretnych zadań jest on wstępnie trenowany na ogromnych zbiorach danych tekstowych, co pozwala mu rozumieć kontekst i strukturę języka. Model ten potrafi generować spójne, płynne i naturalnie brzmiące odpowiedzi tekstowe na podstawie podanych zapytań. Dzięki swojej wszechstronności znajduje szerokie zastosowanie w tworzeniu treści, tłumaczeniach maszynowych oraz automatyzacji komunikacji.
Źródło: arxiv.org
