Halucynacja modelu językowego to zjawisko, w którym generatywna sztuczna inteligencja tworzy odpowiedzi brzmiące przekonująco, lecz niezgodne z prawdą lub pozbawione sensu. Wynika to głównie ze stochastycznej natury sieci neuronowych, które przewidują kolejne słowa na podstawie wzorców statystycznych, a nie rzeczywistego rozumienia faktów. Tego typu błędy mogą prowadzić do wprowadzania użytkowników w błąd i stanowią jedno z głównych wyzwań w rozwoju zaawansowanych modeli LLM. Ograniczenie halucynacji wymaga stosowania dodatkowych technik weryfikacji oraz precyzyjnego dostrajania modeli.
Źródło: arxiv.org
