Halucynacje AI to zjawisko, w którym model językowy generuje informacje nieprawdziwe, zmyślone lub niepoparte źródłami, prezentując je w sposób niezwykle spójny i przekonujący. Wynikają one z probabilistycznej natury technologii, która dąży do przewidywania statystycznie najbardziej prawdopodobnych sekwencji słów zamiast rzeczywistej weryfikacji faktów. Modele często „wypełniają luki” w wiedzy, tworząc wiarygodnie brzmiące daty, nazwiska czy cytaty, co sprawia, że krytyczna weryfikacja i fact-checking są niezbędne w pracy z tą technologią.
Reklama
