Systemy sztucznej inteligencji wysokiego ryzyka (high-risk AI systems)

Systemy sztucznej inteligencji wysokiego ryzyka (high-risk AI systems) to systemy AI zaliczone przez AI Act do kategorii wymagającej spełnienia rygorystycznych wymogów przed wprowadzeniem do obrotu lub oddaniem do użytku. Katalog takich systemów określa Załącznik III rozporządzenia i obejmuje m.in. systemy stosowane w infrastrukturze krytycznej, edukacji, zatrudnieniu, dostępie do świadczeń publicznych, egzekwowaniu prawa, zarządzaniu migracją oraz wymiarze sprawiedliwości. Ich dostawcy zobowiązani są do przeprowadzenia oceny zgodności, wdrożenia systemu zarządzania ryzykiem, zapewnienia wysokiej jakości danych treningowych oraz umożliwienia nadzoru ludzkiego. Wdrażający systemy wysokiego ryzyka w sektorze publicznym mają z kolei obowiązek przeprowadzenia oceny skutków dla praw podstawowych (FRIA).