System AI wysokiego ryzyka to kategoria technologii zdefiniowana w unijnym Akcie o SI, która ze względu na swoje zastosowanie może stwarzać znaczące zagrożenie dla zdrowia, bezpieczeństwa lub praw podstawowych obywateli. Do tej grupy należą systemy wykorzystywane m.in. w infrastrukturze krytycznej, edukacji, rekrutacji, ocenie zdolności kredytowej oraz wymiarze sprawiedliwości. Ich dostawcy i użytkownicy muszą spełniać rygorystyczne obowiązki, takie jak wdrożenie systemu zarządzania ryzykiem, zapewnienie wysokiej jakości danych treningowych oraz utrzymywanie nadzoru ludzkiego nad działaniem algorytmu. Przed wprowadzeniem do obrotu systemy te podlegają obowiązkowej ocenie zgodności i rejestracji w unijnej bazie danych.
📖 Dowiedz się więcej w kontekście:
Reklama
