Jak AI Act klasyfikuje ryzyko?

Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 (AI Act) stanowi fundament pierwszych na świecie kompleksowych ram prawnych i technicznych dla systemów sztucznej inteligencji. Konstrukcja regulacji opiera się na proporcjonalnym podejściu do ryzyka: im wyższy potencjalny wpływ algorytmu na prawa podstawowe, zdrowie i bezpieczeństwo, tym bardziej rygorystyczny zestaw obowiązków nakłada prawodawca. Klasyfikacja techniczna dzieli rozwiązania AI na cztery główne poziomy ryzyka: nieakceptowalne, wysokie, ograniczone oraz minimalne, uzupełnione o odrębne zasady dla modeli ogólnego przeznaczenia (GPAI).

Dlaczego klasyfikacja ryzyka jest podstawą zgodności technicznej i prawnej

AI Act nie stosuje jednolitego reżimu prawnego dla wszystkich architektur sztucznej inteligencji. Regulator rozróżnia proste algorytmy filtrujące od zaawansowanych sieci neuronowych decydujących o przyznaniu kredytu, dostępie do edukacji czy diagnostyce medycznej. Prawidłowe przypisanie systemu do danej kategorii decyduje o wymaganej ścieżce compliance – od bezwzględnego zakazu wdrożenia, przez formalne oceny zgodności, testy odporności i rejestrację w bazach unijnych, aż po realizację technicznych obowiązków informacyjnych. Sankcje finansowe za błędy klasyfikacyjne lub wdrożenie systemów zabronionych sięgają do 35 milionów euro lub do 7% całkowitego rocznego światowego obrotu przedsiębiorstwa.

Poziom 1: Ryzyko nieakceptowalne – systemy bezwzględnie zakazane

Do grupy ryzyka nieakceptowalnego zaliczono technologie, których eksploatacja narusza prawa podstawowe, godność jednostki lub unijne standardy etyczne. Zakazy te weszły w życie 2 lutego 2025 roku i obowiązują bezpośrednio bez jakichkolwiek okresów przejściowych. Każda organizacja operująca na rynku UE ma bezwzględny obowiązek natychmiastowego wycofania takich systemów ze środowiska produkcyjnego.

Katalog rozwiązań zakazanych obejmuje w szczególności:

• Systemy punktacji społecznej (social scoring) – wieloaspektowa ewaluacja zachowań obywateli prowadzona przez organy publiczne lub podmioty prywatne, prowadząca do nieuzasadnionego lub nieproporcjonalnego traktowania.
• Techniki manipulacji podprogowej – komponenty audiowizualne lub behawioralne działające poniżej progu świadomości użytkownika, wywołujące istotne zniekształcenie zachowania i powodujące szkodę fizyczną bądź psychiczną.
• Wykorzystywanie podatności (biometrycznych, wiekowych lub socjoekonomicznych) – ukierunkowana eksploatacja cech osób starszych, dzieci lub osób z niepełnosprawnościami w celu wymuszenia niekorzystnych decyzji.
• Predykcyjna analiza kryminalna oparta wyłącznie na profilowaniu – szacowanie ryzyka popełnienia przestępstwa bazujące wyłącznie na cechach osobowości, historii lokalizacyjnej czy profilu demograficznym, z wyłączeniem obiektywnych dowodów powiązanych ze zdarzeniem.
• Biometryczna kategoryzacja cech wrażliwych – dedukowanie z cech biometrycznych przekonań religijnych, poglądów politycznych, przynależności do związków zawodowych, rasy czy orientacji seksualnej (z wyjątkiem legalnego znakowania materiałów przez policję).
• Rozpoznawanie emocji w miejscu pracy i placówkach edukacyjnych – systemy biometryczne monitorujące stany emocjonalne pracowników lub uczniów, z wyłączeniem ściśle zdefiniowanych zastosowań medycznych lub procedur bezpieczeństwa pracy.
• Zdalna identyfikacja biometryczna w czasie rzeczywistym w miejscach publicznych – stosowanie systemów RBI przez służby porządkowe, dopuszczalne jedynie pod warunkiem uzyskania uprzedniej zgody organu sądowego w enumeratywnie wymienionych przypadkach (np. bezpośrednie zagrożenie zamachem, uprowadzenie dziecka).

Poziom 2: Wysokie ryzyko – rygorystyczny reżim zgodności technicznej

Kategoria wysokiego ryzyka obejmuje rozwiązania, które nie są zakazane, lecz wymagają wdrożenia precyzyjnych procedur zarządzania ryzykiem, jakością danych oraz nadzorem technicznym. Zgodnie ze znowelizowanym harmonogramem prawnym (Digital Omnibus on AI), termin rozpoczęcia obowiązywania wymogów dla samodzielnych systemów z Załącznika III przypada na 2 grudnia 2027 roku, natomiast dla systemów wbudowanych w produkty regulowane z Załącznika I – na 2 sierpnia 2028 roku.

Klasyfikacja ta dzieli się na dwa główne strumienie:

1. Komponenty bezpieczeństwa w produktach regulowanych (Załącznik I): systemy AI zintegrowane jako elementy bezpieczeństwa maszyn przemysłowych, wyrobów medycznych (MDR/IVDR), systemów awioniki, infrastruktury kolejowej czy pojazdów silnikowych podlegających certyfikacji typu.

2. Samodzielne systemy wysokiego ryzyka (Załącznik III):

• Biometria i identyfikacja: systemy zdalnej identyfikacji biometrycznej post-facto oraz dozwolone przypadki biometrycznej kategoryzacji.
• Infrastruktura krytyczna: komponenty bezpieczeństwa w zarządzaniu ruchem drogowym, zaopatrzeniem w wodę, gaz, ciepło oraz sieciami elektroenergetycznymi.
• Kształcenie i szkolenie zawodowe: algorytmy selekcji kandydatów, systemy ewaluacji testów i oceniania postępów edukacyjnych.
• Zatrudnienie i zarządzanie pracownikami: narzędzia parsowania i rankingu CV, zautomatyzowane platformy rekrutacyjne, algorytmy alokacji zadań i monitorowania efektywności.
• Dostęp do kluczowych usług publicznych i prywatnych: scoring kredytowy, ocena ryzyka ubezpieczeń na życie/zdrowotnych, systemy weryfikacji prawa do świadczeń socjalnych.
• Organy ścigania, migracja i wymiar sprawiedliwości: badanie wiarygodności dowodów, ocena ryzyka ucieczki i recydywy, automatyzacja analizy wniosków o azyl lub wizę, wsparcie orzecznictwa sądowego.

Dostawcy systemów wysokiego ryzyka muszą zapewnić: ciągłe zarządzanie ryzykiem w całym cyklu życia (Risk Management System), governance danych treningowych pod kątem eliminacji stronniczości (bias), automatyczne logowanie zdarzeń (logging), dokumentację techniczną Annex IV, mechanizmy nadzoru ludzkiego (Human-in-the-loop / Human-on-the-loop) oraz wpis do centralnej bazy danych UE przed komercyjnym debiutem.

Poziom 3: Ograniczone ryzyko oraz modele GPAI – wymogi przejrzystości

Dla systemów wchodzących w bezpośrednią interakcję z człowiekiem lub generujących treści syntetyczne kluczowy jest wymóg transparentności technicznej na mocy Artykułu 50 AI Act, który wszedł w pełne zastosowanie 2 sierpnia 2026 roku. Równolegle od sierpnia 2025 roku obowiązują wymagania dla dostawców modeli bazowych ogólnego przeznaczenia (GPAI), których egzekwowanie przez Europejski Urząd ds. AI (AI Office) rozpoczęło się w sierpniu 2026 roku.

Główne obszary techniczne i obowiązki w tej kategorii:

• Interaktywne systemy konwersacyjne (chatboty, voiceboty): obowiązek jednoznacznego powiadomienia użytkownika, że komunikuje się z modelem sztucznej inteligencji, zanim dojdzie do przetworzenia zapytania.
• Generatory treści syntetycznych i deepfake: obowiązek maszynowo czytelnego znakowania metadanymi oraz widocznego oznaczania wygenerowanych obrazów, wideo, nagrań audio lub tekstów imitujących rzeczywistość (watermarking, standardy C2PA).
• Modele ogólnego przeznaczenia (GPAI): wymóg publikacji technicznego dossier, karty modelu (Model Card), jawnego podsumowania źródeł danych treningowych pod kątem praw autorskich oraz polityki compliance z unijnym prawem autorskim.
• Modele GPAI o ryzyku systemowym (próg > 10^25 FLOPs skumulowanej mocy obliczeniowej): obowiązek notyfikacji do AI Office, modelowania zagrożeń, przeprowadzania audytów bezpieczeństwa red-teaming oraz raportowania incydentów krytycznych.

Poziom 4: Minimalne lub zerowe ryzyko – swoboda implementacji

Grupa ta obejmuje przeważającą większość komercyjnych rozwiązań na rynku (szacunkowo ponad 80% wdrożeń przemysłowych i biurowych). Systemy te nie stwarzają bezpośredniego zagrożenia dla praw obywateli ani infrastruktury krytycznej, w związku z czym nie są objęte dodatkowymi, restrykcyjnymi obowiązkami administracyjnymi. Zachęca się jednak dostawców do przestrzegania dobrowolnych unijnych kodeksów postępowania.

Przykłady zastosowań w kategorii minimalnego ryzyka:

• Algorytmy filtrujące spam i klasyfikujące wiadomości pocztowe.
• Systemy rekomendacji produktów w sklepach e-commerce i silniki personalizacji gier wideo.
• Optymalizatory tras logistycznych i zużycia energii w instalacjach Smart Building bez ingerencji w sieć przesyłową.
• Narzędzia wspomagające korektę gramatyczną i formatowanie kodu źródłowego.
• Systemy monitorowania zapasów magazynowych na podstawie danych sprzedażowych.

Zbiorcze zestawienie poziomów ryzyka i terminów zgodności

Drzewo decyzyjne kwalifikacji systemu AI krok po kroku

Wdrożenie algorytmu wymaga przejścia ustrukturyzowanej ścieżki weryfikacyjnej w celu zdefiniowania ram compliance:

Krok 1: Weryfikacja pod kątem zakazów (Art. 5)
Czy system realizuje którykolwiek z zabronionych celów (social scoring, manipulacja podprogowa, biometria emocji w pracy/szkole, profilowanie predykcyjne)?

➡ TAK: System jest zakazany. Bezwzględny zakaz wdrażania lub nakaz natychmiastowego wyłączenia.
➡ NIE: Przejdź do Kroku 2.

Krok 2: Weryfikacja komponentów produktów regulowanych (Załącznik I)
Czy model stanowi element bezpieczeństwa w maszynach, sprzęcie medycznym, motoryzacji lub lotnictwie objętym certyfikacją zewnętrzną?

➡ TAK: System wysokiego ryzyka (Załącznik I). Obowiązuje ocena zgodności w ramach dyrektyw sektorowych (termin: 2 sierpnia 2028 r.).
➡ NIE: Przejdź do Kroku 3.

Krok 3: Weryfikacja zastosowań krytycznych (Załącznik III)
Czy narzędzie operuje w obszarach zatrudnienia (HR), scoringu finansowego, edukacji, infrastruktury krytycznej, prawa lub migracji?

➡ TAK: System wysokiego ryzyka (Załącznik III). Obowiązkowy pełen pakiet governance (Art. 9–15) i wpis do bazy UE (termin: 2 grudnia 2027 r.).
➡ NIE: Przejdź do Kroku 4.

Krok 4: Weryfikacja interakcji i generowania treści (Art. 50 & GPAI)
Czy rozwiązanie jest chatbotem, generatorem syntetycznych multimediów (deepfake) lub modelem bazowym AI?

➡ TAK: Kategoria ograniczonego ryzyka / GPAI. Wymagane natychmiastowe oznaczanie treści, logowanie metadanych oraz publikacja dokumentacji technicznej modelu.
➡ NIE: Przejdź do Kroku 5.

Krok 5: Kwalifikacja rezydualna
System zalicza się do minimalnego ryzyka. Brak formalnych restrykcji prawnych poza ogólnymi zasadami cyberbezpieczeństwa i RODO.

Zasada hierarchii ryzyka: Jeżeli system łączy funkcjonalności z różnych poziomów (np. interaktywny chatbot zintegrowany z modułem analizy scoringu kredytowego), całe rozwiązanie podlega rygorom najwyższej zidentyfikowanej kategorii – w tym wypadku wymogom dla systemów wysokiego ryzyka.

Praktyczne zastosowania klasyfikacji i rekomendacje techniczne

Dla zespołów technicznych, architektów oprogramowania i działów prawno-technicznych właściwa klasyfikacja przekłada się na konkretny plan operacyjny w przedsiębiorstwie:

• Inwentaryzacja zasobów i subskrypcji IT: Identyfikacja wszystkich narzędzi ML/AI pracujących w infrastrukturze lokalnej oraz usługach chmurowych SaaS (np. środowiska Copilot, zewnętrzne API LLM). Każda instancja musi posiadać zarejestrowaną kartę techniczną określającą jej rolę biznesową i przypisany poziom ryzyka.
• Implementacja mechanizmów Article 50 Watermarking: Od sierpnia 2026 r. systemy generujące tekst, wideo, dźwięk lub grafikę muszą posiadać techniczne zabezpieczenia znakowania (zarówno wizualne/audialne, jak i wstrzykiwane metadane C2PA/IPTC), umożliwiające jednoznaczną maszynową identyfikację pochodzenia materiału.
• Harmonogramowanie prac dla systemów wysokiego ryzyka: Przesunięcie terminu wdrożenia Załącznika III na 2 grudnia 2027 r. nie zwalnia organizacji z przygotowań. Realizacja wymogów z Artykułów 9–15 (audytowalność danych treningowych, testy na podatności i halucynacje, architektura human-in-the-loop, logowanie telemetrii) wymaga średnio 12–18 miesięcy prac inżynieryjnych.
• Zarządzanie dostawcami trzecimi (Third-Party Risk): Organizacje integrujące zewnętrzne modele GPAI muszą zapewnić, że dostawca dostarcza pełną dokumentację techniczną zgodną z unijnymi szablonami AI Office oraz gwarantuje zgodność z prawami autorskimi.

Źródła

• Komisja Europejska: AI Act – oficjalna platforma i ramy regulacyjne
• Komisja Europejska: Guidelines on transparency obligations under Article 50 AI Act
• Europejski Urząd ds. AI (AI Office): Guidelines for General-Purpose AI model providers
• Parlament Europejski: The timeline of implementation of the AI Act
• CRIDO: Kwalifikacja systemów zgodnie z AI Act
• Wolters Kluwer: Podział systemów AI zgodnie z AI Act
• AuditFront: EU AI Act Compliance Guide – Risk Classification and Timeline