Kategorie ryzyka w AI Act w prostych słowach: 4 poziomy z przykładami

Kategorie ryzyka w AI Act przypisują każdy system AI do jednego z czterech poziomów: niedopuszczalne ryzyko (zakazane), wysokie ryzyko, ograniczone ryzyko z obowiązkami w zakresie przejrzystości i minimalne ryzyko. Decydująca jest nie technologia, lecz konkretny cel zastosowania. Ta klasyfikacja określa, jakie obowiązki mają zastosowanie i jak wysokie jest ryzyko kar.

Ważna uwaga na wstępie: AI Act (rozporządzenie (UE) 2024/1689) nie zawiera odrębnego pojęcia prawnego dla agentów AI ani dla agentowej AI. Agent AI jest zawsze klasyfikowany jako zwykły system AI w rozumieniu art. 3 pkt 1, na podstawie celu zastosowania. Właśnie dlatego warto dokładnie przyjrzeć się czterem kategoriom ryzyka.

• Cztery kategorie, jedno kryterium: klasyfikacja zależy od przypadku użycia, a nie od modelu. Ten sam chatbot może w zależności od zadania stwarzać minimalne albo wysokie ryzyko.
• Większość zastosowań B2B nie jest krytyczna: agenci marketingowi, wewnętrzni asystenci wiedzy i boty obsługi klienta niemal zawsze trafiają do dwóch najniższych kategorii.
• Wysokie ryzyko wynika z celu: selekcja kandydatów w HR, scoring kredytowy czy ustalanie cen ubezpieczeń przenoszą system AI do obszaru wysokiego ryzyka. W takim przypadku objętym załącznikiem III profilowanie osób fizycznych zawsze pozostaje wysokim ryzykiem.

Przegląd czterech kategorii ryzyka

AI Act opiera się na tzw. piramidzie ryzyka. Im wyższe potencjalne ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych, tym surowsze obowiązki. Poniższa tabela zestawia kategorie ryzyka, typowe przykłady i najważniejsze obowiązki.

Ważne: poziomy nie wykluczają się wzajemnie. Jeden agent może jednocześnie być systemem wysokiego ryzyka (art. 6) i podlegać obowiązkom przejrzystości z art. 50. Do modelu bazowego stosuje się dodatkowo przepisy dotyczące GPAI, które obciążają dostawcę modelu.

Poziom 1: niedopuszczalne ryzyko (zakazane, art. 5)

Osiem praktyk jest całkowicie zakazanych w całej UE. Zakazy obowiązują już od 2 lutego 2025 i są objęte najwyższym progiem kar. Szczególnie istotne dla marketingu i HR:

• Techniki manipulacyjne lub wprowadzające w błąd wyrządzające poważną szkodę, np. agenci marketingowi zoptymalizowani pod kątem perswazji, którzy wykorzystują błędy poznawcze poniżej progu świadomej percepcji (art. 5 ust. 1 lit. a).
• Wykorzystywanie słabości wynikających z wieku, niepełnosprawności lub sytuacji społeczno-ekonomicznej, np. agenci, którzy kierują do starszych klientów niekorzystne produkty finansowe (lit. b).
• Scoring społeczny prowadzony przez podmioty publiczne lub prywatne, skutkujący krzywdzącym traktowaniem w niepowiązanych kontekstach (lit. c).
• Rozpoznawanie emocji w miejscu pracy i w instytucjach edukacyjnych. Agent HR analytics, który na podstawie wideo, audio lub danych biometrycznych wnioskuje o nastroju, koncentracji lub stresie pracowników, jest w kontekście pracy zakazany (lit. f). Wyjątki ze względów medycznych i bezpieczeństwa są wąskie.

Digital Omnibus uzupełnia art. 5 o dwa zakazy: systemy AI, które bez zgody generują realistyczne wizerunki seksualne możliwych do zidentyfikowania osób, oraz systemy AI generujące materiały przedstawiające seksualne wykorzystywanie dzieci. Zgodnie z harmonogramem Komisji Europejskiej zakazy te obowiązują od 2 grudnia 2026.

Poziom 2: system AI wysokiego ryzyka (art. 6, załączniki III i I)

Do obszaru wysokiego ryzyka prowadzą dwie drogi. Załącznik I obejmuje AI jako element bezpieczeństwa produktów regulowanych (np. maszyn, wyrobów medycznych). Załącznik III wymienia osiem samodzielnych kategorii, a wśród nich szczególnie istotne dla B2B są:

• Zatrudnienie i zarządzanie pracownikami (pkt 4): rekrutacja, selekcja CV, ocena wyników, awans, zwolnienie, przydzielanie zadań.
• Podstawowe usługi prywatne i publiczne (pkt 5): ocena zdolności kredytowej i scoring kredytowy (z wyjątkiem wykrywania oszustw), ocena ryzyka i ustalanie cen w ubezpieczeniach na życie i zdrowotnych.
• Infrastruktura krytyczna (pkt 2): AI jako element bezpieczeństwa w zarządzaniu dostawami energii elektrycznej, wody i gazu lub ruchem drogowym.

Ważny wyjątek przewiduje art. 6 ust. 3: nawet przypadek użycia z załącznika III nie stanowi wysokiego ryzyka, jeśli system wykonuje jedynie wąsko określone zadanie proceduralne, poprawia wynik zakończonej czynności człowieka, wykrywa odstępstwa bez zastępowania oceny dokonanej przez człowieka albo wykonuje zadanie przygotowawcze. Jednak profilowanie osób fizycznych zawsze pozostaje wysokim ryzykiem i jest wyłączone z tego wyjątku (art. 6 ust. 3 akapit 3). Kto powołuje się na wyjątek, musi udokumentować uzasadnienie i dokonać rejestracji w unijnej bazie danych (art. 6 ust. 4, art. 49 ust. 2).

Systemy wysokiego ryzyka wymagają m.in. systemu zarządzania ryzykiem (art. 9), zarządzania danymi (art. 10), dokumentacji technicznej (art. 11 wraz z załącznikiem IV), rejestrowania zdarzeń (art. 12), nadzoru ze strony człowieka (art. 14) oraz dokładności, solidności i cyberbezpieczeństwa (art. 15). Na podmioty stosujące nakłada się dodatkowo obowiązki z art. 26, w tym często niedoceniany obowiązek poinformowania pracowników i ich przedstawicieli przed wdrożeniem systemu (art. 26 ust. 7).

Poziom 3: ograniczone ryzyko i obowiązki w zakresie przejrzystości (art. 50)

Tu trafia większość zastosowań marketingowych i służących do dialogu z klientem. Obowiązują wyłącznie obowiązki w zakresie przejrzystości, bez istotnych wymogów dotyczących wysokiego ryzyka:

• Art. 50 ust. 1: systemy AI, które wchodzą w bezpośrednią interakcję z ludźmi, muszą być zaprojektowane tak, aby użytkownicy wiedzieli, że rozmawiają z AI, chyba że wynika to jasno z kontekstu. Obowiązek ten spoczywa na dostawcy. Uwaga przy rebrandingu chatbota white label: wtedy sam stajesz się dostawcą i ten obowiązek spoczywa na Tobie.
• Art. 50 ust. 2: dostawcy AI generującej syntetyczne treści audio, obrazy, wideo lub teksty muszą oznakować wyniki jako sztucznie wygenerowane w formacie nadającym się do odczytu maszynowego.
• Art. 50 ust. 4: podmioty stosujące muszą ujawniać deepfake'i. W przypadku tekstów wygenerowanych przez AI na tematy leżące w interesie publicznym obowiązek ten nie ma zastosowania, jeśli człowiek przejął odpowiedzialność redakcyjną.

Obowiązki te mają zastosowanie od 2 sierpnia 2026. Zgodnie z Digital Omnibus dostawcy systemów generatywnej AI, które były na rynku już przed tą datą, mają czas do 2 grudnia 2026 na wdrożenie oznakowania w formacie nadającym się do odczytu maszynowego zgodnie z ust. 2.

Poziom 4: minimalne ryzyko

Wszystko inne, np. filtry antyspamowe, wewnętrzni agenci RAG pracujący na niewrażliwych dokumentach czy copiloty do kodu do użytku wewnętrznego. Brak istotnych obowiązków poza kompetencjami w zakresie AI z art. 4 i dobrowolnymi kodeksami postępowania (art. 95).

Gdzie trafiają typowi agenci AI?

Praktyka pokazuje, że ten sam stack technologiczny może w zależności od zadania trafić do zupełnie różnych kategorii. Typowe przyporządkowania:

• Agent do copywritingu marketingowego (wewnętrzny): minimalne, plus oznakowanie zgodnie z art. 50 ust. 2.
• Chatbot obsługi klienta w handlu: ograniczone ryzyko (art. 50 ust. 1).
• Wewnętrzny agent do zarządzania wiedzą: minimalne.
• Agent do selekcji CV: wysokie ryzyko (załącznik III pkt 4).
• Agent podejmujący decyzje kredytowe: wysokie ryzyko (załącznik III pkt 5 lit. b).
• Agent do wykrywania oszustw z użyciem kart płatniczych: minimalne/ograniczone, dzięki wyraźnemu wyjątkowi. Jeśli ten sam model zostanie ponownie wykorzystany do scoringu kredytowego, klasyfikacja się zmienia.
• Rozpoznawanie nastroju pracowników w miejscu pracy: zakazane (art. 5 ust. 1 lit. f).

Częsta pomyłka: „Korzystamy tylko z Microsoft 365 Copilot, więc nas to nie dotyczy”. Nieprawda. Kto używa Copilota do przygotowania decyzji związanej z zatrudnieniem, wchodzi w zakres załącznika III pkt 4. Podmiot stosujący jest odpowiedzialnym operatorem w rozumieniu art. 26.

Konkretny przykład z liczbami

Austriacka firma przemysłowa z sektora MŚP korzysta z agenta do selekcji CV, który rocznie wstępnie sortuje około 3000 aplikacji. To wyraźny przypadek wysokiego ryzyka z załącznika III pkt 4 lit. a, ponieważ system wpływa na decyzje dotyczące zatrudnienia i profiluje osoby.

Konsekwencje: agent wymaga nadzoru ze strony człowieka (rekruterzy sprawdzają każdy ranking), a przed uruchomieniem trzeba poinformować załogę (art. 26 ust. 7). Radę zakładową należy poinformować zgodnie z § 91 ArbVG. Jeśli system gromadzi dane pracowników wykraczające poza ogólne dane osobowe i kwalifikacje zawodowe, jego wprowadzenie wymaga zgody rady zakładowej zgodnie z § 96a ArbVG. To samo dotyczy systemu, który ocenia pracowników i przy tym zbiera dane nieuzasadnione ich wykorzystaniem w zakładzie pracy. Zgoda jest zwykle udzielana w drodze porozumienia zakładowego, co w praktyce może wydłużyć wdrożenie o 3 do 6 miesięcy. Jeśli rada zakładowa jej odmówi, może ją zastąpić rozstrzygnięcie komisji rozjemczej. Obowiązkowa ocena skutków dla praw podstawowych (FRIA zgodnie z art. 27) nie dotyczy natomiast prywatnej firmy w przypadku samej selekcji kandydatów w HR: dla prywatnych podmiotów stosujących FRIA jest wymagana tylko przy ocenie zdolności kredytowej (załącznik III pkt 5 lit. b) i ustalaniu cen w ubezpieczeniach na życie i zdrowotnych (pkt 5 lit. c), a także dla podmiotów publicznych i dostawców usług publicznych. Dobrowolna ocena wpływu na prawa podstawowe pozostaje jednak dobrą praktyką.

Ryzyko finansowe jest znaczne. Progi kar określone w art. 99 są stopniowane:

W przypadku MŚP i start-upów zgodnie z art. 99 ust. 6 stosuje się niższą z dwóch kwot; Digital Omnibus rozszerza tę ochronę na małe spółki o średniej kapitalizacji.

Harmonogram według Digital Omnibus

Digital Omnibus ukazał się w Dzienniku Urzędowym 24 lipca 2026 jako rozporządzenie (UE) 2026/1744 i obowiązuje od 27 lipca 2026. Zgodnie z art. 113 AI Act obowiązki dotyczące wysokiego ryzyka miały pierwotnie mieć zastosowanie od 2 sierpnia 2026 dla systemów z załącznika III i od 2 sierpnia 2027 dla AI w produktach objętych załącznikiem I. Omnibus przesuwa je odpowiednio na 2 grudnia 2027 i 2 sierpnia 2028. Nie przesunięto zakazów (art. 5, obowiązujących od 2 lutego 2025), przepisów dotyczących GPAI (od 2 sierpnia 2025) ani wysokości kar. Obowiązek zapewnienia kompetencji w zakresie AI z art. 4 nadal obowiązuje, ale od wejścia w życie Omnibusa wymaga działań wspierających kompetencje w zakresie AI, a nie określonego poziomu kompetencji. Wstrzymanie działań w obszarze governance nie wchodzi więc w grę.

Dla agencji i firm B2B

Dla agencji: klasyfikacja ryzyka powinna być na początku każdego projektu AI, a nie na końcu. Kto buduje dla klientów chatboty lub agentów marketingowych, powinien od początku uwzględniać obowiązek przejrzystości z art. 50, a przy rebrandingu cudzych systemów sprawdzić, czy sam nie staje się dostawcą. Dla decydentów B2B: stwórz inwentarz swoich zastosowań AI, przypisz każde z nich do kategorii ryzyka i zwróć szczególną uwagę na przeskok z minimalnego do wysokiego ryzyka, który często następuje niezauważenie przez nowe źródło danych lub nowy cel zastosowania. Blck Alpaca wspiera Cię w klasyfikacji i w budowie solidnej dokumentacji compliance.

Uwaga: ten artykuł ma charakter wyłącznie informacyjny i nie zastępuje porady prawnej. Aby uzyskać wiążącą ocenę Twojego konkretnego przypadku, skorzystaj z pomocy wykwalifikowanego prawnika.