Praktyki zakazane w AI Act krok po kroku. Sześć kroków i osiem zakazów

Praktyki zakazane w AI Act to osiem zastosowań sztucznej inteligencji, których w Unii Europejskiej nie wolno wdrożyć w żadnej formie - nie legalizuje ich ani ocena ryzyka, ani dokumentacja, ani zgoda osoby, której dotyczą. Lista jest w art. 5 rozporządzenia (UE) 2024/1689 i obowiązuje od 2 lutego 2025 roku.

Poniżej sześć kroków, pytania kontrolne do każdego i wskazanie zastosowań, przy których firmy najczęściej się przeliczają, bo biorą je za systemy wysokiego ryzyka.

Od kiedy zakazy obowiązują i ile kosztuje ich złamanie?

Art. 5 zaczął być stosowany 2 lutego 2025 roku, na podstawie art. 113 lit. a rozporządzenia - razem z obowiązkiem kompetencji w zakresie AI, a osiemnaście miesięcy przed datą ogólnego stosowania. Digital Omnibus tego terminu nie ruszył. Za naruszenie zakazu grozi kara do 35 mln euro albo 7 procent całkowitego rocznego światowego obrotu, zależnie od tego, która kwota jest wyższa (art. 99 ust. 3). To najwyższy próg w całym rozporządzeniu. Od 2 grudnia 2026 do listy dochodzą dwa nowe zakazy dopisane przez Digital Omnibus, dotyczące intymnych wizerunków tworzonych bez zgody oraz materiałów przedstawiających wykorzystywanie seksualne małoletnich.

Krok 1: Lista - które narzędzia w ogóle dotykają ludzi?

Zakazy z art. 5 nie dotyczą wszystkiego, co robi AI. Dotyczą zastosowań wymierzonych w ludzi, więc pierwszy ruch to zawężenie listy z rejestru do tych narzędzi.

Pytania kontrolne: Które systemy oceniają, klasyfikują albo profilują osoby? Które obserwują ludzi obrazem, dźwiękiem albo zapisem zachowania? Które generują komunikaty mające skłonić kogoś do decyzji? Czy na liście są narzędzia działające na pracownikach, a nie tylko na klientach?

Jeśli nie macie rejestru systemów AI, zacznijcie od niego - bez listy narzędzi ten przegląd jest zgadywaniem. Opisaliśmy to w tekście o rejestrze systemów AI.

Krok 2: Emocje - czy coś odczytuje nastrój pracownika albo ucznia?

Art. 5 ust. 1 lit. f zakazuje wnioskowania o emocjach osób w miejscu pracy i w instytucjach edukacyjnych, z wyjątkami dla względów medycznych i bezpieczeństwa. To zakaz, który najczęściej zaskakuje działy HR i firmy szkoleniowe.

Pytania kontrolne: Czy któreś narzędzie analizuje mimikę, ton głosu albo tempo mowy kandydata lub pracownika? Czy mierzymy „zaangażowanie" uczestników spotkań lub szkoleń na podstawie obrazu z kamery? Czy dostawca obiecuje nam analizę nastrojów zespołu? Czy ktoś sprawdził, co dokładnie wylicza moduł oceny rozmów w naszym systemie?

Odpowiedź „tak" nie oznacza tu obowiązku dokumentacyjnego, tylko konieczność wyłączenia funkcji - to nie jest kategoria wysokiego ryzyka.

Krok 3: Biometria - czy wnioskujemy o cechach, o które nie wolno pytać?

Dwa kolejne zakazy dotyczą danych biometrycznych: kategoryzacji ludzi w celu wywnioskowania między innymi rasy, poglądów politycznych, przekonań religijnych czy orientacji seksualnej (lit. g) oraz budowania baz rozpoznawania twarzy przez nieukierunkowane pobieranie wizerunków z internetu lub nagrań z monitoringu (lit. e).

Pytania kontrolne: Czy używamy rozpoznawania twarzy gdziekolwiek poza kontrolą dostępu? Skąd dostawca wziął dane, na których uczył model? Czy jakikolwiek moduł przypisuje ludziom cechy, których nie podali sami? Czy mamy to zapisane w umowie z dostawcą?

Przy narzędziach kupionych z półki odpowiedzi trzeba wziąć od dostawcy na piśmie, bo pochodzenie danych treningowych rzadko widać z poziomu interfejsu.

Krok 4: Ocena ludzi - czy to już jest scoring?

Art. 5 ust. 1 lit. c zakazuje oceniania osób na podstawie zachowania społecznego lub cech osobistych, gdy prowadzi to do krzywdzącego albo nieproporcjonalnego traktowania w kontekście niezwiązanym z tym, skąd dane pochodzą. Granica biegnie przy przenoszeniu danych między kontekstami.

Pytania kontrolne: Czy dane zebrane w jednym celu wpływają na decyzje w zupełnie innym obszarze? Czy któryś system wystawia ludziom ogólną ocenę wiarygodności? Czy skutek takiej oceny jest proporcjonalny do tego, co ją wywołało? Czy osoba oceniana wie, że ocena istnieje?

Jeśli ocena z jednego obszaru zamyka komuś drzwi w innym, to pierwszy sygnał, żeby zatrzymać wdrożenie i sprawdzić konstrukcję narzędzia.

Krok 5: Manipulacja i słabości - czy przekaz nie idzie za daleko?

Litery a i b zakazują technik działających poza świadomością odbiorcy oraz celowego wykorzystywania słabości wynikających z wieku, niepełnosprawności albo sytuacji społecznej lub ekonomicznej, jeśli skutkiem jest istotna szkoda. Ten zakaz dotyczy marketingu, sprzedaży i produktów kierowanych do konsumentów.

Pytania kontrolne: Czy personalizacja przekazu korzysta z informacji o trudnej sytuacji odbiorcy? Czy kierujemy komunikaty do grup wrażliwych, w tym dzieci i osób starszych? Czy interfejs generowany przez AI popycha użytkownika do decyzji, której przy jasnej informacji by nie podjął? Czy ktoś poza zespołem marketingu przejrzał te scenariusze?

Przy tych dwóch zakazach liczy się skutek dla odbiorcy, a nie intencja zespołu, który wdrażał narzędzie.

Krok 6: Decyzja i dowód - co zrobić z wątpliwym narzędziem?

Przegląd ma się skończyć decyzją zapisaną dla każdego wątpliwego zastosowania, a nie notatką w czyjejś głowie. Przy zakazie nie ma ścieżki naprawczej: funkcję się wyłącza albo wymienia narzędzie.

Po tym kroku organizacja powinna dysponować:

• listą narzędzi, które dotyczą ludzi, wyciągniętą z rejestru systemów AI;
• zapisaną oceną przy każdym z nich, z datą, autorem i uzasadnieniem;
• oświadczeniami dostawców o źródłach danych i funkcjach biometrycznych;
• decyzją o wyłączeniu funkcji tam, gdzie wynik był wątpliwy;
• terminem kolejnego przeglądu, najpóźniej przed 2 grudnia 2026;
• informacją dla zespołów, czego nie wolno włączać bez konsultacji.

Wytyczne Komisji Europejskiej w sprawie zakazanych praktyk z 4 lutego 2025 są niewiążące, ale pokazują sposób rozumowania organów i warto się do nich odwołać w uzasadnieniu.

Samodzielnie czy z narzędziem?

Sześć kroków powyżej da się przejść w arkuszu: lista narzędzi, kolumna z pytaniem, kolumna z decyzją. Trudność zaczyna się przy utrzymaniu, bo narzędzia zmieniają się wraz z aktualizacjami dostawców, a nowa funkcja potrafi pojawić się bez pytania o zgodę.

Tę część obsługuje platforma AI TrustCERT: rejestr z historią zmian, szkolenia z egzaminem i raporty, które pozwalają wykazać należytą staranność. Jeśli chcecie zacząć od diagnozy, AI Ready Check daje wstępny obraz w kilka minut, a wynik liczy się w Waszej przeglądarce.

Podsumowanie

Sprawdzenie praktyk zakazanych to sześć pytań: które narzędzia dotyczą ludzi, czy coś odczytuje emocje w pracy lub w edukacji, czy dane biometryczne nie służą do wnioskowania o cechach wrażliwych, czy ocena osób nie przenosi danych między niepowiązanymi kontekstami, czy przekaz nie wykorzystuje słabości odbiorcy i co zapisujemy jako dowód.

Zakazy obowiązują od 2 lutego 2025, a próg kar jest najwyższy w całym rozporządzeniu. Od 2 grudnia 2026 lista się wydłuża. Organizacja, która zrobi ten przegląd teraz, w większości przypadków zamknie go jednym zdaniem w dokumentacji. Organizacja, która go nie zrobi, dowie się o problemie od kogoś z zewnątrz.

Ten tekst prowadzi przez sprawdzenie, ale nie rozstrzyga o legalności konkretnego narzędzia - przy wątpliwościach ocenę warto potwierdzić z prawnikiem.

✦ Ten artykuł powstał z wykorzystaniem sztucznej inteligencji, a przed publikacją został zweryfikowany przez autora, który ponosi za niego odpowiedzialność redakcyjną.