AI w zarządzaniu zasobami ludzkimi – kiedy Twój algorytm podlega pod surowe wymogi AI Act?

Cyfrowy omnibus odroczył w czasie niektóre obowiązki AI Act, w tym właśnie związane ze stosowaniem systemów wysokiego ryzyka AI -  podpowiada Kancelaria Adwokacka Pałucki & Szkutnik

Przesunięcie terminu stosowania obowiązków dla systemów wysokiego ryzyka wymienionych w Załączniku III do AI Act (obejmującym w pkt 4 zatrudnienie i zarządzanie pracownikami) na 2 grudnia 2027 r. nie oznacza jednak, że przedsiębiorcy stosujący u siebie systemy sztucznej inteligencji, powinni odetchnąć i odłożyć przygotowania do zmian w przepisach na ponad rok. W tym celu Komisja Europejska przygotowała – na podstawie art. 6 ust. 5 AI Act – wytyczne dotyczące klasyfikacji systemów wysokiego ryzyka; ich projekt został udostępniony do konsultacji w maju 2026 r. Ostatecznego kształtu wytycznych należy spodziewać się w kolejnych miesiącach, przy czym już teraz znamy ich założenia oparte na AI Act oraz Digital Omnibus on AI. 

Czego dokładnie dotyczą wytyczne związane z zarządzaniem pracownikami? Na co przedsiębiorcy z działami HR powinni się przygotować i jakie są najważniejsze zasady?      

Realny wpływ na warunki pracy – kto i kiedy podlega ochronie?

W pierwszej kolejności kluczowe jest, aby zaznaczyć, że unijna ochrona obejmuje bardzo szeroki zakres osób:

• pracowników etatowych;

• osoby zatrudnione na B2B czy umowy cywilnoprawne;

• pracowników platformowych.

Najogólniej można powiedzieć, że system zyskuje miano systemu wysokiego ryzyka, gdy podejmuje lub istotnie wpływa na decyzje co do kluczowych elementów pracy, na które umawiają się strony. Są to między innymi:

• wynagrodzenie;

• czas pracy;

• urlopy;

• prawo do odpoczynku.

Według wytycznych KE bardzo istotne jest jednak wyraźne oddzielenie spraw kluczowych od biurowej codzienności. To znaczy, że nie każda decyzja wpływająca na pracownika będzie z automatu traktowana jako system wysokiego ryzyka. Program oparty na sztucznej inteligencji, który zarządza np. przydzieleniem wolnego biurka w danym dniu czy ustalający godzinę przerwy obiadowej nie będzie traktowany w ten sposób. Natomiast narzędzia obsługujące dobrowolne szkolenia stają się systemami wysokiego ryzyka dopiero w momencie, kiedy od oceny wygenerowanej przez AI zależy awans pracownika, podwyżka czy też zachowanie stanowiska pracy.  

Algorytm decydujący o awansach i zwolnieniach

Decyzje dotyczące awansu czy zwolnienia pracownika stanowią bez wątpienia ingerencję w karierę człowieka i zawsze zalicza się je do systemów wysokiego ryzyka AI, jeśli sztuczna inteligencja ma realny wpływ na podejmowanie tych decyzji. 

Chodzi tutaj zatem o sytuacje:

• gdy system decyduje lub podpowiada na temat przyznania pracownikowi wyższego stanowiska, większych obowiązków lub podwyżki;

• gdy system bierze aktywny udział w zwolnieniu, czyli definitywnym zakończeniu współpracy, co obejmuje standardowe wypowiedzenie, redukcję etatu oraz decyzję o nieprzedłużeniu umowy na czas określony;

• gdy system bierze aktywny udział w zablokowaniu, trwałej dezaktywacji lub częstym, długim zawieszeniu konta w aplikacji osób wykonujących pracę na rzecz cyfrowej platformy pracy.

Podobnie, jak wspomniałem powyżej, do takich sytuacji nie będzie zaliczane czysto mechaniczne wykorzystanie systemów AI, jak np. powiadomienie lub przypomnienie pracodawcy o wygasającej umowie. Takie wykorzystanie narzędzi AI nie bierze udziału w procesie decyzyjnym, a zatem w żadnym razie nie ma na niego wpływu. 

Profilowanie zachowań a obiektywne dane

Dla zilustrowania sytuacji użycia systemów AI można przywołać tutaj dwa przykłady, które pokazują różnice pomiędzy uznaniem danego systemu za system wysokiego ryzyka, a drugiego już nie.

A więc system będzie bezwzględnie uznawany za wysokiego ryzyka AI, jeśli:

• decyduje o przydziale zadań, układaniu grafiku czy przyznawaniu zmian na podstawie oceny wcześniejszego zachowania pracownika;

• bierze udział w profilowaniu behawioralnym – np. analiza punktualności pracownika, szybkości odpisywania na wiadomości, ocen od klientów przez AI;

Natomiast oprogramowanie nie jest uznawane za system wysokiego ryzyka, gdy np.:

• rozdziela zadania opierając się wyłącznie na obiektywnych, technicznych kryteriach;

• bazuje czysto na aktualnej dostępności pracownika i jego certyfikatach (wymagane uprawnienia, wolne okienko w kalendarzu czy odległość od miejsca dostawy na podstawie GPS).

Monitorowanie i ocena personelu – jakie są granice?

Dla każdego pracodawcy pozostaje kluczowe pytanie – gdzie leży granica i na co właściwie może sobie pozwolić, żeby nie złamać prawa? Dlatego najlepiej będzie wykorzystać czas i przy konsultacji z odpowiednio wykwalifikowanym doradcą przeanalizować systemy, które używane są w Twojej firmie.

Jakie zatem są granice inwigilacji cyfrowej, żeby system sztucznej inteligencji nie został uznany za system wysokiego ryzyka? Nie będzie tak, gdy:

• AI służy wyłącznie bezpieczeństwu fizycznemu, ochronie mienia firmy lub spełnianiu wymogów prawnych (np. zapobieganiu oszustwom finansowym) – pod warunkiem że zebrane dane nie będą potajemnie wykorzystywane do oceniania pracowników;

• AI służy jako prywatne narzędzie pomocnicze – np. powiadomienie o błędnym adresacie maila, prywatne statystyki pracy, o ile dane takie trafiają tylko i wyłącznie do samego pracownika i nie wywierają presji na produktywność.

Natomiast będzie uznane za systemy wysokiego ryzyka wszelkie wykorzystanie narzędzi AI do m.in.:

• Systematycznego monitorowania wyników ilościowych (np. tempa pracy, liczby zakończonych zadań) lub jakościowych (automatyczne rankingi pracowników);

• profilowania zachowań pracownika (np. badania punktualności, stosunku do klientów czy karanie za odrzucanie dodatkowych zmian).

Źródło: https://paluckiszkutnik.pl/ai-w-procesie-rekrutacji-pracownikow/