Z każdym nowym etapem wchodzenia przepisów AI Act, zapewne wiele firm wiąże używanie narzędzi AI, w szczególności we wrażliwej branży, jaką jest branża HR, raczej z potencjalnymi kłopotami. Jednak jak to często bywa strach ma wielkie oczy, a diabeł tkwi w szczegółach. W skrócie, nie każdy system AI używany przy rekrutacji czy zarządzaniu pracownikami stanowi system wysokiego ryzyka. Oto kilka przykładów, kiedy pracodawcy swobodnie mogą pozwolić sobie na ułatwienia, nie martwiąc się o Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), która ma sprawować w Polsce nadzór nad rynkiem systemów AI.
Czym są systemy wysokiego ryzyka AI?
Według AI Act system może być systemem wysokiego ryzyka na podstawie jednej z dwóch niezależnych ścieżek. Pierwsza (art. 6 ust. 1 AI Act) obejmuje systemy będące produktem lub elementem bezpieczeństwa produktu podlegającego unijnym przepisom harmonizacyjnym wymienionym w załączniku I, który przed wprowadzeniem do obrotu podlega ocenie zgodności przez stronę trzecią. Druga (art. 6 ust. 2 AI Act) obejmuje systemy wymienione w załączniku III. Dla branży HR kluczowy jest właśnie załącznik III, który w pkt 4 wymienia systemy związane z zatrudnieniem, zarządzaniem pracownikami i dostępem do samozatrudnienia. Dla tych systemów obowiązuje co do zasady wewnętrzna ocena zgodności przeprowadzana przez dostawcę, a nie ocena przez stronę trzecią (art. 43 AI Act).
Dodatkowo bardzo istotne jest, żeby każdy pracodawca pamiętał, używając systemów opartych na sztucznej inteligencji, o spełnieniu (również przez dostawcę systemu) stosownych wymogów przewidzianych dla systemów wysokiego ryzyka, jak np. testowanie systemu pod kątem dyskryminacji, zapewnienie nadzoru człowieka czy przejrzystość działania. Wszystko to ma na celu, aby systemy AI były używane w sposób bezpieczny i zgodny z prawem. Należy przy tym odróżnić systemy wysokiego ryzyka od systemów zakazanych na podstawie art. 5 AI Act; te pierwsze wolno stosować pod warunkiem spełnienia licznych obowiązków związanych z bezpieczeństwem, korzystanie z tych drugich jest zakazane.
Co jednak z przypadkami, kiedy system AI wcale nie okazuje się systemem wysokiego ryzyka AI? Z pomocą przychodzą wytyczne Komisji Europejskiej dotyczące klasyfikacji systemów wysokiego ryzyka (art. 6 AI Act), których ostateczna wersja ma zostać opublikowana z końcem bieżącego roku; dostępny jest jak dotąd ich projekt (wersja robocza), który już teraz może okazać się pomocny w weryfikacji działania zgodnego z prawem.
- System AI jako prywatny pomocnik pracownika
Narzędzia oparte na sztucznej inteligencji mogą być praktyczną pomocą oferowaną przez pracodawcę swoim pracownikom. Kluczowe jest jednak ich wykorzystanie przez owego pracodawcę. Najważniejszym warunkiem będzie zakaz w jakikolwiek sposób użycia takiego systemu do oceniania pracownika przez swojego zwierzchnika. Co zatem może być przykładem wykorzystania systemu nie podpadającego pod wysokie ryzyko – system ostrzegający pracownika, że wysyła maila do nieprawidłowej osoby czy też aplikacja, która pokazuje jego statystyki na tle firmy.
- System AI służący do automatycznego potwierdzania uprawnień zawodowych kandydata (na podstawie wyjątku – art. 6 ust. 3 AI Act)
Każdy pracodawca sprawdza kandydatów starających się o stanowisko, na ile pozwalają na to przepisy. Zostawiając na chwilę kwestie związane z RODO, co w sytuacji, kiedy do sprawdzenia są setki CV? Naturalną rzeczą będzie wykorzystanie pewnej automatyzacji w postaci najczęściej narzędzi AI skracających uciążliwą pracę rekrutera. Tutaj granica jest bardzo cienka, ale nie stanowi systemu wysokiego ryzyka działanie oparte na czysto „zero-jedynkowej” procedurze, a dokładniej – potwierdzanie uprawnień zawodowych kandydata w sposób automatyczny w oficjalnych rejestrach bez wydawania opinii czy szeregowania w listy „tych bardziej odpowiednich na stanowisko”. Takie zastosowanie odpowiada wyjątkowi z art. 6 ust. 3 akapit drugi lit. d AI Act (zadanie przygotowawcze wobec oceny istotnej z punktu widzenia rekrutacji), ponieważ opiera się na obiektywnej weryfikacji twardych faktów i nie wpływa na wynik oceny kandydata.
- System AI dbający o kwestie bezpieczeństwa i prawa
Wykorzystanie systemów AI do spełniania wymogów prawnych w firmie jest dość powszechną praktyką, nie mówiąc o temacie bezpieczeństwa fizycznego lub ochrony mienia firmowego. Działanie systemu polegające np. na rejestrowaniu transakcji finansowych w celu zapobiegania oszustwom będzie jak najbardziej pozostawać poza kwalifikacją systemów wysokiego ryzyka. Warunek jest tutaj jeden – żadne dane nie mogą być wykorzystane potajemnie do oceniania pracownika.
- System AI pomagający pracownikom we wdrożeniu się
System AI, który służy pracownikom pomocą we wdrożeniu się w działaniach firmy i ich obowiązkach nie jest systemem wysokiego ryzyka w kontekście rekrutacji, gdyż nie decyduje już on w żadnym stopniu o przyjęciu do pracy. Pamiętaj jednak, że zostanie on uznany za system wysokiego ryzyka, jeśli wpłynie w jakikolwiek sposób na ocenę wyników pracowników, monitorowanie albo jego warunki zatrudnienia.
- System AI do wysyłania spersonalizowanych wiadomości do kandydatów
Kolejny sposób wykorzystania systemu AI podczas rekrutacji, który dzięki art. 6 ust. 3 AI Act jest wyłączony z kwalifikowania go jako systemu wysokiego ryzyka AI. Użycie narzędzi AI do wysyłania spersonalizowanych emaili, które potwierdzają otrzymanie CV, z imieniem i nazwiskiem kandydata nie wpływa na wynik rekrutacji i nie zwiększa ani nie zmniejsza szans na wybór danego kandydata na stanowisko pracy.
Źródło: https://paluckiszkutnik.pl/ai-w-procesie-rekrutacji-pracownikow/