AIWM (Artificial intelligence for worker management) je zastřešující termín odkazující na systém řízení pracovníků, který shromažďuje data, často v reálném čase, o pracovním prostoru, zaměstnancích a pracovní činnosti, kterou dělají, ale také (digitálních) nástrojích používaných pro svou práci, které jsou následně vloženy do umělé inteligence, která činí automatizovaná nebo poloautomatická rozhodnutí, případně poskytuje informace pro osoby s rozhodovací pravomocí o otázkách souvisejících s řízením pracovníků. Umělá inteligence pro řízení pracovníků (AIWM) představuje celou řadu příležitostí, ale také rizika a výzvy pro bezpečnost a ochranu zdraví při práci (BOZP). Právě o rizicích, která jsou spojená s umělou inteligencí na pracovišti, je tento článek.

Obsah článku

Intenzifikace práce

Některé organizace používají ve svých provozech za účelem zvýšení produktivity umělou inteligenci pro řízení svých zaměstnanců. Těmto systémům se říká AIWM, z angl. „Artificial intelligence for worker management“, v doslovném překladu umělá inteligence pro řízení pracovníků. AIWM sice přináší celou řadu výhod, avšak má také svá rizika. Jedním z nejčastěji uváděných je intenzifikace práce.

Cílem AIWM je optimalizace pracovních a technologických postupů, např. nasměrování zaměstnanců k práci bez zbytečných prostojů nebo minimalizace času na určitý pracovní postup, což má za následek celkové zrychlení či zintenzivnění pracovní činnosti. Běžný příklad zintenzivnění práce prostřednictvím umělé inteligence můžeme vidět např. ve skladových operacích – pro urychlení práce se AIWM používá ke sledování doby dokončení objednávky a také pohybu pracovníků, chyb a přestávek. To vše proto, aby se odstranily zbytečnosti časové prodlevy. AIWM systémy se používají také v managementu. Některé banky ve Spojeném království používají sledovací software ke zjištění, kolik času zaměstnanci tráví u svého stolu nebo jak dlouhé jsou jejich přestávky na toaletu. Systém pak informuje pracovníky, když algoritmus považuje jejich přestávky za příliš dlouhé, což vyvíjí tlak a může mít za následek zvýšenou intenzitu práce.

Ztráta kontroly nad prací a autonomie

Ztráta kontroly nad prací a autonomie jsou také běžně uváděná rizika související s používáním systémů umělé inteligence pro řízení zaměstnanců na pracovišti. Některé systémy mohou převzít kontrolu nad prací člověka (obsah, tempo či rozvrh práce). Většina algoritmických systémů a systémů založených na umělé inteligenci diktuje člověku, jak má vykonávat práci nebo úkoly, což může vést ke ztrátě kontroly nad jejich prací. Ztráta kontroly nad zaměstnáním a autonomie je často spojena s vysokou úrovní stresu a také vede k nižší produktivitě, špatné výkonnosti a zvýšené míře nemocnosti. Podle Karáskova modelu pracovní zátěže má největší negativní dopad na duševní zdraví člověka vysokozátěžové zaměstnání, kde jsou kladeny na zaměstnance extrémně vysoké nároky na práci, přičemž mají zároveň velmi malou kontrolu nad tím, co dělají. Vysoké nároky a nízká kontrola brání tomu, aby si pracovník zvolil metodu a časový rámec pro dokončení práce, ale vyžaduje vysoký počet kognitivních zdrojů, což může vést k problémům s duševním zdravím.

Dehumanizace pracovníků

Aktivní používání systémů AIWM, například prostřednictvím nadměrného řízení pracovníků, hodnocení nebo disciplíny, může vést k dehumanizaci pracovníků. V dlouhodobém horizontu je nutí chovat se jako stroje, což může vést podle odborníků ke snížení kognitivních a intelektuálních kapacit, snížení kreativního myšlení, ztrátě autonomie, nedostatku nezávislosti myšlení a tak dále. Stojí za zmínku, že ačkoli se očekává, že systémy umělé inteligence budou schopny informovat pracovníky a zaměstnavatele o rizicích (např. pravděpodobnost únavy a vyhoření), mohou také vést k dehumanizaci pracovníků, protože se mohou stát závislými na systému varování vytvořeném umělou inteligencí a pokud dojde ke krizové situaci, možná ztratí svou schopnost rozpoznat nebezpečí. To může vést k pracovním úrazům.

Diskriminace pracovníků a využívání osobních a citlivých údajů

Diskriminace je další rizikový faktor při používání AIWM systémů. K diskriminaci pracovníků může dojít z důvodu jejich monitorování, které může zahrnovat shromažďování osobních a citlivých dat. Ta lze zase použít k automatizovanému nebo poloautomatickému rozhodování o pracovníkovi. To může vést k upřednostňování určitých pracovníků a diskriminaci jiných, například ve fázích najímání nebo hodnocení či povyšování pracovníků. I když systémy AIWM mohou nabízet přesnost při pohledu na požadovaný profil kandidátů ve výběrovém řízení, mohou o kandidátech vytvářet předpoklady na základě jejich charakteristik (například pohlaví, etnické příslušnosti, národnosti, věku, sexuální orientace, genderové identity) a poté činit rozhodnutí vedoucí k určité formě diskriminace, zvláště když jsou systémy AIWM navrženy tak, aby zahrnovaly zaujatost. Diskriminace je považována za hlavní stresový faktor v práci a souvisí s problémy duševního zdraví.

Sledování výkonu a dopad na pracovníky

AIWM může donutit zaměstnance, aby pracovali rychleji díky neustálému monitorování, včetně sledování činností, které provádějí, a jejich produktivity. Když si pracovníci uvědomují, že jsou neustále sledováni a jejich výkon je hodnocen právě na základě tohoto sledování, mohou odmítat dělat přestávky, i když je to potřeba, např. z bezpečnostních důvodů. Stejně tak mohou zanedbávat sociální interakci s ostatními vrstevníky kvůli tomu, aby stihli pracovní plán. Systémy umělé inteligence, které vytvářejí úplný přehled o výkonu, který je viditelný pro kolegy, mohou vést k nezdravému konkurenčnímu prostředí mezi kolegy. Tento druh tlaku může vést až k úzkosti a nízkému sebevědomí některých jedinců.

Systémy hodnocení pracovníků

Tlak na výkon může být také umocněn systémy hodnocení spokojenosti zákazníků. Přesněji řečeno, AIWM může využívat hodnocení zákazníků k penalizaci zaměstnanců, ignoruje možné předsudky v názorech zákazníků a vede k nejistotě mezi pracovníky. Pokud manažeři nedosáhnou transparentnosti ohledně toho, jak jsou pracovníci hodnoceni, a pokud pracovníci nebudou schopni tato hodnocení zpochybnit, mohou se tyto problémy ještě více prohloubit.

Rizikové a nebezpečné chování pracovníků

Pokud AIWM vytváří tlak na výkon, například pomocí algoritmu, který zvyšuje rychlost práce, nebo pomocí hodnotících algoritmů, které hodnotí pracovníky a nutí je pracovat více, vytváří to tendenci k riskantnímu nebo nebezpečnému chování. Zaměstnanec se může například rozhodnout odstranit ochranný kryt stroje, aby dokončil pracovní postup v kratším čase, nebo si vybere rychlejší či nebezpečnější cestu k dodání zboží spotřebiteli. Nadměrná kontrola může také vést ke snížení úrovně BOZP, protože pracovníci začnou upřednostňovat produktivitu před bezpečností. Navíc mají méně času na komunikaci se svými kolegy, a tím na přenos svých znalostí BOZP.

Opakující se pohyby, nepohodlné držení těla a ergonomické problémy

Snaha pracovat rychleji může vést k vyššímu počtu opakujících se pohybů, nevhodným pozicím v důsledku spěchu a menší pozornosti věnované tělu a poloze končetin včetně pracovní ergonomie. Opakující se pohyby, které zahrnují stejné svalové skupiny, rychlé tempo a velké množství práce, jsou obzvláště nebezpečné, protože pracovník nemá čas se zotavit v krátkých časových intervalech mezi pohyby. Z dlouhodobého hlediska tělo potřebuje více úsilí k provedení úkolu a doba zotavení se stává ještě důležitější. Čím rychlejší je tedy tempo, tím méně času je k dispozici na zotavení a tím vyšší je riziko muskuloskeletálních poruch. Intenzivní práce může mít navíc za následek vysokou úroveň pracovního stresu, únavy, vyčerpání a syndromu vyhoření.

Pracovní osamělost a sociální izolace

Rozsáhlé využívání systémů umělé inteligence může způsobit, že se pracovníci budou cítit osamělí a izolovaní. Takové systémy totiž často nutí pracovníky, aby méně komunikovali se svými kolegy. Nutí je totiž více pracovat a soustředit se na produktivitu. Na druhé straně, kvůli nedostatečné komunikaci mezi pracovníky a nedostatku sociální podpory není prostředí povzbuzující pro kamarádství a nevytváří se žádná úzká pracovní komunita. To může následně vést k ostré konkurenci mezi zaměstnanci a tím k ohrožení spolupráce, týmového ducha či obecněji pracovního klimatu. Tyto problémy mohou zvýšit pracovní stres a zpočátku také způsobit šikanu a mobbing na pracovišti. Pocity osamělosti a izolace mohou zase vést k depresi, úzkosti a mohou dokonce snížit schopnost lidí uvažovat a rozhodovat se. Práce v izolaci může také snížit profesní identitu, protože zaměstnanci postrádají vzory, a proto si nemohou vytvořit konzistentní a silnou profesní identitu.

Nedostatek transparentnosti a důvěry

Nedostatek transparentnosti ohledně fungování systémů umělé inteligence pro řízení pracovníků (AIWM) je dalším často uváděným problémem. Mnoho vědců totiž tvrdí, že monitorování pracovníků nebo využívání těchto systémů není v organizacích obvykle implementováno transparentním způsobem. Většina manažerů a pracovníků neví, jak systémy AIWM fungují. Někteří si možná ani neuvědomují, že jsou řízeni nebo sledováni systémy založenými na umělé inteligenci. Zaměstnanci proto musí být vyškoleni a jasně informováni o fungování těchto systémů, ale také o tom, jaká data jsou shromažďována a za jakým účelem. Zaměstnanci musí být schopni důvěřovat svým zaměstnavatelům, že systémy AIWM jsou zavedeny z dobrých důvodů, což vyžaduje transparentnost v rámci organizace a řádné konzultace se zaměstnanci.

Poruchy a důsledky pro pracovníky

Pokud systém umělé inteligence pro řízení zaměstnanců selže v důsledku problémů se vstupními daty nebo analýzou, nepřesností v systémech a dalších softwarových problémů, může tato skutečnost ještě více rozvinout všechna výše uvedená rizika. Pokud například AIWM nasměruje pracovníky do nebezpečné situace, může to vést k vážnému fyzickému zranění a v některých případech dokonce i smrti. Tento problém převládá zejména ve výrobních odvětvích a při práci zaměřené na sklad, kde může dojít k nehodám mezi manipulační technikou a lidmi. Špatně fungující systémy AIWM mohou mít také negativní psychologický dopad, protože pracovníci se mohou cítit frustrovaní či zmatení, když nedostanou jasné a relevantní odpovědi na své otázky např. o tom, jak vykonávat úkoly, které jsou v rámci firmy organizovány a řízeny pomocí systémů automatické reakce a systémů založených na umělé inteligenci.

Zdroj: EU-OSHA (Artificial intelegence for worker management: risks and opportunities)