Intervju

Urban Rozina, Četrta pot: »Slabi podatki z UI dajejo slabe odgovore. To je nevarnejše od slabih odgovorov brez UI.«

Čas branja 14 min

V dobi digitalizacije so podjetja uspešno avtomatizirala zbiranje podatkov. Evidenčne kartice so zamenjali digitalni sistemi, Excelove tabele so preplavili podatki o delovnem času, odsotnostih in plačah. A s tem se je odprl nov izziv: imamo gore podatkov, zaradi česar lahko pogosto spregledamo bistvene informacije.

O tem, kako prehod v dobo pametne interpretacije podatkov spreminja vsakdan kadrovikov in vodstev podjetij, smo se pogovarjali z Urbanom Rozino, direktorjem podjetja Četrta pot. Predstavil nam je razloge za nadgradnjo sistema KADRIS 4 IQ z umetno inteligenco (UI) ter pojasnil, zakaj mora človek v svetu kadrovskih podatkov vedno ostati ključni odločevalec.

Dolgo smo govorili o digitalizaciji in zbiranju podatkov, zdaj pa prehajamo v dobo njihove interpretacije. Kaj je bil tisti ključni trenutek ali povratna informacija s trga, ko ste si rekli: »KADRIS 4 potrebuje nadgradnjo z umetno inteligenco«?

Ključni trenutek je bil pogovor s HR direktorico ene izmed naših večjih strank pred slabima dvema letoma. Rekla mi je: »Urban, v KADRIS-u imamo vse podatke. Samo ne vemo, kaj nam povejo.« Plačilne liste, evidence delovnega časa, odsotnosti – vse je bilo digitalizirano. Ampak vsako jutro je njen tim preprosto ponovil isto rutino: izvozil Excel, ga ročno obdelal in napisal poročilo za vodstvo. Dve do štiri ure dela za informacijo, ki je bila zastarela, še preden jo je kdo prebral.

Takrat sem razumel, da smo rešili napačen problem. Digitalizirali smo zbiranje podatkov, ne njihovo razumevanje. In to je bila priložnost – ne za nadgradnjo sistema, ampak za nov sloj nad njim. Sloj, ki ne le zbira, ampak interpretira, povezuje in svetuje.

Takrat sem razumel, da smo rešili napačen problem. Digitalizirali smo zbiranje podatkov, ne njihovo razumevanje. In to je bila priložnost – ne za nadgradnjo sistema, ampak za nov sloj nad njim.

Sočasno se je tehnologija dovolj razvila, da je bil tak korak sploh izvedljiv na način, ki je zanesljiv za produkcijsko uporabo. Potrebna sta bila oba pogoja – tržna potreba in tehnološka zrelost. Ko sta se oba izpolnila, smo se odločili za ta razvojni korak.

Kadroviki se pogosto srečujejo s pomanjkanjem časa za strateško delo. Kako natanko lahko pametni asistent znotraj Kadrisa spremeni vsakdan povprečnega HR menedžerja?

Konkretno: Vodja zjutraj odpre KADRIS 4 IQ in sistem mu sporoči, da je v oddelku logistike sedem zaposlenih ta teden preseglo redni tedenski fond ur oz. vnaprej določeni prag dovoljenih nadur.  Sistem je to zaznal ob dveh ponoči med rutinsko analizo. Ponudi mu razlago vzroka, pravno podlago in osnutek načrta ukrepov, ki ga HR menedžer oz. vodja samo pregleda, prilagodi in odobri. V parih sekundah namesto več ur.

To je bistvo spremembe. Ne gre za to, da HR menedžer dobi boljše poročilo. Gre za to, da probleme vidi, preden postanejo krize. In da čas, ki ga je prej porabil za pripravo podatkov, zdaj porabi za to, kar je dejansko njegova naloga: pogovor z vodji, razvoj ekipe, strateško načrtovanje.

Ne gre za to, da HR menedžer dobi boljše poročilo. Gre za to, da probleme vidi, preden postanejo krize.

Naši pilotni partnerji poročajo, da prvi meseci uporabe naredijo največji vtis. Ne zato, ker bi sistem odkril kaj dramatičnega, ampak zato, ker prvič vidijo svojo organizacijo v celoti in v realnem času. Brez tega, da bi morali celotno sliko sestavljati iz desetih različnih poročil.

Poudarjate, da ne razvijate avtonomnih UI agentov, temveč »podatkovne asistente«. Lahko pojasnite to razliko? Zakaj je koncept »human-in-the-loop« (človek v zanki odločanja) ključen, ko govorimo o kadrovskih podatkih?

Razlika je načelna, ne samo tehnična. Avtonomni UI agent bi sam sprejel odločitev, na primer poslal opomnik o naduri direktno vodji oddelka. Podatkovni asistent pa zazna anomalijo (naduro), pripravi predlog in utemeljitev ter počaka na odobritev človeka. Dokler nima njegovega soglasja, se ne zgodi nič.

Pri kadrovskih podatkih je ta razlika kritična zaradi dveh razlogov. Prvič, govorimo o odločitvah, ki zadevajo zaposlene – njihove plače, delovna razmerja, kariera. Napaka UI sistema, ki bi šla skozi brez nadzora, bi imela realne posledice za realne ljudi. Drugič, evropska UI direktiva, ki je stopila v veljavo 2024, tega ne samo priporoča, ampak zahteva. Kadrovske UI rešitve so razvrščene kot visoko tvegane in zakon izrecno zahteva, da ima človek nadzor nad vsako odločitvijo, ki se tiče zaposlenih.

Naš pristop je zato preprost: KADRIS 4 IQ nikoli ne odloča. Svetuje, pojasnjuje, opozarja. Odloča vedno HR strokovnjak. Vsako poročilo, vsak načrt ukrepanja, vsako opozorilo gre skozi odobritev in je hkrati shranjeno v revizijski sledi. Transparentnost in odgovornost sta vgrajeni v sistem, ne dodani naknadno.

Umetna inteligenca je včasih podvržena t. i. halucinacijam. Kako ste v KADRISU 4 IQ poskrbeli, da so predlogi in analize, ki jih sistem ponudi kadroviku, točni, zanesljivi in utemeljeni na realnih podatkih podjetja?

To je eno najpomembnejših tehničnih vprašanj in ima konkretno arhitekturno rešitev. Halucinacije nastanejo, kadar si UI model »izmišlja« odgovore, ker nima dostopa do pravih podatkov. Naša rešitev je, da UI nikoli ne piše SQL poizvedb neposredno na bazo, kar je standardna past pri t. i. »text-to-SQL« pristopih.

Namesto tega smo zgradili semantični sloj, t.i. »cube.dev«, ki deluje kot posrednik. V njem so formalno definirane vse poslovne metrike z njihovimi natančnimi definicijami. Ko UI odgovori na vprašanje »kakšna je fluktuacija v oddelku logistike«, kliče vnaprej definirano formulo in si ne izmišlja lastne. Formula za fluktuacijo je zapisana enkrat, je preverjena in UI jo ne more zaobiti ali spremeniti.

Poleg tega imamo v sistem vgrajen mehanizem za merjenje kakovosti UI odgovorov. Vsak odgovor je ocenjen po zanesljivosti, ustreznosti in točnosti. Odgovori pod pragom se ne pokažejo. To ni le varnostni mehanizem, temveč zagotovilo, da HR menedžer prejme odgovore, ki temeljijo na dejanskih podatkih njegove organizacije, ne na splošnem znanju UI modela. 

Vodje pogosto ne vedo, da je nekaj narobe, dokler ni prepozno – preprosto zato, ker podatkov niso znali pogledati iz pravega zornega kota. Kako KADRIS 4 IQ poveže na videz nepovezane podatke – bolniške odsotnosti, nadure, fluktuacijo – in kdaj gre korak dlje: ali sistem anomalijo in pravi zorni kot nanjo prepozna sam, še preden bi uporabnik vedel, kaj sploh iskati?

To je po mojem mnenju največja vrednost sistema. Ne posamezna metrika, ampak sposobnost videti vzorce med njimi. Klasičen primer: oddelek ima visoke nadure. To je signal. Isti oddelek ima visoko stopnjo bolniških odsotnosti. To je drug signal. In ta oddelek ima fluktuacijo dvakrat večjo od povprečja. Ko sistem vidi te tri signale skupaj na istem oddelku in v istem časovnem obdobju, ve da ne gre za tri ločene probleme. Gre za sistemski problem – preobremenjenost.

Sistem to zazna samodejno, ne da bi vodja moral vedeti, kaj iskati. Nočna analiza pregleda vse definirane anomalije za vse oddelke in zaposlene. HR menedžer dobi zjutraj obvestilo z razlago, zakaj je to anomalija, kaj jo povzroča in kaj je priporočljivo storiti.

Ključna beseda je »vzorec«, ne posamezni dogodek. En zaposleni z eno zamudo ni anomalija. Osem zaposlenih s trimesečnimi zamudami zapored v istem oddelku je signal, ki zahteva pozornost.

Ključna beseda je »vzorec«, ne posamezni dogodek. En zaposleni z eno zamudo ni anomalija. Osem zaposlenih s trimesečnimi zamudami zapored v istem oddelku je signal, ki zahteva pozornost. In to razliko sistem zazna, človek pa je pogosto prezaposlen, da bi jo opazil sam.

Doslej smo govorili predvsem o kadrovski službi. A KADRIS 4 IQ ni namenjen zgolj njej – z istimi podatki naj bi enako smiselno delal tudi finančni direktor, direktor podjetja ali vodja oddelka. Kaj vsak od njih v istem sistemu dejansko vidi – in zakaj je bilo pomembno, da orodje ne ostane zaklenjeno v enem oddelku?

Isti podatki, različne perspektive – to je bil eden od ključnih konceptualnih principov. HR direktorica vidi fluktuacijo, anomalije v delovnem času in opozorila za skladnost z ZDR-1. CFO vidi neto strošek dela po odbitku refundacij ZZZS, primerjavo plan vs. dejansko stanje in napoved stroškov za naslednji kvartal. Direktor vidi samo številko skupne finančne izpostavljenosti organizacije ob ne ukrepanju.

Zakaj je to pomembno? Ker kadrovske odločitve pogosto nasedejo, ko jih je treba utemeljiti pred upravo. HR strokovnjak ve, da je fluktuacija v oddelku logistike problem. Ampak, ko to pove CFO-ju v odstotkih, ga ta vpraša: »In koliko nas to stane?« Če ne zna odgovoriti v evrih, se razgovor tam konča.

KADRIS 4 IQ to razliko zapolni. Fluktuacija 14 % v oddelku logistike je procesni problem. Enaka fluktuacija prevedena v x tisoč evrov letnih stroškov zamenjave kadrov je finančna odločitev. In to je jezik, ki ga uprava razume.

Danes mora vodja pogosto prositi podatkovnega analitika, IT oddelek ali zunanjega skrbnika sistema, da mu pripravi pogled na podatke, kakršne potrebuje. Kako blizu je KADRIS 4 IQ temu, da odločevalec sam – brez teh vmesnih korakov – pride do take postavitve? In ali ga prav ta pot, od vzorca k podrobnosti, ki vzorec pojasni, in nazaj, mimogrede tudi nauči brati podatke, ne da bi se tega sploh zavedal?

Naš cilj je jasen: odločevalec vpraša v naravnem jeziku in dobi odgovor, ki je razložljiv do vira. Ne poročilo, ki ga mora interpretirati. Ne graf brez konteksta. Odgovor z razlago, zakaj je taka situacija, kaj jo povzroča in kaj je priporočljivo.

Danes smo pri tem, da HR menedžer ali vodja oddelka postavi vprašanje: »Zakaj je fluktuacija v oddelku logistike višja od povprečja?« in dobi odgovor v sekundi. Brez vmesnega analitika, brez čakanja na poročilo, brez da bi moral vedeti, katera tabela v bazi ima relevantne podatke.

Danes smo pri tem, da HR menedžer ali vodja oddelka postavi vprašanje: »Zakaj je fluktuacija v oddelku logistike višja od povprečja?« in dobi odgovor v sekundi.

Vaše opažanje o učenju je točno in mislim, da podcenjeno. Ko vidite isto vprašanje odgovorjeno večkrat, začnete razumeti, kateri podatki so relevantni, kako se med seboj povezujejo in kaj pomenijo spremembe. Sistem ne samo odgovori, ampak razloži logiko za odgovorom. In to je v resnici bolj dragoceno kot sam odgovor. Organizacija, ki razume lastne podatke, sprejema boljše odločitve od organizacije, ki je od podatkov odvisna.

Finančni jezik je jezik, ki ga najbolje razume uprava. Kako KADRIS 4 IQ pomaga HR strokovnjakom prevesti kadrovske izzive (npr. fluktuacijo ali neizkoriščen dopust) v konkretne finančne ocene tveganja, s katerimi lahko lažje utemeljijo svoje predloge pred upravo?

Kadroviki so pogosto ujeti v paradoks: vedo, da je problem resen, ampak ga ne znajo ubesediti v jeziku, ki bi prepričal CFO-ja ali upravo. Fluktuacija 14 % v oddelku logistike zveni kot HR metrika. Toda devetindvajset odhodov krat x evrov stroškov zamenjave na odhod… ta številka se lahko nabere v več deset tisoč evrov letno. To je investicijska odločitev.

Ko HR direktor prvič pride na upravo z ROI kalkulacijo namesto z opisom problema, se dinamika razgovora popolnoma spremeni. Ni več vprašanje ali je problem resen. Vprašanje je, kdaj in kako ukrepati.

KADRIS 4 IQ naredi to pretvorbo samodejno. Na koncu se vsaka anomalija izrazi v evrih: koliko nas stane neodzivnost, kakšen je strošek ukrepa in kdaj se investicija povrne. HR strokovnjak dobi poročilo za vodstvo, ki ga uprava razume brez dodatnih razlag.

Izkušnje naših pilotnih partnerjev kažejo, da ima ta sprememba pogosto večji vpliv kot sama analitika. Ko HR direktor prvič pride na upravo z ROI kalkulacijo namesto z opisom problema, se dinamika razgovora popolnoma spremeni. Ni več vprašanje ali je problem resen. Vprašanje je, kdaj in kako ukrepati.

Kadrovski podatki sodijo med najbolj občutljive osebne podatke v podjetju. Kako nadgradnja z umetno inteligenco vpliva na skladnost z GDPR in prihajajočim evropskim aktom o umetni inteligenci (EU AI Act)? Kako ste poskrbeli za varnost teh podatkov?

Varnost in skladnost nista bila naknaden razmislek, sta del arhitekture od prvega dne. Konkretno: preden kateri koli podatek doseže UI model, gre skozi anonimizacijo. Imena, EMŠO, davčne številke, … Nič od tega UI nikoli ne vidi. Analiza poteka nad anonimizirano podmnožico, ne nad osebnimi podatki.

Glede evropskega akta: KADRIS 4 IQ sodi v kategorijo visoko tveganega UI po Annexu III, ker obdeluje podatke zaposlenih in vpliva na odločitve, ki se jih tičejo. To zahteva transparentnost (zaposleni vedo, da obstaja tak sistem), HITL nadzor (vsaka odločitev gre skozi človeka), revizijsko sled (vsak dostop je zabeležen) in redne ocene kakovosti. Vse to je vgrajeno.

Revizijska sled je vsak UI klic, vsak dostop do podatkov, vsaka odobritev ali zavrnitev. Vse je zabeleženo z identiteto, časom in razlogom. Informacijski pooblaščenec ali DPO lahko preveri vsak korak.

Kakšne etične zadržke sicer prinaša uporaba AI v kadrovskih procesih? Z vidika ponudnika takšne storitve, kje so po vašem mnenju meje, ki jih umetna inteligenca v odnosu do zaposlenih ne bi smela prestopiti?

To je vprašanje, ki si ga moramo postavljati tudi mi kot razvijalci, ne samo naši kupci. Moja osebna meja je jasna - AI v kadrovskih procesih sme analizirati vzorce, opozarjati na tveganja in predlagati ukrepe. Ne sme pa odločati namesto nas. 

Razlika je načelna. Analitika na ravni oddelka ali organizacije je legitimna, saj pomaga razumeti sistemske vzorce. Profil posameznega zaposlenega, ki bi ga sistem neposredno ocenjeval ali kategoriziral, brez da ta o tem ve, je etično sporno in verjetno tudi nezakonito.

Poleg tega verjamem, da mora biti zaposleni informiran. Ne v smislu dolgega pravnega besedila, ampak v smislu jasne komunikacije: »Naše podjetje uporablja sistem za analizo HR podatkov. Tukaj je, kaj to pomeni in kakšne so vaše pravice.« Transparentnost ni samo zakonska obveznost, je pogoj za zaupanje. In brez zaupanja zaposlenih noben HR sistem dolgoročno ne deluje, ne glede na to, kako tehnično dober je.

UI ne sme nadomestiti empatije. Odločitve o odpuščanjih, premestitvah ali disciplinskih ukrepih morajo ostati v rokah ljudi, ki razumejo kontekst, katerega podatki ne vidijo.

UI ne sme nadomestiti empatije. Odločitve o odpuščanjih, premestitvah ali disciplinskih ukrepih morajo ostati v rokah ljudi, ki razumejo kontekst, katerega podatki ne vidijo. KADRIS 4 IQ je orodje za boljše odločanje, ne zamenjava za odločanje.

Podjetja se pogosto bojijo dolgotrajnih in dragih implementacij novih IT rešitev. Kako zahteven je prehod na to novo verzijo KADRISA 4 za podjetje, ki že uporablja vaš sistem? Ali potrebujejo kakšne posebne tehnične prilagoditve ali izobraževanje ekipe?

Za obstoječe stranke KADRIS 4 je odgovor preprost. KADRIS 4 IQ se priklopi na podatke, ki so že tam. Ni migracije, ni novega sistema, ni učenja nove platforme. Onboarding traja dva tedna, eden za konfiguracijo, drugi za uvajanje HR kontaktov.

Zakaj je to mogoče? Ker smo IQ zgradili kot sloj nad obstoječim sistemom, ne kot zamenjavo. KADRIS 4 zbira in obračunava. IQ nad istimi podatki pa gradi analitiko, napovedi in asistenta. Isti podatki, nova perspektiva.

Za podjetja, ki ne uporabljajo KADRIS 4, je slika drugačna. Integracija z obstoječim HR sistemom zahteva več dela. Ampak to je standardna IT integracija, ne revolucija. 

Če bi morali vodjem – naj bo v kadrovski, finančni ali poslovni vlogi – dati en nasvet, kako naj danes začnejo pripravljati svojo organizacijo na vstop umetne inteligence v kadrovske procese, kaj bi jim svetovali?

Začnite s podatki, ne z UI. To morda zveni paradoksalno, ampak je najpomembnejši nasvet, ki ga lahko dam.

UI je toliko dober, kolikor so dobri podatki pod njim. Če vaši kadrovski podatki niso konsistentni, ne beležite pravilno delovnega časa, nimate urejenega šifranta vrst plačil, vam nobena UI rešitev ne bo pomagala.

UI je toliko dober, kolikor so dobri podatki pod njim. Če vaši kadrovski podatki niso konsistentni, ne beležite pravilno delovnega časa, nimate urejenega šifranta vrst plačil, vam nobena UI rešitev ne bo pomagala. Nasprotno – slabi podatki z UI dajejo slabe odgovore z videzom avtoritete. To je nevarnejše od slabih odgovorov brez UI.

Najprej uredite podatke, potem izberite en konkreten problem, ki ga hočete rešiti. Ne lotite se »uvedbe UI«, ampak »vsak mesec hočem vedeti, kateri oddelek ima nadure nad zakonskim pragom«. In začnite tam.

Ko boste imeli en delujoč primer, ki prinaša oprijemljivo vrednost, boste vedeli kako naprej. UI v HR-ju ni projekt z začetkom in koncem, je sprememba načina dela. In take spremembe se uvajajo postopno, korak za korakom, ne z veliko revolucijo.

Urban bo z nami tudi na festivalu Pre:plet, kjer bo Četrta pot pokrovitelj Arene digitalizacije in UI. Tam bomo imeli priložnost slišati tudi že prve izkušnje kadrovikov s Kadrisom 4 IQ. Pridružite se nam 22. septembra na Ekonomski fakulteti v Ljubljani!

Oznake:

Več v kategoriji Intervju

Več člankov iz te kategorije