Slovenski kadrovski kongres

Ali se z UI v resnici samo šlepamo? – Tveganja in koristi uporabe UI v poslovnem svetu

Čas branja 7 min

Razvoj umetne inteligence (UI) prinaša tektonske premike v vsa poslovna okolja, pri čemer kadrovska funkcija (HR) in vodenje podjetij nista izjemi. V panelu na #loveHR Summitu 2026 z naslovom »Ali se z UI v resnici samo šlepamo?« so strokovnjaki različnih področij skozi dinamično razpravo osvetlili ključne koristi, pasti in prihajajoče regulativne zahteve tehnološke transformacije.

Foto: Blaž Lenček

Sodelujoči na panelu:

Prvi koraki: Kako danes podjetja integrirajo UI?

Uvajanje orodij umetne inteligence se med podjetji razlikuje predvsem glede na stopnjo previdnosti in zahteve po varovanju podatkov. Medtem ko posamezniki v zasebnem življenju prosto eksperimentirajo, korporativno okolje zahteva nadzorovano integracijo.

Boštjan Košak je pojasnil, kako so se projekta lotili v Telekomu Slovenije:

»V službi uporabljamo Copilota. Izbrali smo ga predvsem zato, ker ga je zaradi varnostnih razlogov najlažje integrirati v Microsoftovo okolje, v katerem delamo. V zasebnosti pa poskušam tudi Manus, Perplexity, Claude in ostale. V podjetju smo bili sprva relativno konzervativni in previdni, a smo z rezultati zelo zadovoljni. V nadaljevanju pa bo treba malo iz cone udobja. Tehnologija namreč bistveno presega to, kar dejansko uporabljamo.«

Pravna tveganja v HR in past »tihe avtomatizacije«

Pravno področje se sooča z resnimi izzivi, ki jih prinaša hitra implementacija UI brez jasnih internih pravil. V kadrovskem sektorju so tveganja še toliko večja, saj neposredno vplivajo na usode zaposlenih.

Nevarnost odločanja brez človeške presoje

Pravnica Mia Kalaš opozarja na tveganja, ki jih prinaša t. i. tiha avtomatizacija v kadrovskih procesih:

»V HR okolju me najbolj skrbi scenarij, da uvedete orodje, ki bo podpiralo odločitve pri zaposlovanju, spremljanju uspešnosti ali celo pri odpuščanju, pa se bo sistem začel odločati na način, da v bistvu že vse 've', za njim pa ni več konkretne človeške presoje ali možnosti, da odločitev utemeljite.«

Absolutno prepovedane prakse in izguba avtorskih pravic

Kalaševa je izpostavila tudi strogo regulirane vsebine po Evropskem aktu o umetni inteligenci (AI Act):

Absurdi hiperproduktivnosti in problem »črne škatle«

Zmožnost UI, da v nekaj sekundah ustvari prepričljive vsebine, že povzroča resne anomalije v širšem ekosistemu, od znanosti do programiranja.

Mitja Jermol (IJS) opozarja, da postajajo tradicionalni ocenjevalni mehanizmi zaradi UI neučinkoviti:

»To so postali čisti absurdi. Na eni od večjih mednarodnih konferenc s področja UI so včasih prejeli od 4 do 5 tisoč člankov, letos jih je prišlo 19 tisoč. Cel ekosistem nima možnosti, da to relevantno pregleda. Podobno je pri prijavah projektov na razpisih Horizon – vsi predlogi so dobro napisani, vsi imajo zgodbo, a so vsi na istem nivoju in postaja čisti dolgčas. Sploh ni več mehanizma, kako rangirati, kaj je res dobro.«

Jermol dodaja, da se podobno briše meja med uporabnikom in programerjem, saj lahko z UI vsak ustvari delujoč prototip (mockup). Hkrati opozarja na tehnično netransparentnost sistemov in na dejstvo, da nam UI nastavlja ogledalo, ki ga marsikateri menedžer nerad pogleda:

»Debata v mednarodnih organizacijah se vedno začne pri tehnologiji, konča pa se s tem, da mi kot človeštvo nimamo dobro urejenih sistemov – ugotovimo, da zdravstvo ni dobro urejeno, da družba ni dobro urejena. In kdo bo kriv za napake UI? Zaenkrat smo to ljudje.«

Kognitivna atrofija: Ali postajamo leni?

Ker človeški možgani naravno težijo k porabi čim manjše količine energije, hitro sprejemamo prepričljive odgovore, ki jih ponuja UI. To prinaša resne dolgoročne posledice za razvoj človeških kompetenc.

Mia Kalaš meni, da bo kritična presoja postala izjemno težka:

»Zelo enostavno je verjeti lepemu, prepričljivemu in dobro utemeljenemu odgovoru, ki ga da umetna inteligenca. In vedno težje bo kritično presojati, ali smo dobili pravi rezultat ali ne. Ker se njene kognitivne sposobnosti ne razvijajo več v mesecih ali letih, ampak v tednih, drvimo v nezaželene distopične scenarije, če ne bomo ohranili človeške komponente.«

Mitja Jermol pritrjuje, da ne gre za kognitivno razbremenitev, temveč za tveganje zakrnelosti:

»Moji kolegi so postali že malo leni. Ljudje smo po definiciji leni, kar pomeni, da tehnologiji prepuščamo vse več lastne avtonomije (agency). Danes bi bil lahko sam super ekspert za mikrobiologijo in o tem kompetentno govoril tukaj pred vami, čeprav nimam pojma – ker nimam kritične distance in ne razumem domene. Ker delo porivamo v stroje, postajamo zakrneli. Posledice pa se ne bodo videle jutri, ampak v izobraževalnem sistemu čez deset let.«

Paradoks vodenja in izziv vzgoje mladih talentov

Ali lahko vodstvo, ki tehnologije ne razume, sploh dobro presoja naložbe v UI?

Boštjan Košak je prepričan, da je razumevanje UI za management neizogibno, hkrati pa poudarja, da nas mora tehnologija delati bolj človeške:

»Gre za enega temeljnih premikov in orodij prihodnosti. Management sicer ne more biti največji ekspert, zato potrebuje strokovnjake. Osebno me sicer moti – ker verjamem, da znam dobro pisati, da danes vsak preprost model piše zelo dobro. A odziv na to je lahko le, da moraš biti sam še boljši. Zanimivo je, da v popularni glasbi avtorji še vedno sami pišejo besedila in glasbo. Stroji znajo marsikaj, ne gre pa jim ustvarjanje tistega posebnega čustvenega odziva ljudi. V umetni inteligenci prepoznamo generičnost. Ljudje smo lahko še vedno boljši, če to hočemo biti.«

Sprememba narave dela pa prinaša velik izziv za mlade generacije, ki šele vstopajo na trg dela. Mia Kalaš izpostavlja ključni paradoks produktivnosti:

»V Ameriki že razvijajo 'native AI' odvetniške pisarne, kjer agenti svetujejo z minimalnim človeškim nadzorom in konkurirajo s hitrostjo ter nizko ceno. Mene osebno najbolj skrbi, kako bomo v bodočih generacijah vzgojili pravnike, ki bodo kos najtežjim nalogam, če v imenu produktivnosti z umetno inteligenco nadomeščamo pripravnike in ljudi, ki pridejo s fakultete? Rutinski del dela bo izginil, zato mora izobraževalni sistem nujno začeti učiti kritično mišljenje.«

Mia Kalaš, Šelih & partnerji Foto: Blaž Lenček

Mitja Jermol ob tem dodaja, da se definicija kompetenc spreminja:

»Pojavlja se ključna kompetenca: razumeti problem na višjem nivoju in ga znati razčleniti. Jedrne kompetence prihodnosti niso več to, da si ozko ekspertno določen za neko področje, ampak da znaš problem celostno razumeti in ga pravilno rešiti s pomočjo orodij.«

Mitja Jermol, IJS Foto: Blaž Lenček

Ključna priporočila za HR managerje in vodstva podjetij

Ob koncu razprave so govorci strnili praktične nasvete za vsakodnevno poslovanje:

1. Vzpostavite ekosistem eksperimentiranja

Mitja Jermol svetuje prebujanje radovednosti brez strahu:

»S tem se je treba igrati in testirati na dnevni bazi. V podjetjih vzpostavite ekosistem, kjer se bodo eksperimenti med zaposlenimi izmenjevali – da nekdo pove, kaj je preizkusil in kaj dobro deluje. Receptov ni, rešitve si morate nastaviti sami za svoje probleme. Ta izmenjava postaja dejanski know-how podjetja. Dajte se igrati, spustite strah in poskusite vse živo. Sam vsak mesec zapravim 500 do 600 evrov lastnega denarja samo za to, da se igram z novimi orodji. To je investicija.«

2. Naredite takojšnjo inventuro sistemov (AI Act)

Mia Kalaš opozarja na bližajoče se zakonske obveznosti:

»Zaposlene je nujno izobraziti o omejitvah in pristranskostih (biases) UI. Avgusta začne veljati del AI-akta o visokotveganih sistemih. Če v HR uporabljate kar koli, kar vpliva na kariero zaposlenega (zaposlovanje, uspešnost, odpuščanje), morate narediti inventuro. Če sistemi spadajo med visokotvegane, se morate pripraviti na popolno transparentnost: delavce bo treba obvestiti, slediti navodilom, zagotoviti primerljive podatke in biti sposoben kandidatu obrazložiti, kako je UI vplivala na odločitev in kje lahko ugovarja. Kazni za neskladnost so grozljive.«

3. Prste stran od končnih kadrovskih odločitev – UI uničuje bisere

Boštjan Košak je zaključil z močnim opozorilom za vse kadrovike:

»Nikakor ne bi smeli kadrovskih odločitev, niti najbolj temeljnih filtracij in izborov, prepustiti umetni inteligenci. Razlog je preprost: s tem izgubite potencialne bisere. Umetna inteligenca bo sicer odstranila odklone v negativno smer, ampak bo odstranila tudi vse tiste pozitivne odklone, ki podjetju dajejo dolgoročen, popolnoma spremenjen potencial. Najboljše ljudi bo odstranjevala enako kot najslabše, ker teži k povprečju. Zato: prste stran od UI pri končnem odločanju o ljudeh, saj uničuje bisere.«

Boštjan Košak, predsednik uprave Telekoma Slovenije

Košak napoveduje, da bo kmalu standardno vprašanje na vsakem zaposlitvenem razgovoru: »Katera orodja UI uporabljaš v službi in katere zasebno?« Odgovor na to vprašanje pa bo jasno pokazal raven kandidatove proaktivnosti in pripravljenosti na prihodnost.

Oznake:

Več v kategoriji Slovenski kadrovski kongres

Več člankov iz te kategorije