Družba

Kako NE uporabljati umetne inteligence pri delu: Deloitte avstralski vladi oddal z UI ustvarjeno poročilo – z napakami

Čas branja 2 min

Avstralski oddelek za delo in delovna razmerja (DEWR) je sporočil, da bo svetovalno podjetje Deloitte delno vrnilo denar za poročilo v vrednosti 440.000 avstralskih dolarjev, potem ko so v njem odkrili več napak. Deloitte je priznal, da je pri pripravi dokumenta uporabil generativno umetno inteligenco.

Poročilo, pripravljeno decembra 2024, je preučevalo skladnost informacijskega sistema, ki avtomatizira sankcije za iskalce zaposlitve v primeru neizpolnjevanja obveznosti. V začetni različici, objavljeni julija letos, so kasneje odkrili več napak – med njimi tudi izmišljene reference, napačne citate in lažne navedbe sodnih primerov. Po razkritju napak, o katerem je avgusta poročal Australian Financial Review, je bilo poročilo umaknjeno in nato znova objavljeno z dopolnitvami.

»Halucinacije« umetne inteligence

Napake je prvi izpostavil dr. Christopher Rudge z Univerze v Sydneyju, ki je pojasnil, da je poročilo vsebovalo t. i. »halucinacije« – pojav, ko modeli umetne inteligence zapolnijo vrzeli z napačnimi ali izmišljenimi podatki.
»Namesto da bi zamenjali izmišljene reference z resničnimi, so v novi različici dodali še več novih – kar nakazuje, da prvotne trditve sploh niso imele verodostojnega vira,« je opozoril.

Vsebina poročila ostaja nespremenjena

Deloitte je v dopolnjenem poročilu zapisal, da napake v citatih in opombah ne vplivajo na vsebino, sklepe in priporočila pregleda. Tudi DEWR je potrdil, da »bistvo neodvisnega pregleda ostaja nespremenjeno«. Vendar pa je bila v prilogi nove različice dodana izjava o uporabi umetne inteligence, česar v prvotni izdaji ni bilo.

Kritike in pozivi k večji transparentnosti

Dogodek je sprožil val kritik glede uporabe umetne inteligence v svetovalni industriji. Senatorica iz vrst laburistov Deborah O’Neill je dejala, da se zdi, kot da je »umetna inteligenca opravljala glavno delo«.
»Deloitte ima težavo s človeško inteligenco. To bi bilo smešno, če ne bi bilo tako žalostno. Delno vračilo denarja je delno opravičilo za delo pod standardi,« je dejala in dodala, da bi morali naročniki tovrstnih storitev natančno preverjati, kdo dejansko pripravlja dokumente – ljudje ali umetna inteligenca.

Kaj to pomeni za prihodnost strokovnih poročil

Primer Deloittea se v globalnem kontekstu umešča med prve večje primere, kjer je uporaba umetne inteligence v strokovnih analizah povzročila finančne in ugledne posledice. Čeprav Deloitte vztraja, da vsebina poročila ostaja verodostojna, primer jasno odpira vprašanje odgovornosti pri uporabi AI orodij v strokovnih in svetovalnih praksah.

Za kadrovsko in poslovno skupnost pa dogodek pomeni še večji opomnik, da umetna inteligenca ne more (še) nadomestiti kritičnega mišljenja, preverjenih virov in profesionalne integritete – temeljnih gradnikov zaupanja med svetovalci, naročniki in javnostjo.

Vir: The Guardian – Deloitte to pay money back to Albanese government after using AI in $440,000 report, 6. oktober 2025.

Oznake:

Več v kategoriji Družba

Več člankov iz te kategorije