Upravljanje umetne inteligence: deset načel za učinkovit nadzor

Umetna inteligenca spreminja način, kako družbe ustvarjajo vrednost, sprejemajo odločitve, obvladujejo tveganja in razvijajo poslovne modele. Njena uporaba zato ni zgolj tehnološko vprašanje, temveč strateška tema, ki zahteva ustrezno pozornost nadzornih svetov.

ecoDa in Accountancy Europe sta pripravili deset praktičnih načel, ki članom nadzornih svetov pomagajo pri spremljanju uvajanja umetne inteligence, presoji odločitev poslovodstva ter obvladovanju z njo povezanih priložnosti in tveganj. Ključno sporočilo publikacije je jasno: umetna inteligenca lahko podpira kakovostnejše upravljanje, ne more pa nadomestiti presoje, odgovornosti in učinkovitega nadzora.

Deset načel za nadzor nad uporabo umetne inteligence

1. Umetno inteligenco obravnavajte kot osrednje strateško vprašanje.
Nadzorni svet naj presoja njen vpliv na strategijo, poslovni model, konkurenčni položaj in dolgoročno ustvarjanje vrednosti.

2. Osredotočite se na ustvarjanje vrednosti, ne zgolj na uvajanje tehnologije.
Projekti umetne inteligence morajo imeti jasne cilje, merljive rezultate ter utemeljeno razmerje med pričakovanimi koristmi, stroški in tveganji.

3. Vzpostavite jasno upravljanje in odgovornost.
Odgovornosti za uporabo umetne inteligence, sprejemanje odločitev, človeški nadzor in ukrepanje ob nepravilnostih morajo biti jasno določene ter vključene v obstoječe sisteme upravljanja in notranjih kontrol.

4. Zagotovite organizacijsko pripravljenost.
Uspešna uporaba umetne inteligence zahteva kakovostne podatke, ustrezno infrastrukturo, znanje, jasno lastništvo procesov ter organizacijsko kulturo, ki podpira odgovorno uporabo tehnologije.

5. Spremljajte vpliv na zaposlene in poslovni model.
Nadzorni svet naj obravnava vpliv umetne inteligence na organizacijo dela, potrebne kompetence, razvoj prihodnjih vodij, prekvalifikacije zaposlenih in spremembe v načinu odločanja.

6. Intenzivnost nadzora prilagodite tveganjem in vplivom.
Različni načini uporabe umetne inteligence zahtevajo različne ravni kontrol, poročanja in notranjega zagotovila. Družba naj določi tudi svojo pripravljenost za prevzemanje tveganj ter jasne meje dopustne uporabe.

7. Zagotovite odgovorno in zaupanja vredno uporabo.
Poleg skladnosti s predpisi je treba upoštevati pravičnost, nediskriminacijo, zaupnost podatkov, preglednost, razložljivost, etične vidike in ustrezno vključevanje človeka v odločanje.

8. Zahtevajte dokaze in preglednost.
Nadzorni svet naj prejema zanesljive informacije o delovanju sistemov umetne inteligence, učinkovitosti kontrol, incidentih, kakovosti rezultatov in skladnosti ter naj presodi, kje je potrebno neodvisno zagotovilo.

9. Krepite znanje nadzornega sveta o umetni inteligenci.
Članom ni treba postati tehnološki strokovnjaki, potrebujejo pa dovolj znanja, da lahko kritično presojajo predloge poslovodstva, naložbene odločitve, tveganja in regulativne zahteve.

10. Umetno inteligenco uporabljajte tudi za izboljšanje dela nadzornega sveta in njegovih komisij.
Uporaba umetne inteligence lahko izboljša analize, prepoznavanje odstopanj, pripravo vprašanj in obravnavo različnih scenarijev. Ostati mora podpora strokovni presoji članov, njena uporaba pa mora biti varna, pregledna in dokumentirana.

Publikacija vključuje tudi praktična vprašanja, ki jih lahko nadzorni sveti zastavijo poslovodstvu, ter model zrelosti upravljanja umetne inteligence – od začetnega prepoznavanja njenega strateškega pomena do prilagodljivega sistema, v katerem so spremljanje, učenje, notranje zagotovilo in razvoj kompetenc nadzornega sveta vključeni v redno upravljanje družbe.