Z 2. avgustom 2026 so se v Evropski uniji začele uporabljati prve pomembne obveznosti glede preglednosti sistemov umetne inteligence iz Uredbe (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024, bolj znane kot Akt o umetni inteligenci (AI Act). Gre za prvi celovit pravni okvir na svetu, ki ureja razvoj, uporabo in nadzor sistemov umetne inteligence glede na njihovo stopnjo tveganja.
V Sloveniji izvajanje evropske uredbe ureja Zakon o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI), ki določa pristojne organe za izvajanje in nadzor nad Aktom o umetni inteligenci ter vzpostavlja nacionalni okvir za njegovo izvajanje.
Kaj se je spremenilo?
Od avgusta 2026 morajo ponudniki in uporabniki določenih sistemov umetne inteligence zagotavljati večjo preglednost njihove uporabe. Med najpomembnejšimi zahtevami so:
- posameznik mora biti obveščen, kadar komunicira s sistemom umetne inteligence (npr. klepetalnim botom), kadar to ni očitno;
- vsebine, ustvarjene ali bistveno spremenjene z umetno inteligenco, morajo biti v primerih, ki jih določa Akt o umetni inteligenci, ustrezno označene;
- globoki ponaredki (deepfake) morajo biti jasno označeni;
- organizacije morajo pri uporabi umetne inteligence zagotavljati preglednost, odgovorno uporabo ter spoštovanje temeljnih pravic posameznikov.
Gre za prve obveznosti, ki jih prinaša AI Act. V prihodnjih letih bodo postopno začele veljati tudi dodatne zahteve za visoko tvegane sisteme umetne inteligence ter druge udeležence v verigi razvoja in uporabe AI.
Kaj to pomeni za organizacije?
Čeprav številna podjetja in javne ustanove umetno inteligenco že uporabljajo pri vsakodnevnem delu (npr. ChatGPT, Microsoft Copilot, Gemini ali druge generativne AI rešitve), večina še nima sprejetih internih pravil, ki bi določala:
- katere AI rešitve so dovoljene za uporabo,
- katere podatke je dovoljeno vnesti v AI orodja,
- kako zaščititi poslovne skrivnosti in osebne podatke,
- kako preverjati pravilnost rezultatov umetne inteligence,
- kdo je odgovoren za uporabo AI v organizaciji,
- kako zagotavljati skladnost z zakonodajo, GDPR, zahtevami informacijske varnosti in internimi pravili.
Prav zato postaja upravljanje uporabe umetne inteligence pomemben del sistema upravljanja informacijske varnosti ter skladnosti poslovanja.
V Go4Panda pomagamo pripraviti politiko uporabe umetne inteligence
Na podlagi večletnih izkušenj z implementacijo informacijske varnosti in s poznavanjem pasti in priložnosti AI rešitev, vam lahko pomagamo pripraviti ter sprejeti pogoje za varno in odgovorno uporabo umetne inteligence v okviru zakonodajnih zahtev.
Politika uporabe umetne inteligence bo prilagojena posamezni organizaciji in bo med drugim opredeljevala:
- namen in dovoljene načine uporabe umetne inteligence,
- pravila za ravnanje z informacijami in osebnimi podatki,
- odgovornosti zaposlenih in vodstva,
- pravila za uporabo javnih in internih AI orodij,
- postopek ocene tveganj pri uporabi AI,
- evidenco uporabljenih AI sistemov,
- povezavo z zahtevami standarda ISO/IEC 27001, uredbe GDPR, direktive NIS2 ter Akta o umetni inteligenci.
Naš cilj je organizacijam pomagati vzpostaviti jasna, praktična in izvedljiva pravila, ki bodo omogočala varno uporabo umetne inteligence ter hkrati zagotavljala skladnost z veljavno zakonodajo in internimi zahtevami organizacije.
Je vaša organizacija pripravljena na AI Act?
Če še nimate sprejetih pravil za uporabo umetne inteligence, je zdaj pravi čas za njihovo pripravo.
Pomagamo vam pripraviti dokumentacijo, prilagojeno vaši organizaciji, ter zagotoviti skladnost z veljavno zakonodajo in dobrimi praksami.
Za neobvezujoč sestanek ali dodatne informacije nam pišite na damjana@go4panda.com.
Naslovna grafika je ustvarjena s pomočjo AI (ChatGPT).