EK: UI smernice
Evropska komisija je objavila nov dokument namenjen razjasnitvi obveznosti glede preglednost iz 50. člena Akta o umetni inteligenci.
Novica je bila objavljena 20. 7. 2026.
Smernice so namenjene predvsem razjasnitvi, kdaj in na kakšen način bo treba posameznike obvestiti, da komunicirajo s sistemom umetne inteligence oziroma da je bila določena vsebina ustvarjena ali spremenjena z uporabo umetne inteligence.
Razmah generativne umetne inteligence je namreč vse bolj zabrisal mejo med vsebinami, ki jih ustvari človek in vsebinami, ki jih je ustvarila UI. Podobno velja tudi za komunikacijo z različnimi klepetalniki in drugimi interaktivnimi sistemi, pri katerih posameznik morda niti ne ve, da na drugi strani ni človeka. Posamezniki se lahko celo znajdejo v položaju, ko so izpostavljeni sistemom za prepoznavanje čustev ali biometrično razvrščanje, ne da bi se tega zavedali.
Namen pravil o preglednosti je zato posamezniku omogočiti, da razume, kdaj ima opravka z umetno inteligenco in temu ustrezno presodi zanesljivost informacij oziroma naravo interakcije.
Kdaj bo treba posameznika opozoriti na uporabo umetne inteligence?
Ponudniki določenih interaktivnih sistemov umetne inteligence morajo zagotoviti, da je posameznik jasno obveščen, kadar neposredno komunicira z umetno inteligenco, razen kadar je to glede na okoliščine očitno. Pri sistemih, ki ustvarjajo sintetične avdio, slikovne, video ali besedilne vsebine, pa morajo zagotoviti tudi ustrezno tehnično označevanje izhodnih vsebin v strojno berljivi obliki, tako da je mogoče zaznati, da so bile ustvarjene ali spremenjene z umetno inteligenco.
Posebne obveznosti veljajo tudi za uporabnike oziroma uvajalce sistemov umetne inteligence. Posameznike bo treba ustrezno obvestiti o uporabi sistemov za prepoznavanje čustev ali biometrično kategorizacijo. Pravila o razkritju veljajo tudi pri uporabi umetno ustvarjenih ali manipuliranih vsebin, ki predstavljajo t. i. globoke ponaredke oziroma »deepfake« vsebine.
Akt o umetni inteligenci posebej ureja tudi besedila, ustvarjena ali spremenjena z umetno inteligenco, kadar so objavljena z namenom obveščanja javnosti o zadevah javnega interesa. V takšnih primerih je treba praviloma razkriti uporabo umetne inteligence. Pomembna izjema velja, kadar je bila vsebina predmet človeškega pregleda ali uredniškega nadzora in za njeno objavo uredniško odgovarja fizična ali pravna oseba.
To pomeni, da zgolj dejstvo, da je bila umetna inteligenca uporabljena pri pripravi besedila, še ne pomeni avtomatično, da mora biti vsako takšno besedilo posebej označeno kot vsebina, ustvarjena z umetno inteligenco.
Smernice pojasnjujejo tudi, kaj sploh šteje kot vsebina, ustvarjena z UI
Pomemben del smernic je namenjen razmejitvi situacij, ki sodijo v okvir 50. člena, od običajne uporabe digitalnih orodij.
Evropska komisija podrobneje pojasnjuje pojme, kot so neposredno interaktivni sistemi umetne inteligence, sintetične vsebine, deepfake vsebine in z umetno inteligenco ustvarjena besedila o zadevah javnega interesa. Hkrati s praktičnimi primeri ponazarja, kdaj obveznosti glede preglednosti nastanejo in kdaj uporaba umetne inteligence ne dosega praga, ki bi zahteval posebno označevanje.
Smernice tako med drugim pomagajo razlikovati med vsebinskim ustvarjanjem ali manipulacijo z uporabo umetne inteligence in običajnimi tehničnimi ali uredniškimi posegi. Takšno razlikovanje bo v praksi pomembno, saj se funkcije umetne inteligence vse pogosteje vključujejo v vsakodnevna programska orodja za urejanje besedil, slik, zvoka in videoposnetkov.
Kako bodo organizacije dokazovale skladnost?
Smernice pojasnjujejo tudi pričakovanja glede dokazovanja skladnosti. Pri obveznostih označevanja vsebin bo pomembno vlogo imel Kodeks ravnanja o preglednosti vsebin, ustvarjenih z umetno inteligenco.
Ponudniki in uporabniki generativnih sistemov umetne inteligence, ki se kodeksu ne bodo pridružili, bodo morali na drug, primerljivo ustrezen način dokazati, da izpolnjujejo zahteve glede označevanja in razkrivanja vsebin, ustvarjenih ali spremenjenih z umetno inteligenco.
Pri drugih obveznostih glede preglednosti, na primer pri neposredni interakciji posameznika s sistemom umetne inteligence, lahko organizacije same določijo ustrezne načine obveščanja, pri čemer naj upoštevajo usmeritve iz smernic.
Smernice Evropske komisije so dostopna tukaj.
Vir: Evropska komisija
Naslovna fotografija: Unsplash
