EK: Večja preglednosti UI vsebin
Evropska komisija je začela s pripravo Kodeksa ravnanja o označevanju in navajanju vsebin, ustvarjenih z umetno inteligenco.
Novica je bila objavljena 17. 12. 2025.
Gre za pomemben mehki regulativni instrument, ki bo v praksi konkretiziral zakonske obveznosti glede označevanja in zaznavanja vsebin, nastalih ali spremenjenih s pomočjo UI. Čeprav Kodeks formalno ne bo pravno zavezujoč, bo imel v prihodnjih letih pomembno vlogo pri razlagi skladnosti in pri nadzoru nad uporabo UI sistemov v Evropski uniji.
Kodeks je strukturiran v dva vsebinsko ločena dela. Prvi del se nanaša na ponudnike sistemov umetne inteligence in obravnava pravila glede označevanja ter tehnične zaznave UI generiranih ali manipuliranih vsebin. Drugi del je usmerjen na uporabnike oziroma uvajalce teh sistemov in se osredotoča na obveznosti vidnega označevanja, zlasti pri globokih ponaredkih in besedilih, ki jih ustvari ali bistveno preoblikuje umetna inteligenca.
Posebnost prvega dela Kodeksa je poudarek na skupni odgovornosti v celotni vrednostni verigi. Začetni ponudniki UI sistemov morajo že v zasnovo tehnologije vključiti mehanizme za sledljivost in identifikacijo vsebin, medtem ko morajo nadaljnji ponudniki zagotoviti, da se te oznake ohranijo tudi ob nadaljnji uporabi, distribuciji ali preoblikovanju vsebin. Preglednost tako ni razumljena kot enkratno dejanje, temveč kot neprekinjen proces skozi celoten življenjski cikel vsebine.
Pri posebej občutljivih vsebinah, kot so globoki ponaredki, pa tehnična sledljivost sama po sebi ne zadostuje, saj Kodeks zahteva tudi jasno vidno označbo za končnega uporabnika.
Drugi sklop ukrepov v prvem delu se osredotoča na zaznavanje. Podpisniki Kodeksa naj bi zagotovili dostopna orodja za preverjanje, ali je določena vsebina generirana ali manipulirana z UI, ne glede na medij. Ta orodja naj bi omogočala vpogled v podatke o izvoru, ponujala tudi forenzične metode zaznave v primerih, kjer oznake niso prisotne, ter rezultate predstavljala na razumljiv in dostopen način, skladen z evropskimi standardi dostopnosti. Pomemben element je tudi izobraževanje uporabnikov in širše javnosti o tem, kako prepoznati in preverjati UI vsebine.
Kodeks se ne ustavi pri tehničnih zahtevah, temveč poudarja tudi kakovost in zanesljivost uporabljenih rešitev. Metode označevanja in zaznave morajo delovati učinkovito, ne da bi pri tem bistveno vplivale na delovanje samih UI sistemov. Od ponudnikov se pričakuje, da bodo zanesljivost dokazovali z ustreznimi metrikami in testiranjem na nepoznanih podatkih, da bodo sistemi odporni na običajne posege, kot so urejanje ali ponovni zapisi. Razvoj na tem področju naj bi se nadaljeval tudi skozi sodelovanje z raziskovalno skupnostjo.
Nenazadnje Kodeks predvideva vzpostavitev notranjih okvirov skladnosti. Ti morajo biti dokumentirani, sorazmerni velikosti in vlogi ponudnika ter redno preverjani v praksi. Kodeks izpostavlja, da sta usposabljanje zaposlenih in sodelovanje z nadzornimi organi sestavni del odgovornega upravljanja umetne inteligence, ne kot zgolj formalna zahteva.
Za upravljavce in obdelovalce osebnih podatkov Kodeks predstavlja pomemben premik od abstraktnih načel k zelo konkretnim tehničnim in organizacijskim pričakovanjem. Preglednost pri uporabi umetne inteligence se s tem ne umešča več zgolj v sfero informiranja posameznikov, temveč postaja preverljiv in dokazljiv element skladnosti. Organizacije bodo morale biti sposobne ne le razložiti, da uporabljajo umetno inteligenco, temveč tudi pokazati, kako je izvor vsebin označen, kako se ta sledljivost ohranja skozi čas in kako je uporabnikom omogočeno preverjanje.
Čeprav je Kodeks zamišljen kot prostovoljni instrument, bo v praksi verjetno služil kot referenčna točka pri nadzoru in presoji skladnosti z Aktom o umetni inteligenci. Za organizacije, ki bodo njegove usmeritve upoštevale že v fazi razvoja ali uvajanja UI sistemov, to pomeni pomembno zmanjšanje tveganj v prihodnosti. Preglednost tako ne bo več razumljena kot dodatna obremenitev, temveč kot nujen gradnik zaupanja v digitalno okolje, v katerem se meja med človeško in strojno ustvarjeno vsebino vse hitreje briše.
Prvi osnutek besedila Kodeksa je dostopen tukaj.
Vir: Evropska komisija
Naslovna fotografija: Unsplash
