AKOS: Smernice glede obveznosti obveščanja
Agencija za komunikacijska omrežja in storitve Republike Slovenije je objavila pojasnilo, kako morajo uvajalci sistemov UI za biometrično kategorizacijo in prepoznavanje čustev zagotoviti skladnost z 50. členom Akta o UI
Novica je bila objavljena 10. 9. 2026.
Od 2. avgusta 2026 morajo organizacije pri uporabi nekaterih rešitev umetne inteligence upoštevati tudi nova pravila o transparentnosti. Mednje sodijo rešitve, ki s pomočjo biometričnih značilnosti ljudi uvrščajo v posamezne skupine ali iz njihovih telesnih oziroma vedenjskih značilnosti poskušajo razbrati njihovo čustveno stanje.
Akt o umetni inteligenci posebej ureja sisteme, ki biometrične podatke uporabljajo za kategorizacijo posameznikov. V to skupino lahko na primer sodi tehnologija, ki iz obraznih značilnosti oceni starost posameznika in ga na tej podlagi uvrsti v določeno starostno kategorijo.Posebna pravila veljajo tudi za tehnologije, ki poskušajo iz biometričnih podatkov ugotoviti, kako se posameznik počuti ali kakšni so njegovi nameni. Takšni sistemi lahko na primer analizirajo obrazno mimiko in na njeni podlagi sklepajo o čustvenem odzivu osebe. Pri slednjih je potrebna še dodatna previdnost. Akt o UI namreč sisteme za prepoznavanje čustev uvršča med visokotvegane sisteme, za nekatere načine njihove uporabe pa določa celo prepoved. Med prepovedanimi praksami je praviloma sklepanje o čustvih posameznikov na delovnem mestu in v izobraževalnih ustanovah.
Uporaba takšnega sistema posamezniku ne sme ostati prikrita
Če organizacija uporablja sistem za biometrično kategorizacijo ali prepoznavanje čustev, mora oseba, ki jo sistem zajame, v skladu z tretjim odstavkom 50. člena Akta o UI vedeti, da je takšni tehnologiji izpostavljena
Ključen je tudi trenutek seznanitve, saj mora informacija posameznika doseči še preden ga sistem začne obravnavati oziroma najpozneje ob njegovem prvem stiku s sistemom.
Kako bo organizacija to zagotovila, je odvisno od konkretnega okolja. Primeren način seznanitve v fizičnem prostoru je lahko drugačen od tistega na spletni platformi ali v aplikaciji. Prav tako ni vseeno, ali bo sistem uporabljala splošna populacija ali skupina, pri kateri je treba način podajanja informacij posebej prilagoditi, denimo otroci ali osebe z določenimi oviranostmi.
Bistveno je, da posameznik informacijo dejansko lahko zazna in razume. Akt o UI zato ne zahteva enega vnaprej določenega formata. Organizacija lahko uporabi besedilo, vizualno oznako, zvočno sporočilo ali ustrezno kombinacijo različnih načinov.
Akt o UI in GDPR zahtevata ločeno presojo
Za DPO-je je posebej pomembno, da zahteve iz 50. člena Akta o UI ne zamenjamo z obveznostjo zagotavljanja informacij po GDPR.
Namen obeh ureditev namreč ni povsem enak. Akt o UI želi v tem delu predvsem preprečiti položaj, v katerem bi bil posameznik predmet delovanja določenega sistema umetne inteligence, ne da bi se tega zavedal. Sam 50. člen zato od uvajalca ne zahteva, da posamezniku v okviru tega obvestila pojasni tudi namen uporabe sistema.
Povsem drugače je treba presojati obdelavo osebnih podatkov, ki poteka v ozadju. Če sistem obdeluje osebne podatke, mora organizacija neodvisno od izpolnitve obveznosti po Aktu o UI preveriti tudi zahteve GDPR. Preveriti je potrebno tudi, ali konkretna obdelava pomeni obdelavo posebnih vrst osebnih podatkov in ali so posledično izpolnjeni pogoji iz 9. člena GDPR.
Izpolnitev ene obveznosti zato še ne pomeni izpolnitve druge. Organizacija bo morala uporabo sistema presojati hkrati skozi pravila Akta o UI in pravila varstva osebnih podatkov.
Dolžnost seznanitve posameznika ni absolutna. Akt o UI predvideva izjemo za določene sisteme, ki se zakonito uporabljajo za preprečevanje, odkrivanje ali preiskovanje kaznivih dejanj. Takšna izjema ne pomeni neomejene možnosti prikrite uporabe tehnologije. Uporaba mora imeti podlago v zakonu, biti skladna s pravom EU in vključevati ustrezna jamstva za varstvo pravic in svoboščin drugih oseb.
Čas za pregled obstoječih sistemov
Nova pravila transparentnosti se uporabljajo od 2. avgusta 2026, Evropska komisija pa je julija objavila tudi smernice za izvajanje obveznosti iz 50. člena Akta o UI.
Za organizacije je to predvsem dodaten razlog za pregled sistemov UI, ki jih že uporabljajo. Pri rešitvah, ki vključujejo biometrično kategorizacijo ali ugotavljanje čustvenega stanja, ni dovolj preveriti zgolj, ali je njihova uporaba dovoljena. Urediti je treba tudi ustrezno seznanitev posameznikov in vzporedno preveriti vse zahteve, ki izhajajo iz GDPR.
Vir: akos-rs.si
Naslovna fotografija: Pexels
