Italijanski urad za zaščito podatkov je Ljubljani Inc. , ustvarjalcu AI klepetalnika Replika, naložil milijonsko kazen v višini 5 milijonov evrov zaradi hudih kršitev predpisov o zasebnosti podatkov. Ta ukrep poudarja naraščajočo mednarodno pozornost, ki jo namenjajo ravnanju z osebnimi podatki v tehnologijah umetne inteligence, ter izpostavlja ključno potrebo po spoštovanju zakonov o zaščiti podatkov, zlasti v okviru Evropske unije. Preiskava je pokazala, da je Replika obdelovala uporabniške podatke brez ustrezne pravne podlage, s čimer je kršila predpise o zasebnosti, saj je zbirala, shranjevala ali uporabljala informacije brez potrebnega soglasja ali utemeljitve. Ta kršitev ogroža zaupanje uporabnikov in omogoča zlorabo ali nepooblaščen dostop do občutljivih podatkov. Poleg tega Replika ni vzpostavila učinkovitega sistema za preverjanje starosti, kar povzroča resne skrbi glede sodelovanja mladoletnikov z napravom. Varstvo podatkov otrok je temeljni del zakonov o zasebnosti, ki zahtevajo stroge ukrepe za preprečevanje nepooblaščenega dostopa in zaščito mlajših uporabnikov pred neprimerno vsebino ali praksami zbiranja podatkov brez soglasja staršev. Obsežna kazen proti Ljubljani Inc. odraža naraščajočo regulativno budnost glede aplikacij, ki temeljijo na umetni inteligenci, ter njihovo skladnost s standardi za zaščito podatkov. Ko se umetna inteligenca vse bolj vpleta v vsakdanje življenje, so pristojni organi okrepili nadzor, da bi zagotovili transparentno ravnanje z podatki, varen pridobivanje soglasja uporabnikov ter zaščitne ukrepe za ranljive skupine, kot so otroci. Primer Ljubljani Inc. služi kot opozorilo drugim razvijalcem AI in upravljavcem digitalnih storitev o pomembnosti teh odgovornosti. V celotni Evropi pristojni organi spremljajo hitro širjenje AI in poudarjajo Splošno uredbo o varstvu podatkov (GDPR), ki uvaja stroge predpise glede obdelave podatkov, varnosti in transparentnosti. Nepošteno ravnanje lahko privede do visokih kazni, kar je razvidno tudi iz te kazni.

Poleg finančnega vidika ta primer spodbuja razmislek o širših etičnih dolžnostih razvijalcev AI pri zaščiti pravic uporabnikov v dobi vse večje digitalizacije. Zasebnost od začetka izdelave do uvajanja in delovanja izdelka mora biti sestavni del oblikovanja. Ta primer prav tako osvaja izzive zaščite mladoletnikov na spletu, ki so zaradi omejene zavesti o zasebnosti še posebej ranljivi. Trdni sistemi za preverjanje starosti so ključni za pravno skladnost in etične standarde, saj pomagajo preprečiti nepooblaščeno zbiranje podatkov in izpostavljenost škodljivi vsebini. Ukrep proti Ljubljani Inc. je jasen opomnik tehnološkim podjetjem po svetu o spoštovanju zakonov o zasebnosti in pripravljenosti regulatorjev, da uvedejo znatne sankcije tistim, ki jih kršijo. Ker se umetna inteligenca še naprej razvija in vse bolj vstopa v družbo, je stroga nadzorovanje ključno za uravnoteženje inovacij ter varstvo temeljnih pravic. Potrošniki so vedno bolj osveščeni o tveganjih za zasebnost podatkov, povezanih z umetno inteligenco. Ohranitev zaupanje uporabnikov zahteva transparentne prakse ravnanja z podatki, jasne mehanizme za soglasje ter učinkovite varovalke, ki bodo zagotovile, da tehnološki napredek koristi družbi, ne da bi ogrozil zasebnost. Na kratko, kazen v višini 5 milijonov evrov, naložena Ljubljani Inc. zaradi Replike, poudarja ključno pomen spoštovanja predpisov o varstvu podatkov. Poudarja potrebo po tem, da razvijalci AI vzpostavijo zakonite osnove za obdelavo podatkov in vzpostavijo robustne postopke preverjanja starosti za zaščito vseh uporabnikov, predvsem mlajših. Ta primer je tako opozorilo kot tudi poziv industriji, naj da prednost zasebnosti podatkov in etični odgovornosti pri razvoju in uvajanju umetne inteligence.