Италијската Агенција за заштита на податоците ја изрече казната од 5 милиони евра на Лука Инк. , создател на чатботот со вештачка интелигенција Replika, поради сериозни прекршоци на правилата за заштита на личните податоци. Овој чекор ја нагласува сејачата глобална инспирираност околу начинот на кој технологиите со вештачка интелигенција се справуваат со личните податоци и ги истакнува критичните потреби од почитување на закони за заштита на податоците, особено во рамките на Европската унија. Истражувањето покажа дека Replika обработувала кориснички податоци без соодветна правна основа, прекршувајќи правилата за приватност преку собирање, складирање или користење на информации без потребното согласие или оправдување. Овој прекршок го нарушува довербата на корисниците и ги изложува чувствителните податоци на злоупотреба или неавторизиран пристап. Исто така, Replika не ја донесе во пракса ефикасната систем за проверка на возраста, што сериозно ги загрижи кон младите корисници и нивната безбедност при користење на чатботот. Заштитата на податоците на децата е основен дел од законите за приватност, кој бара строго заштитни мерки за спречување на неавторизиран пристап и заштита од неподобни содржини или практики без согласност од родителите. Големата казна за Лука Инк. одразува растечката регулаторна будност кон апликациите базирани на AI и нивното почитување на стандарди за заштита на податоците. Како што AI станува се повеќе дел од секојдневието, органите за контрола ја зголемуваат инспекцијата за да обезбедат транспарентност во обработката на податоци, сигурност на согласноста и заштитни мерки за ранливите групи како што се децата. Случајот на Luka Inc. служи како предупредување за други развивачи и оператори на дигитални услуги за важноста од овие одговорности. Во Европа, органите за заштита на податоците ги следат брзиот развој на AI, особено во рамките на Регулативата за заштита на личните податоци (GDPR), која наложува строги правила за обработка, безбедност и транспарентност. Нарушувањето на тие правила може да доведе до значителни казни, како во овој случај.

Покрај финансијските последици, овој случај поттикнува поширока расправа за етичките должности на развивачите на AI и нивната одговорност за заштита на корисничките права во услови на растечка дигитализација. Концептот на приватност по проект треба да биде вграден од почетокот на дизајнот па се до употребата и операцијата. Исто така, овој случај ја истакнува предизвикот во заштитата на малолетните корисници на интернет, кои се особено ранливи поради ограничена свест за приватноста. Тешка и ефикасна проверка на возраст е клучна за законската усогласеност и етички стандарди, помагајќи да се спречи собирањето на не回事чки податоци и изложеноста на штетни содржини. Акцијата на регулаторите против Luka Inc. е јасна порака до светските технолошки компании за важноста од почитување на законите за приватност и нивната подготвеност да изречат значајни казни врз техните прекршители. Како што AI продолжува да се развива и да се интегрира во општеството, строгите надзорни мерки се неопходни за да се балансира иновацијата со заштитата на фундаменталните права. Потрошувачите се се повеќе свесни за ризиците поврзани со приватноста на податоците во врска со AI. Одржувањето на довербата на корисниците бара транспарентна обработка на податоците, јасни механизми за согласување и ефикасни заштитни мерки за да се гарантира дека технолошкиот напредок им носи корист на јавноста без да ги загрози личните податоци. Во сумирање, казната од 5 милиони евра за Luka Inc. поради Replika посочува на важноста од почитување на законите за заштита на податоците. Таа нагласува потребата од создавање правно валидни основи за обработка и од воведување на чврсти системи за проверка на возраста за заштита на сите корисници, особено малолетните. Овој случај служи како предупредување и како повик за акција за технолошката индустрија да ги приоритизира приватноста и етичката одговорност во дизајнот и примената на AI.