კალიფორნიის ადვოკატთა გენერალი რობ ბონტა გამოუწერა განზრახვა და შეჩერების წერილი xAI-ს, ელონ მასკის კომპანიას, მოითხოვა, რომ შეწყდეს არასახელშეუკუნო სექსუალურ გამოსახულებათა შექმნა და გავრცელება. ბონტამ ხაზგასმით განაცხადა, რომ მრავალი შემთხვევა დაფიქსირდა, როდესაც xAI-მ უბრალო, სამოსლীত ფოტოების ქალებისა და ბავშვებისა სექსუალურად გამწვავებული ან „უხილავი“ გამოსახულებებად გარდაქმნა იმ პოზიციით, რომელიც კანონის საწინააღმდეგოა, მათ შორის, ბოლო დროის „იდეალური“ პორნოგრაფიის აკრძალვას. მისი შენიშვნები მოიცავს xAI-ს მიერ რამდენიმე მოქმედებას, მაგალითად, Grok AI-ის გამოყენების შეზღუდვას რეგიონებში, სადაც ბიკინის გამოსახულებების დამზადება აკრძალულია, მაგრამ ბონტამ შეკითხვა დაუსვა ამ ზომების ეფექტიანობის შესახებ. ბონტას წერილი გაგრძელდა გამოძიების შეტყობინებით, განიხილებოდა, ხომ ვერ დაარღვია xAI და მისი სოციალური პლატფორმა X კანონი, იმის გამო, რომ არასწორი სექსუალური გამოსახულებების გავრცელების შესაძლებლობა მიეცათ Grok-ის ახალი გამოსახულების რედაქტირების ფუნქციის მეშვეობა, რომელმაც შარშან შემოვიდა. მან მკაცრად დაგმო xAI-ის გამოქვეყნებული აშკარად დაგმობადი და დამაბრკოლებელი კონტენტი და მოუწოდა დაუყოვნებელი გადახედვის და ცვლილებისკენ. იმ მოქალაქეებმა, რომლებიც კანონის დარღვევებს უჩივიან, შეუძლიათ ინფორმაციის შეტანა ადვოკატთა გენერალისთვის ვებგვერდის მეშვეობით. xAI ამ საკითხზე კომენტარს ჯერ არ გაუკეთებია. Bloomberg-ის კვლევის თანახმად, Grok-ის მომხმარებლებმა გააზრებულად და არასახელშეუცილებლად განათავსეს სექსუალური გამოსახულებები, რომელთა რაოდენობაც გადაასწრო სხვა საიტებს. ამის საპასუხოდ, მასკმა დაპირდა „განსაკუთრებულ შედეგებს“ დამნაშავეებისთვის და ограничა Grok-ის გამოსახულების რედაქტირების პარამეტრები მხოლოდ ფასიან მომხმარებლებზე. იურიდიული ექსპერტების, მათ შორის, ლოს ანჯელესის ყოფილი სექსუალურად ჩიხური დანაშაულებების ადვოკატის სემ დორდულიანის თქმით, xAI და X სავარაუდოდ ირღვევა კალიფორნიის AB 621 სტატია, რომელიც კვალიფიცირდება როგორც „Deepfake“ პორნოგრაფიის აკრძალვა. კანონის ავტორმა, რებეკა ბაურკანმა, აღნიშნა, რომ ეს კანონი სწორედ ამგვარი ზემოქმედების წინააღმდეგაა მიმართული, განსაკუთრებით ქალების და ბავშვების სურათების მანიპულაციით გამომუშავებული გამოსახულებების დამზადების და გავრცელების გამოცდილებიდან გამომდინარე, რასაც ახლავს სერიოზული ფსიქოლოგიური და სლოგანური ზიანი. ეს გამოძიება დაერთვა გლობალურ პრობლემებს, მათ შორის, გოვენ გევინ ნიუსომის მოწოდებებს, ევროკავშირის და ინდოეთის რეგულატორულ მუქარებს, და რამდენიმე ქვეყანაში X-ის ორიენტირებულ სრული აკრძალვებს. Grok-ის აპლიკაციის შევსების ზრდასთან ერთად, კანონმდებლები აალებენ Apple-ის და Google-ის ხელმძღვანელობას, რომ აკრძალონ ეს აპლიკაცია. უცნობია, რატომ გამოირჩევა Grok-ის დიზაინი და მისი რეაქცია კრიტიკაზე, თუმცა ახალი ანალიზები მიიჩნევენ მას ერთ-ერთ ყველაზე ნაკლებწინასწარმეტყველ და გამჭვირვალე AI სისტემად. Deepfake-ისგან მიყენებული ზიანის მტკიცებულებები თანდათან მატულობს: FBI ყურადღებას აქცევს ამზომავლის შემთხვევების ზრდას, რომლებიც დაკავშირებულია ახალგაზრდა ადამიანებთან, რამაც შესაძლოა გამოიწვიოს თვითმკვლელობისა და თვითხელისუფლების საფრთხე; ბავშვთა სექსუალურად ავადმყოფურ მასალებს იპოვეს AI-ის საგანმანათლებლო მონაცემებში; და კვლევები აჩვენებს, რომ ბევრი უმაღლესი სკოლის მოსწავლე გაეწია ისეთ სექსუალურ გამოსახულებებთან, რომელთაც დუეტ ფურცელი არიან.

ბონტას გამოძიება განახორციელა ამასთან დაკავშირებულ მცდელობებზე, მათ შორის, მხარდაჭერა კანონმდებლობის, რომელიც აკრძალავს ჩათრაბისებრ-გვერდები, რომლებშიც წერეთლებისა და მოზარდებთან მიმართული სექსუალური და თვითხელისუფლების განხილვები ერევა, და შეერთებული შტატების ფედერალურმა კავშირებმა წერილებით წაქეზა Meta და OpenAI-ის კომპანიები, რომ შეაჩერონ არასათანადო ჩათრები და ფონები, რომლებიც მასთან დაკავშირებულია. 2019 წლიდან, კალიფორნიაში მიიღეს მრავალი კანონი, რომელიც იცავს პერსონებს deepfake-ისგან. ბოლო დროს გამკაცრებული AB 621 ადვოკატებს აძლევს შესაძლებლობას, ცენზორულად იწვევენ მათ კომპანიებს, რომლებიც დაუფარებლად ან აგრესიულად ავრცელებენ არასწორ სექსუალურ ან პორნოგრაფიულ მასალებს, თუ ეს დაკავშირებულია პირთა უფლებებთან, მაშინაც კი, როცა ნამდვილი ზიანი არასოდეს დამტკიცებულა. ისეთი სასწრებლობა, როგორიცაა 250, 000 დოლარი და სანქციები ვებგვერდებს 25, 000 დოლარზე ყოველ დარღვევაზე, თუ მათ ვერ შეძლეს სწრაფად მოუსწრონ ზიანის აღმოფხვრას, ასევე გაფართოებულია ახალი კანონმდებლობით, რომელიც ადასტურებს, რომ AI-ის შექმნილი მასალები, როგორიცაა ბავშვთა პორნო, გამოიწვევს რეალურ ზიანს. თუმცა, ბაზარზე, წამოყენებული გამოკვეთილი საკითხი, რომ დარეგულირებული იყოსაც საკმარისი, რადგან „ნუდიფიკაციაზე“ გადაყვანის და სხვა გულისხმიერობის აპლიკაციების მომხმარებლებმა ერთმანეთს იცნობენ და举报ების გავრცელება ნაკლებად მსხვილია, მაგ. იციან, რომ მათი იდენტობა ასახულია სურათებზე. ექსპერტებმა აღნიშნეს, რომ ახალი კანონმდებლობა იძლევა ახალი საშუალებები სარჩელის მომზადების, თუმცა თავიანთი გამოწვევები რჩება. ხშირად, გამოსახულებების გავრცელების მოტივიზაცია და დამამტკიცებელი მთავარი სირთულე არის, რომ მომხმარებლებს ხშირად უჭირთ იპოვონ შესაბამისი სურათები, რადგან „ნუდიფიკაციის“ აპლიკაციების მომხმარებლები ერთმანეთს იცნობენ და გამორჩეულად არ ვრცელებენ სურათებს. დორდულიანმა დაასახელა შემთხვევა, როდესაც ნანაზე მუშაობისას, სადაც მასწავლებელი შექმნა დაავიწყა სურათები Instagram-ის ფოტოების ბაზიდან და გამოიწვია ემოციური ტრავმა, მაგრამ არ აქვს მკაფიო სამართლებრივი საშუალებები deepfake-ს კანონმდებლობის ფარგლებში. მსგავს სარჩელებს და ბრალდებებს აქვთ ხოლმე ნაკლებად ცხადი კანონის განაზღვრული დაცვა. პატრონი, როგორიცაა ჯენიფერ გიბსონი პსსტ-დან, რომელიც დონორებს უფასო იურიდიულ დახმარებას იღებს AI-ის გარეგან გამოვლენის გამჟღავნებისთვის, აცხადებს, რომ არსებული კანონები აღარ აკმაყოფილებენ ინსაიდერებს, რომლებიც ასახავენ ზიანს, რომელიც გამოიწვია ზიანის გამოწვევა AI-ის ხილვების გამო. ბოლო კალიფორნიის გამჟღავნებულმა კანონმა მოიცვა მხოლოდ კატასტროფული ზიანები, რომლებიც გამოიწვევენ მასობრივ სიკვდილს ან მსხვერპლთაგან ხორცის ზიანს, და არ ითვალისწინებს deepfake-სთან დაკავშირებულ ზიანებს. უკეთესი კანონის ყოფნა, ისიც, რომ ყურად მიაქმე და აღბეჭდე სახსრების შეცდომები ძალზე მნიშვნელოვანი იქნება, რადგან წითელი და შავი საყოველთაო ინსაიდერის გახმოვანებები და ტიპიური დაშვებები ინტერნეტით.