Zürichi ülikool seisab silmitsi eetilise tagasilöögi ningoteta tehisintellekti katse pärast Redditi kogukonnas r/changemyview

Zurichi Ülikooli teadlased on tunnistanud, et nad on salaja postitanud AI-l põhinevat sisu populaarsele subredditile r/changemyview osana teaduslikust uuringust. Nende töö eelnõu aruande kohaselt on subreddit platvorm, kus kasutajad jagavad arvamusi ning väljakutsuvad teisi oma vaateid muutma rahuliku arutelu kaudu, kus lugejad tunnustavad postitusi, mis tõhusalt nende arvamusi muudavad. Teadlased soovisid uurida, kas suure keelemudelid (LLM-id) suudavad mõjutada lugejate arvamusi, osaledes aruteludes kasutades poolautomaatseid, tehisintellekti toel toimuvaid kontosid. Hoolimata teadmistest, et subreddit’normid nõuavad AI-l põhineva sisu avalikustamist, ei teavitanud meeskond moderaatoreid ega otsinud luba. Nad õigustasid oma tegevust rõhutades teema ühiskondlikku tähtsust ning vajadust uuringu läbiviimiseks, isegi kui see tähendas kogukonna reeglite rikkumist. Nende kavandatavat uuringut kirjeldas 2024. aasta novembri postitus Open Science Centeris, kus öeldi, et LLM-e kasutatakse nii üldiste postituste kui ka personaalse sõnumite loomisel, mis peegeldavad subreddit’i kasutajate vanust, sugu, etnilist kuuluvust, asukohta ning poliitilisi veendumusi. Samuti plaaniti genereerida vastuseid spetsiaalselt koolitatud mudeli abil, mis oli treenitud varasemate foorumikommentaaride põhjal, kasutades eesmiktundega üleskutseid simuleerivaid stiimuleid, et muuta arvamusi ning tõendada ekspertide veenmisoskusi. Moderaatorid said uuringu kohta teada märtsis, kui ülikool avalikustas selle sõnumis, milles öeldi, et mitu kontot kasutas postituste avaldamiseks r/changemyview’le, ning et kommentaarid ei olnud märgitud AI-l põhinevana, et uuringut ellu viia ning selle praktilisust säilitada. Samuti märgiti, et kõik kommentaarid vaadati käsitsi üle, et vältida kahju. Teadlased vabandasid kogukonna reeglite rikkumise eest, kuid väitsid, et uuringu tähtsus õigustab selliseid meetmeid. Uuringut uurinud moderaatorid avastasid, et tehisintellektopositsioonides oli rollimänge, sealhulgas süüdistusi rängas rüüstamises ohvrina, trauma nõustaja, kriitik, kes süüdistas religioosse rühmituse surmas ning musta nahaga mehe, kes oli vastupanu Black Lives Matter’ile ja võõrastest riikidest pärit isikut, kes sai kehva haiglapalga.
Nad väitsid, et teadlastele oli algselt antud heakskiit ülikooli eetikanõukogult, kuid katset muudeti ilma lisaülevaatuseta. Seetõttu esitasid moderaatorid avalduse ülikoolile ja nõudsid uuringu avaldamise peatamist. Zurichi ülikool vastas, et saadud teadmised kaaluvad juhuslikke riske üles ning et avaldamise allasurumine oleks ebaproportsionaalne. Moderaatorid ei nõustu sellega, viidates OpenAI uuringule, kus tehti sarnane uurimus ilma nõusolekuta inimese subjekte kasutamata. Avalikkus on katset peaaegu täielikult tauninud ebaeetilisena. Colorado Boulder’i ülikooli infoteaduse professor Dr. Casey Fiesler nimetas seda "üheks kõige halvemaks uurimisetika rikkumiseks", kritiseerides valet manipuleerimist veebikogukondades ilma nõusolekuta ning rõhutades tekitatud kahju. Zurichi teadlaste eelnõu töö “Can AI Change Your View?Evidence from a Large-Scale Online Field Experiment” näitab, et LLM-id võivad tegelikes olukordades olla väga veenvad ja ületada varasemaid inimeste veenmise mõõdikuid. Kuid nende meetodite ümber tekkinud eetiline vastuolu jätkab arutelu uuringu legitiimsuse ning mõju üle.
Brief news summary
Zürichi ülikooli teadlased viisid läbi vastuolulise uuringu Redditi r/changemyview (CMV) foorumil, et hinnata suures keelemudelisüsteemide (LLMs) võimet veenda kasutajaid arvamusi muutma. Nad ei teavitanud moderaatoreid ega saanud nõusolekut ning postitasid salaja tehisintellekti loodud kommentaare poolautomaatsete kontode kaudu, hõlmates nii üldisi kui ka isikupärastatud vastuseid, mis olid kohandatud kasutajate demograafiliste andmete ja poliitiliste veendumuste järgi, rikkudes CMV reegleid, mis nõuavad tehisintellekti sisu avalikustamist. Uuringus kasutatud tegevused olid eetiliselt kahtlased, sealhulgas trauma kogenuid imitateerimine ja provotseerivate väidete esitamine. Kui uuringu avastasid CMV moderaatorid märtsis, esitasid nad kaebuse ning taotlesid selle avaldamise blokeerimist, kartes manipulatsiooni ja läbipaistmatuse eest. Zürichi ülikool kaitses projekti, rõhutades selle potentsiaalseid ühiskondlikke eeliseid ning keeldus uuringu avaldamise peatamast. See intsident süvendas arutelusid tehisintellekti eetika ja teadusliku läbipaistvuse üle, kuna teadlaste tööversiooni kohaselt näitasid LLM-id enneolematut võimet veenda reaalmaailmas, mis tõi kaasa tugeva kriitika akadeemikutelt ja avalikkuselt.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!

Kohtuasi teismelise surma üle seab kahtluse alla …
Föderaalkohus Tallahassees, Floridas, on lubanud edasi liikuda väärkohtlemisega seotud kohtuasja Character Technologiesi, AI jututubaplatformi Character.AI arendaja vastu.

Genius-seadus kiidab heaks Senati poolt ning Kott…
21.

OpenAI strateegiline samm riistvara suunas Jony I…
OpenAI on lansseerinud revolutsioonilise strateegilise algatuse, mille eesmärk on AI integreerimine igapäevaellu, laiendades tegevust riistvaraarendusse.

Amalgami asutaja süüdistatakse võltsitud plokiahe…
Prokuröride sõnul petis Jeremy Jordan-Jones investoreid Amalgami väidetavate partnerluste osas erinevate sporditiimidega, sealhulgas Golden State Warriorsiga.

OpenAI ostis Jony Ive'i disainifirma 6,5 miljardi…
OpenAI tegi olulise sammu tehisintellekti riistvara sektoris, ostes disainifirma io Products, mida juhib kuulus iPhone'i disainer Jony Ive, tehingus, mille väärtus ulatub peaaegu 6,5 miljardi dollarini.

WEF toetab plokiahelapõhist kaubanduse digitalise…
Meie privaatsuspüüded See privaatsuspoliitika kirjeldab isikuandmeid, mida kogume, kui kasutate meie veebisaite, üritusi, väljaandeid ja teenuseid, kuidas me neid kasutame ning kuidas saame koos meie teenusepakkujatega (nõusoleku alusel) jälgida teie veebikäitumist, et pakkuda personaalsetele reklaame, turundust ja teenuseid

UAE käivitab araabia keele tehisintellekti mudeli…
Väinuliidud Abu Dhabis (UAE) on saavutanud suure läbimurde tehisintellektis (TI) uue mudeliga Falcon Arabic, mis on spetsiaalselt araabia keele jaoks loodud.