OpenAI ulaže u etičko istraživanje umjetne inteligencije sa Univerzitetom Duke.
Brief news summary
OpenAI i Univerzitet Duke započeli su trogodišnji kolaborativni projekt s ciljem razvoja algoritama sposobnih za predviđanje ljudskih moralnih prosudbi, s krajnjim ciljem stvaranja "moralne umjetne inteligencije". Projekt, koji podržava grant od milion dolara, predvode profesor etike Walter Sinnott-Armstrong i istraživačica Jana Borg. Tim ima viziju razviti "moralni GPS" koji bi mogao pomoći u oblastima poput medicine, prava i poslovanja prilikom snalaženja u složenim etičkim pitanjima. Inspiraciju crpe iz prethodnih projekata, kao što su algoritmi za donaciju bubrega, kako bi usmjerili svoje napore. Jedan od glavnih izazova u ovom poduhvatu je poučavanje AI da razumije suptilnosti ljudskog etičkog rasuđivanja, koje se značajno razlikuje među kulturama. Postojeći AI modeli često se oslanjaju na zapadno-centrične skupove podataka, što vodi ka pristrasnosti i smanjenoj primjenljivosti u globalnom kontekstu. Ovo ograničenje bilo je evidentno u projektu Ask Delphi Instituta Allen za AI, koji se suočio s teškoćama u donošenju dosljednih etičkih odluka zbog nijansi jezičkih razlika. Priroda morala je složena i nema univerzalni standard, što je ilustrirano različitim etičkim teorijama poput kantijanizma i utilitarizma. Posljedično, stvaranje AI koji može prilagoditi ove subjektivne stavove je posebno izazovno. Ove složenosti ističu neizvjesnosti i prepreke prilikom razvoja AI sistema sposobnih za precizno predviđanje ljudskih moralnih prosudbi.OpenAI ulaže u akademska istraživanja kako bi razvila algoritme koji mogu predvidjeti ljudske moralne prosudbe. U prijavi za IRS, OpenAI Inc. , neprofitno krilo OpenAI, otkrila je da je dodijelila grant istraživačima sa Univerziteta Duke za projekat pod nazivom "Research AI Morality. " Prema glasnogovorniku OpenAI-ja, ovaj grant je dio šire inicijative od milion dolara, planirane na tri godine, usmjerene na "stvaranje moralne AI. " Detalji o ovom istraživanju morala su oskudni, a grant će završiti 2025. godine. Walter Sinnott-Armstrong, glavni istraživač i profesor na Dukeu specijalizovan za praktičnu etiku, u e-mailu za TechCrunch spomenuo je da ne može razgovarati o projektu. Sinnott-Armstrong i Jana Borg, koja je su-istraživačica, ranije su istraživali ulogu AI-a kao "moralne GPS" podrške za ljudsko donošenje odluka. Njihov prethodni rad uključuje razvoj "moralno usklađenog" algoritma za odluke o donaciji bubrega i ispitivanje scenarija u kojima ljudi preferiraju moralne odluke AI-a. Službeno saopštenje navodi da je cilj istraživanja, koje finansira OpenAI, dizajn algoritama sposobnih da predviđaju ljudske moralne prosudbe u situacijama koje uključuju sukobe među moralno relevantnim faktorima u medicini, pravu i biznisu. Međutim, hvatanje složenosti morala ostaje značajan izazov za današnju tehnologiju. Godine 2021, Allen Institute for AI stvorio je Ask Delphi, alat namijenjen davanju etičkih preporuka. Iako je bio dobar u rješavanju jednostavnih dilema, male promjene u formulaciji rečenica mogle su navesti Delphi da opravda gotovo bilo što, čak i gušenje beba. Ovaj problem proizlazi iz načina rada modernih AI sistema. Modeli mašinskog učenja su u suštini statistički alati.
Analizirajući veliki broj primjera s interneta, oni uče obrasce za pravljenje predikcija, kao što je povezivanje "kome" sa "može biti stvar. " Ovi modeli nemaju razumijevanje etičkih koncepata, niti razmišljanja i emocija uključenih u moralne odluke. Kao rezultat, AI često reflektira vrijednosti zapadnih, obrazovanih, industrijalizovanih društava, jer njen trening podaci uglavnom sadrže takva gledišta. Nisu sve vrijednosti prikazane u AI izlazima, posebno ako osobe koje posjeduju te vrijednosti ne doprinose online sadržaju koji se koristi za obuku. AI sistemi također uključuju niz pristranosti izvan zapadnih perspektiva. Na primjer, Delphi je smatrala da je biti heteroseksualan "moralno prihvatljiviji" nego biti homoseksualan. Zadatak s kojim se suočavaju OpenAI i njegovi istraživači je dodatno otežan inherentnom subjektivnošću morala. Filozofi raspravljaju o etičkim teorijama stoljećima bez postizanja univerzalnog okvira. Claude zagovara kantijanizam, naglašavajući apsolutna moralna pravila, dok ChatGPT blago naginje utilitarizmu, fokusirajući se na najveće dobro za najveći broj ljudi. Superiorniji pristup jedan nad drugim je subjektivan. Stvaranje algoritma za predviđanje ljudskih moralnih prosudbi mora uzeti u obzir sve ove faktore. Postizanje ovog cilja je izuzetno izazovno—ako je uopće izvodljivo.
Watch video about
OpenAI ulaže u etičko istraživanje umjetne inteligencije sa Univerzitetom Duke.
Try our premium solution and start getting clients — at no cost to you
