Istraživanje GPT-4o: Uloga i Rizici AI u Biološkim Istrazivanjima
Brief news summary
Istraživači u Nacionalnom laboratoriju Los Alamos, u suradnji s OpenAI-jem, istražuju kako GPT-4o može unaprijediti biološka istraživanja, fokusirajući se na inovacije i procjenu rizika u bioscijenama. Ovo partnerstvo, pokrenuto u julu, istražuje primjene GPT-4o u zadacima kao što su održavanje ćelija i genetska manipulacija, te istovremeno rješava izazove vezane za biorazoutnost i biozaštitu povezane s AI-jem. AI nudi veliki potencijal za napredak u biološkim istraživanjima, ali nosi i značajne rizike. Institucije poput Centra za zdravstvenu sigurnost Johns Hopkins i RAND ističu važnost vladinog vodstva, koristeći prošla iskustva u upravljanju biološkim rizicima. GPT-4o je pokazao obećavajuće rezultate u obradi različitih medija i pomaganju u dizajnu antitijela i automatizaciji laboratorija. Međutim, napredak AI-ja donosi i zabrinutosti oko biozaštite. Kako bi se ovo riješilo, SAD, UK i EU stvaraju institute za sigurnost AI-ja. Trenutne procjene rizika fokusirane su na implikacije za biozaštitu pojedinačnih modela AI-ja, poput potencijala za stvaranje biološkog oružja, iako još uvijek nedostaju sveobuhvatne definicije. Stručnjaci naglašavaju potrebu za praćenjem AI kapaciteta koji bi mogli destabilizirati društvo, naročito u manipulaciji patogenima. AI može poboljšati modeliranje epidemija i javno zdravlje, ali su čvrste mjere sigurnosti ključne. Efikasne procjene rizika trebaju uključiti nezavisne stručnjake s tehničkim vještinama, odvojene od AI programera. Promocija sigurnosti AI-ja uključuje izgradnju naučnog konsenzusa o njegovim rizicima i prednostima. Međunarodne konferencije, poput nadolazeće u Parizu, ciljaju poticanje povjerenja i uspostavljanje protokola sigurnosti AI-ja. Kontinuirana podrška nezavisnim institutima za sigurnost je ključna za pružanje autoritativnog vodstva u upravljanju AI-jem u biologiji i drugim ključnim područjima.Od jula, istraživači u Los Alamos Nacionalnoj Laboratoriji u Novom Meksiku istražuju kako AI model GPT-4o, razvijen od strane OpenAI, može pomoći u zadacima bioloških istraživanja. Ti zadaci uključuju održavanje ćelijskih kultura, separaciju ćelija pomoću centrifuge i unošenje genetskog materijala u organizme. Cilj ovih evaluacija je inovacija u biologiji i razumevanje potencijalnih rizika, s posebnim fokusom na pitanja bio-bezbednosti i bio-sigurnosti otkako su AI modeli poput ChatGPT javno dostupni od 2022. U Centru za zdravstvenu sigurnost Johns Hopkins, stručnjaci ističu potencijal AI-a u unapređenju javnog zdravlja, ali takođe napominju i nepredvidive rizike te tehnologije. Apeluju na vlade da identifikuju i ublaže najhitnije rizike, oslanjajući se na prethodno iskustvo u upravljanju rizicima bioloških istraživanja. GPT-4o je multimodalni veliki jezički model (LLM) sposoban za obradu teksta, zvuka, slike i video unosa. Prethodno je GPT-4 demonstrirao primene u naukama o životu, kao što je dizajniranje antitela i automatizacija bioloških eksperimenata.
Međutim, ovi napredci mogu predstavljati značajne rizike po bio-bezbednost, što može naterati vlade da uspostave institute za AI sigurnost i primene smernice za upravljanje ovim rizicima. Kako bi se utvrdilo koje sposobnosti AI-a mogu dovesti do široko rasprostranjene štete, stručnjaci predlažu fokusiranje na one koje omogućavaju izbijanje pandemija, kao što je optimizacija dizajna virusa ili automatizacija sinteze patogena. Pozivaju na široku saradnju između AI programera i stručnjaka za sigurnost kako bi se prioritetizovala ublažavanje ozbiljnih rizika. Evaluacije sigurnosti AI modela često se usko fokusiraju na razvoj biološkog oružja bez razlikovanja između manjih i većih rizika. Evaluacije takođe moraju uzeti u obzir kolaborativno delovanje više AI sistema, umesto da se koncentrišu isključivo na pojedinačne modele. Efikasniji pristup zahteva objektivan naučni konsenzus o tome koje sposobnosti AI-a predstavljaju značajne pretnje po bio-bezbednost. Izgradnja takvog konsenzusa uključivala bi temeljna testiranja sigurnosti koje razvijaju nezavisni stručnjaci, a koja bi podržavali i vlada i industrijski subjekti. Ovaj pristup obezbeđuje ravnotežu između iskorišćavanja prednosti AI-a i ublažavanja njegovih rizika.
Watch video about
Istraživanje GPT-4o: Uloga i Rizici AI u Biološkim Istrazivanjima
Try our premium solution and start getting clients — at no cost to you
