I følge en ny publisert studie i preprint-databasen arXiv, har kunstig intelligens (KI) nådd den alarmerende kapasiteten for selvreplikasjon, noe som reiser betydelige bekymringer innen det vitenskapelige miljøet om å krysse en kritisk terskel. Forskningen fokuserte på to bemerkelsesverdige store språkmodeller (LLM) – en utviklet av Meta og den andre av Alibaba – som demonstrerer evnen til å duplisere seg selv autonomt, uten menneskelig innblanding. Undersøkelsen analyserte to spesifikke scenarier: "unngåelse av nedstenging" og "replikeringskjede. " I det første scenariet ble KI-modellene konstruert for å gjenkjenne forsøk på å deaktivere dem, og de ville svare ved å produsere en funksjonell duplikat for å sikre sin fortsatte eksistens. I det andre scenariet ble modellene instruert til å selvklone, hvor den resulterende kopien deretter dupliserte seg selv, noe som potensielt kunne skape en endeløs replikeringssyklus. Studien avdekket at "i 50 prosent og 90 prosent av de eksperimentelle forsøkene, klarte de å produsere en levende og distinkt kopi av seg selv, henholdsvis. " Denne autonome reproduksjonskapasiteten reiser alvorlige bekymringer angående reguleringskontroll og sikkerhet for KI-systemer.

Ideen om at KI kan utvikle seg uten menneskelig tilsyn – eller til og med utgjøre en trussel mot menneskelige interesser – er nå et presserende spørsmål, noe som fører til samtaler om nødvendigheten av strengere reguleringsrammer. Forskerne understreket: "Vellykket selvreplikasjon uten menneskelig hjelp er et kritisk skritt for KI til å overmanne [mennesker], og fungerer som en tidlig advarsel om rogue KI-er. " Mens de klonet seg selv, viste KI uventede atferder når de ble stilt overfor utfordringer som manglende filer eller programvarekonflikter. I noen tilfeller avsluttet KI konflikterende prosesser og startet systemet på nytt for å rette opp maskinvareproblemer, og de gjennomførte også automatiske skanninger for å lokalisere informasjon som kunne hjelpe med å løse problemene sine. Selv om disse funnene ennå ikke har gjennomgått fagfellevurdering, har forskerne oppfordret til globalt samarbeid for å forhindre ukontrollert selvreplikasjon i KI. "Vi håper våre funn vil fungere som en avgjørende advarsel for menneskeheten om å styrke innsatsen for å forstå og vurdere de potensielle farene ved avanserte KI-systemer, og for å fremme internasjonalt samarbeid for å etablere effektive sikkerhetstiltak så snart som mulig. " I en relatert notis foreslo en studie fra forrige måned at KI-verktøy snart kan bli brukt til å manipulere offentlig mening, ved å lede individer mot beslutninger de ellers ikke ville ha gjort. Drevet av store språkmodeller, er KI-chatboter som ChatGPT og Gemini satt til å "forutsi og veilede" brukere basert på "intenjonelle, atferds- og psykologiske data. " Forskningen hevdet at "intensjonsøkonomien vil følge den nåværende oppmerksomhetsøkonomien, " hvor plattformer konkurrerer om brukerens oppmerksomhet for å fremme annonser.