For en kort stund fanget de som advarte om potensielle farer ved AI verdens oppmerksomhet. Lanseringen av ChatGPT i 2022 sendte sjokkbølger gjennom teknologisamfunnet: det faktum at dataprogrammer nå kunne vise menneskelignende intelligens hintet om at andre betydelige fremskritt kunne være nært forestående. Eksperter som lenge hadde uttrykt bekymringer om AIs potensial for å skape biologiske våpen og risikoen for en truende superintelligens fant endelig et mottakelig publikum. Imidlertid er det usikkert om advarslene deres hadde noen innvirkning. Mens politikere har holdt mange høringer og foreslått ulike tiltak angående AI de siste årene, har teknologiens utvikling fortsatt stort sett uhindret. For de som er engstelige for AI's destruktive muligheter, er risikoene fortsatt til stede; det er bare at ikke alle følger med lenger.

Overså de deres nødvendige mulighet til å gjøre en forskjell? I en nylig artikkel for The Atlantic intervjuet min kollega Ross Andersen to nøkkelfigurer fra denne gruppen: Helen Toner, et tidligere styremedlem i OpenAI som trakk seg etter den uventede oppsigelsen av CEO Sam Altman i fjor, og Eliezer Yudkowsky, medgrunnlegger av Machine Intelligence Research Institute, som adresserer de eksistensielle truslene AI medfører. Ross ønsket å utforske innsiktene de fikk fra deres kortvarige tid i søkelyset. “Jeg har fulgt denne gruppen som er bekymret for AI og eksistensielle risikoer i over et tiår, og å være vitne til ChatGPT-fenomenet var surrealistisk, ettersom det som hadde vært en relativt ukjent subkultur fikk sentral oppmerksomhet, ” delte Ross med meg. “Nå som dette øyeblikket har passert, ønsket jeg å gjenopprette kontakten og se hva de har lært. ” AI-advarsler gjorde sitt preg Av Ross Andersen Les hele artikkelen. Hva å lese neste P. S. I dag markerer avslutningen av årets Atlantic Festival, og du kan se sesjoner på vår YouTube-kanal. Jeg anbefaler å sjekke ut Atlantic CEO Nick Thompson’s diskusjon om en ny studie som avslører en uventet forbindelse mellom generativ AI og konspirasjonsteorier. — Damon