Umræður um gervigreind (AI) eru að hitna, með skiptar skoðanir á því hvort það verði til gagns eða skaðs fyrir heiminn. Miðpunktur þessarar umræðu er Yoshua Bengio, oft kallaður „Guðfaðir AI. “ Á sextugsaldri hefur kanadíski tölvunarfræðingurinn stórlega framfært tauganetum og djúpnámi og lagt grunninn að nútíma AI líkanum eins og ChatGPT og Claude. Í nýlegu viðtali lagði Bengio áherslu á hugsanlega hættu á gervigreind með mannlegu stigi, varaði við hættunni á að hún falli í rangar hendur og möguleikanum á að missa stjórn á sjálfstæðum kerfum. Bengio, sem deildi hinum virta Turing verðlaunum árið 2018 og var valinn mest tilvitnaði tölvunarfræðingurinn árið 2022, er nú að tala fyrir varúð á meðan áhugi á AI vex, sérstaklega meðal fjárfesta. Til dæmis hefur hlutabréf Nvidia hækkað um 162% á þessu ári.

Þegar hann metur helstu tækjaframleiðendur í AI sviði vék Bengio á Anthropic sem þann siðferðilegasta og nefndi skuldbindingu þeirra til öryggis og gagnsæis, þótt hann viðurkennir að öll fyrirtæki standi frammi fyrir þrýstingi um að forgangsraða samkeppnisforskoti fram yfir almannahagsmuni. Hann ræddi einnig áhyggjur af hækkandi verði AI hlutabréfa og afleiðingum óhefts AI markaðshruns. Varðandi flögutækni lagði hann áherslu á mikilvægi þess í framtíð AI, spáði þörf á verulegum fjárfestingum í öflugum AI flögum. Þegar hann nefndi metnaðarfullt markmið Salesforce um að koma á fót 1 milljarði sjálfstæðra umboðsmanna fyrir árið 2026, lýsti Bengio yfir áhyggjum um að ná slíkri sjálfstjórn án viðeigandi eftirlits og tækniútgáfu. Að lokum gagnrýndi hann Christopher Newsom ríkisstjóra Kaliforníu á að leggja á móti SB 1047 og sagði að frumvarpið hefði í för með sér nauðsynlegar reglur og ábyrgð í þróun á AI, sem hann telur ætti að vera í forgangi. Í heildina heldur Bengio fram fyrir vandaðri og gagnsærri nálgun á þróun gervigreindar til að draga úr áhættu og tryggja öruggar framfarir. Yasmin Khorram, háttsettur fréttamaður hjá Yahoo Finance, lagði sitt af mörkum til umræðunnar.