De discussie rondom kunstmatige intelligentie (AI) laait op, met uiteenlopende meningen over of het voordelig of schadelijk zal zijn voor de wereld. Centraal in deze discussie staat Yoshua Bengio, vaak de "Godfather van AI" genoemd. Op 60-jarige leeftijd heeft de Canadese computerwetenschapper grote vooruitgang geboekt in neuraal netwerken en deep learning, en daarmee de basis gelegd voor moderne AI-modellen zoals ChatGPT en Claude. In een recent interview benadrukte Bengio de potentiële gevaren van AI op menselijk niveau, en waarschuwde hij voor het risico dat het in kwaadwillige handen valt en de mogelijkheid de controle over autonome systemen te verliezen. Bengio, die in 2018 de prestigieuze Turing Award deelde en in 2022 de meest geciteerde computerwetenschapper was, pleit nu voor voorzichtigheid nu het enthousiasme voor AI groeit, vooral onder investeerders. Zo is de aandelenkoers van Nvidia dit jaar met 162% gestegen.

Bij het beoordelen van grote technologiebedrijven in de AI-sector wees Bengio Anthropic aan als de meest ethisch verantwoorde partij, omdat zij zich inzetten voor veiligheid en transparantie, hoewel hij erkent dat alle bedrijven onder druk staan om concurrentievoordeel boven publieke veiligheid te stellen. Hij besprak ook zorgen over de snel stijgende waarde van AI-aandelen en de gevolgen van een ongecontroleerde AI-marktcrash. Met betrekking tot chiptechnologie benadrukte hij de cruciale rol ervan in de toekomst van AI, en voorspelde hij de noodzaak van aanzienlijke investeringen in AI-chips met hoge prestaties. Met vermelding van Salesforce's ambitieuze doel om tegen 2026 1 miljard autonome agenten in te zetten, uitte Bengio bezorgdheid over het bereiken van dergelijke autonomie zonder adequate regelgevende en technologische waarborgen. Tenslotte bekritiseerde hij de veto van de gouverneur van Californië Newsom op SB 1047, en uitte hij dat het wetsvoorstel erop gericht was noodzakelijke regelgeving en verantwoordelijkheid te vestigen in AI-ontwikkeling, wat volgens hem prioriteit zou moeten hebben. Over het geheel genomen pleit Bengio voor een zorgvuldige en transparante benadering van AI-ontwikkeling om risico's te beperken en veilige vooruitgang te verzekeren. Yasmin Khorram, Senior Reporter bij Yahoo Finance, droeg bij aan de discussie.