Debatten omkring kunstig intelligens (AI) opvarmes, med forskellige synspunkter om, hvorvidt det vil være gavnligt eller skadeligt for verden. Centralt i denne diskussion er Yoshua Bengio, ofte kaldet 'AI's Gudfader'. I en alder af 60 år har den canadiske datalog betydeligt fremmet neurale netværk og dyb læring, hvilket har lagt grundlaget for nutidige AI-modeller som ChatGPT og Claude. I et nyligt interview understregede Bengio de potentielle farer ved AI på menneskeligt niveau og advarede om risikoen for, at det falder i ondsindede hænder og muligheden for at miste kontrollen over autonome systemer. Bengio, der delte den prestigefyldte Turing-pris i 2018 og blev kåret som den mest citerede datalog i 2022, går nu ind for forsigtighed, da entusiasmen for AI vokser, især blandt investorer. For eksempel er Nvidias aktie steget med 162% i år.

Ved evaluering af førende teknologiske aktører inden for AI pegede Bengio på Anthropic som den mest etisk ansvarlige, idet de bemærkede deres engagement i sikkerhed og gennemsigtighed, selvom han anerkender, at alle virksomheder står overfor et pres for at prioritere konkurrencefordel over offentlig sikkerhed. Han diskuterede også bekymringer over den stigende værdi af AI-aktier og implikationerne af et ubegrænset AI-markedskollaps. Med hensyn til chipteknologi understregede han dens afgørende rolle i AI's fremtid og forudsagde et behov for betydelige investeringer i højtydende AI-chips. Med henvisning til Salesforce's ambitiøse mål om at implementere 1 milliard autonome agenter inden 2026 udtrykte Bengio bekymring over at opnå sådan autonomi uden de rette regulerende og teknologiske sikkerhedsmekanismer. Til sidst kritiserede han Californiens guvernør Newsom's veto mod SB 1047 og udtrykte, at lovforslaget havde til hensigt at etablere nødvendige regler og ansvarlighed i AI-udvikling, som han mener bør prioriteres. Overordnet argumenterer Bengio for en forsigtig og gennemsigtig tilgang til AI-udvikling for at mindske risici og sikre sikre fremskridt. Yasmin Khorram, Senior Reporter hos Yahoo Finance, bidrog til diskussionen.