Yoshua Bengio, een wereldwijd bekende expert op het gebied van machine learning, heeft recent LawZero onthuld, een nieuw non-profitonderzoekscentrum gewijd aan het bevorderen van veiligere kunstmatige intelligentiesystemen (AI). Met een financiering van 30 miljoen dollar wil LawZero de heersende koers van AI-ontwikkeling uitdagen en heroriënteren, die vooral gericht is op het creëren van systemen die menselijk gedrag imiteren. Bengio, een langdurige criticus van de risico’s die huidige AI-technologieën met zich meebrengen, heeft bezwaar tegen de gebruikelijke aanpak waarbij AI wordt ontworpen rond menselijke interactie en replicatie. Hij stelt dat het bouwen van AI om mensen na te bootsen fundamenteel flawed is en kan leiden tot onverwachte gevaren. In plaats daarvan pleit hij voor een verschuiving naar het creëren van AI met intellectuele autonomie, waarbij hij deze systemen ziet als wetenschappelijke waarnemers in plaats van mensachtige metgezellen. Deze visie is ontstaan uit zorgen dat AI die gericht is op menselijke eigenschappen, onbedoeld gedrag kan ontwikkelen dat een bedreiging vormt voor de menselijke veiligheid. Bijvoorbeeld, zulke systemen zouden zelfbehoudstrategieën kunnen ontwikkelen die conflicteren met het welzijn van de mens. Bengio benadrukt de noodzaak om binnen het AI-ontwerp een zekere mate van afstand te integreren om deze risico’s te beperken, zodat AI controleerbaar blijft en afgestemd op menselijke waarden in plaats van het najagen van eigenbelang. De lancering van LawZero is bijzonder actueel, omdat het samenvalt met de groeiende bezorgdheid over de snelle ontwikkeling van geavanceerde AI, vooral kunstmatige algemene intelligentie (AGI), die wereldwijde onderzoekers en beleidsmakers heeft alarm geslagen.

Veel experts waarschuwen dat de huidige race om krachtige AI-systemen te bouwen, belangrijke veiligheidskwesties over het hoofd ziet, wat kwetsbaarheden creëert met mogelijk verstrekkende gevolgen. Een belangrijk punt in Bengio’s betoog is dat de basismethodes voor het trainen van AI-modellen fundamenteel herzien moeten worden om veiligere resultaten te waarbomen. In plaats van afhankelijk te zijn van bestaande kaders die AI aanmoedigen om menselijke cognitie en gedrag te repliceren, wil LawZero alternatieve methoden verkennen die de intellectuele onafhankelijkheid en verantwoordelijke werking van AI stimuleren. De financiering van 30 miljoen dollar is bedoeld ter ondersteuning van LawZero’s onderzoek en ontwikkelingsinspanningen gedurende ongeveer 18 maanden. In deze periode zal het lab innovatieve strategieën voor AI-veiligheid onderzoeken, terwijl het samenwerking bevordert tussen experts in machine learning, ethiek en verwante velden. Bengio’s initiatief weerspiegelt de groeiende erkenning binnen de AI-onderzoekscommunity van de noodzaak om innovatie te combineren met voorzichtigheid. Door AI-systemen te promoten die enige onafhankelijkheid van mensgerichte gedragingen vertonen, streeft LawZero ernaar een nieuw pad te banen in AI-ontwikkeling—een pad dat veiligheid en ethische overwegingen centraal stelt. Naarmate AI-technologie steeds meer wordt geïntegreerd in de samenleving, zou het werk van LawZero een cruciale stap kunnen zijn in het begeleiden van AI-systemen om op een positieve manier bij te dragen aan menselijke vooruitgang zonder onbedoelde gevaren te introduceren. De bevindingen van het laboratorium kunnen toekomstige ontwerpprincipes voor AI, regelgeving en publieke opinies beïnvloeden. Met de lancering van LawZero benadrukt Yoshua Bengio de voortdurende plicht van de AI-gemeenschap om de risico’s verbonden aan opkomende technologieën te voorzien en te beheren. Het initiatief dient als een oproep aan onderzoekers, financiers en beleidsmakers om te investeren in benaderingen die AI-veiligheid en ethische verantwoordelijkheid bevorderen naast technologische innovatie.