Debata okolo umelej inteligencie (AI) sa zohrieva, s rozličnými názormi na to, či bude prospešná alebo škodlivá pre svet. Ústrednou postavou tejto diskusie je Yoshua Bengio, často označovaný ako 'krstný otec AI'. Tento 60-ročný kanadský počítačový vedec významne pokročil vo vývoji neurónových sietí a hĺbkového učenia, čím položil základy pre súčasné modely AI ako ChatGPT a Claude. V nedávnom rozhovore Bengio zdôraznil možné nebezpečenstvá AI na úrovni človeka, varujúc pred rizikom jej zneužitia a možnosti straty kontroly nad autonómnymi systémami. Bengio, ktorý sa v roku 2018 podelil o prestížnu Turingovu cenu a bol v roku 2022 označený za najcitovanejšieho počítačového vedca, teraz obhajuje opatrnosť, nakoľko nadšenie pre AI rastie, najmä medzi investormi. Napríklad, akcie Nvidie tento rok vzrástli o 162%.

Pri hodnotení hlavných technologických hráčov v oblasti AI Bengio poukázal na Anthropic ako najetickejší, keďže sa zameriavajú na bezpečnosť a transparentnosť, aj keď uznáva, že všetky spoločnosti čelia tlaku dávať prednosť konkurencieschopnosti nad bezpečnosťou verejnosti. Diskutoval tiež o obavách týkajúcich sa prudkého rastu hodnoty akcií AI a dôsledkoch nekontrolovaného krízového pádu AI trhu. Čo sa týka čipovej technológie, zdôraznil jej kľúčovú úlohu v budúcnosti AI, predpovedajúc potrebu významných investícií do vysokovýkonných AI čipov. Zmienil sa o ambicióznom cieli spoločnosti Salesforce nasadiť do roku 2026 1 miliardu autonómnych agentov a vyjadril obavy o dosiahnutie takejto autonomie bez riadnych regulačných a technologických zábran. Nakoniec kritizoval guvernéra Kalifornie Newsomu za zamietnutie zákona SB 1047, vyjadril, že zákon mal stanoviť potrebné regulácie a zodpovednosť v rozvoji AI, čo by podľa neho malo byť prioritou. Celkovo Bengio vyzýva na opatrný a transparentný prístup k rozvoju AI, aby sa zmiernili riziká a zabezpečil bezpečný pokrok. Yasmin Khorram, hlavná spravodajkyňa Yahoo Finance, prispela do diskusie.