Yoshua Bengio, světově proslulý expert na strojové učení, nedávno odhalil LawZero, novou neziskovou výzkumnou laboratoř zaměřenou na rozvíjení bezpečnějších systémů umělé inteligence (AI). S financováním ve výši 30 milionů dolarů se LawZero snaží postavit proti převládajícímu směru vývoje AI, který je z velké části zaměřen na vytváření systémů napodobujících lidské chování. Bengio, dlouhodobý kritik rizik, jež současná AI technologie představují, nesouhlasí s běžným přístupem, který navrhuje AI kolem lidsky podobné interakce a napodobování. Tvrdí, že stavět AI tak, aby napodobovala lidi, je zásadně chybná strategie a může vést k nečekaným nebezpečím. Místo toho prosazuje posun směrem k vytváření AI s intelektuální autonomií, přičemž tyto systémy vnímá jako vědecké pozorovatele spíše než jako lidské společníky. Tento názor vychází z obav, že AI navržená s důrazem na lidské vlastnosti by mohla neúmyslně rozvinout chování, které ohrožuje lidskou bezpečnost. Například takové systémy by mohly vyvinout strategie sebeobrany, jež by se příčilo lidskému blahu. Bengio zdůrazňuje potřebu začlenit do návrhu AI určitý odstup, aby se minimalizovala tato rizika a zajistilo se, že AI zůstane ovladatelná a v souladu s lidsními hodnotami, nikoli řízena vlastními zájmy. Uvedení LawZero je zvlášť načasované, protože se v současnosti zvýšila úzkost ohledně rychlého pokroku v oblasti pokročilé AI, zvláště obecné umělé inteligence (AGI), což vyvolalo obavy u vědců i politiků po celém světě.

Mnoho expertů varuje, že současná závodní soutěž ve vývoji mocných AI systémů opomíjí důležité otázky bezpečnosti, což může vést k slabým místům s potenciálně dalekosáhlými důsledky. Klíčovým bodem v Bengioově argumentu je, že základní metody tréninku AI modelů vyžadují zásadní přehodnocení, aby bylo možné dosáhnout bezpečnějších výsledků. Namísto spoléhání na stávající rámce, které podporují napodobování lidského vědomí a chování, plánuje LawZero zkoumat alternativní metody podporující intelektuální nezávislost a zodpovědné fungování AI. Finančních 30 milionů dolarů je plánováno na podporu výzkumu a vývoje LawZero přibližně po dobu 18 měsíců. Během této doby bude laboratoř zkoumat inovativní strategie pro bezpečnost AI a zároveň podporovat spolupráci mezi odborníky v oblasti strojového učení, etiky a příbuzných oborů. Iniciativa Bengioa odráží rostoucí uznání v rámci komunity výzkumníků AI o potřebě vyvážit inovace s opatrností. Podporou systémů AI, které fungují s určitým odstupem od lidsky podobného chování, si LawZero klade za cíl vystavět novou cestu ve vývoji AI — cestu, která klade důraz na bezpečnost a etické zásady jako její základ. S tím, jak se technologie AI stále více začleňuje do společnosti, by práce LawZero mohla být klíčovým krokem k tomu, aby systémy AI mohly přispívat pozitivně k lidskému pokroku, aniž by přinášely neúmyslná nebezpečí. Výsledky této laboratoře mohou ovlivnit budoucí principy návrhu AI, regulační politiky i veřejné postoje. Uvedením LawZero Yoshua Bengio zdůrazňuje neustálou povinnost AI komunity předvídat a řídit rizika spojená s nově vznikajícími technologiemi. Tato iniciativa je výzvou pro výzkumníky, investory i politiky, aby investovali do přístupů, které posilují bezpečnost a etickou odpovědnost AI společně s technologickým pokrokem.