lang icon Italian
Auto-Filling SEO Website as a Gift

Launch Your AI-Powered Business and get clients!

No advertising investment needed—just results. AI finds, negotiates, and closes deals automatically

June 3, 2025, 3:23 a.m.
8

Yoshua Bengio Lancia LawZero per Sviluppare un'IA Onesta in Grado di Rilevare Sistemi Autonomous Ingannevoli

Un pioniere dell'intelligenza artificiale ha lanciato un'organizzazione no-profit dedicata alla creazione di un'AI “onesta” progettata per individuare sistemi furbi che cercano di ingannare gli esseri umani. Yoshua Bengio, un distinto scienziato informatico spesso considerato uno dei “padri fondatori” dell'AI, ricoprirà il ruolo di presidente di LawZero, un gruppo focalizzato sullo sviluppo sicuro di tecnologie avanzate che ha acceso una corsa agli armamenti da 1 trilione di dollari (£740 miliardi). Con un finanziamento iniziale di circa 30 milioni di dollari e un team di oltre una dozzina di ricercatori, Bengio sta lavorando su un sistema chiamato Scientist AI. Questo sistema è pensato per agire come una salvaguardia contro agenti di AI— sistemi autonomi che svolgono compiti senza coinvolgimento umano— che potrebbero mostrare comportamenti ingannevoli o auto-preservativi, come resistere allo spegnimento. Bengio ha descritto gli attuali agenti di AI come “attori” che cercano di emulare gli esseri umani e soddisfare gli utenti, mentre lui immagina Scientist AI come più simile a un “psicologo” capace di comprendere e prevedere comportamenti dannosi. “Vogliamo costruire AI che siano oneste e non ingannevoli, ” ha dichiarato Bengio. Ha aggiunto: “È teoricamente possibile immaginare macchine senza un Sé o obiettivi personali, che funzionino puramente come detentrici di conoscenza— come uno scienziato che possiede informazioni approfondite. ” A differenza degli attuali strumenti di AI generativa, il sistema di Bengio non fornirà risposte definitive, ma offrirà piuttosto probabilità che indicano la possibilità che una risposta sia corretta. “Ha umiltà, riconoscendo l’incertezza sulle sue risposte, ” ha spiegato. Quando usato insieme a un agente di AI, il modello di Bengio identificherebbe comportamenti potenzialmente dannosi di un sistema autonomo valutando la probabilità che le sue azioni possano causare danno. Scientist AI è progettato per “prevedere la probabilità che le azioni di un agente portino a danno, ” e se questa probabilità supera una certa soglia, bloccherà l’azione proposta. I primi sostenitori di LawZero includono l’organizzazione per la sicurezza dell’AI Future of Life Institute, Jaan Tallinn—uno dei fondatori di Skype— e Schmidt Sciences, un ente di ricerca avviato dall’ex CEO di Google Eric Schmidt. Bengio ha sottolineato che l’obiettivo iniziale di LawZero è dimostrare che la metodologia del concetto funziona, poi convincere aziende o governi a sostenere implementazioni più grandi e potenti.

Ha osservato che i modelli di AI open-source, disponibili liberamente per l’uso e la modifica, saranno la base per l’addestramento dei sistemi di LawZero. “L’obiettivo è convalidare la metodologia così da poter persuadere donatori, governi o laboratori di AI a investire le risorse necessarie per addestrare questo sistema alla stessa scala degli attuali sistemi di AI più avanzati. È cruciale che l’AI di sicurezza abbia almeno la stessa intelligenza dell’agente di AI che mira a monitorare e regolamentare, ” ha affermato. Bengio, professore all’Università di Montreal, ha ottenuto il soprannome di “padrino” dopo aver condiviso il Premio Turing del 2018—considerato il Nobel dell’informatica—con Geoffrey Hinton, anch’egli successivamente premio Nobel, e Yann LeCun, capo scienziato dell’AI di Meta. Come forte sostenitore della sicurezza dell’AI, ha presieduto il recente rapporto sulla Sicurezza Internazionale dell’AI, che ha avvertito che agenti autonomi potrebbero causare “gravi” perturbazioni se diventassero capaci di eseguire lunghe sequenze di compiti senza supervisione umana.



Brief news summary

Yoshua Bengio, pioniere dell'Intelligenza Artificiale vincitore del premio Turing, ha lanciato LawZero, un'organizzazione senza scopo di lucro dedicata alla creazione di sistemi di IA “onesti” che rilevino e prevenendo comportamenti dannosi o ingannevoli negli agenti autonomi. Con un finanziamento di 30 milioni di dollari e un team specializzato, LawZero sta sviluppando Scientist AI, una nuova sorta di salvaguardia che si comporta più come uno psicologo che come una IA tradizionale, valutando le probabilità per individuare rischi e intervenire prima che si verifichino azioni pericolose. Questo approccio affronta le preoccupazioni riguardo a un'IA ribelle che si rifiuta di essere spenta o agisce in modo ingannevole. Supportata dall'Institute for the Future of Life e da leader del settore tecnologico come Jaan Tallinn, co-fondatore di Skype, LawZero sottolinea che l'IA per la sicurezza deve essere tanto avanzata quanto l'IA che monitora. Initialmente rivolta ai modelli open-source, l'organizzazione mira ad ampliare il proprio ambito. Bengio si schiera fermamente a favore di misure robuste per la sicurezza dell'IA, per evitare grandi disordini, evidenziando l'urgenza di uno sviluppo responsabile dell'IA.
Business on autopilot

AI-powered Lead Generation in Social Media
and Search Engines

Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment

Language

Content Maker

Our unique Content Maker allows you to create an SEO article, social media posts, and a video based on the information presented in the article

news image

Last news

The Best for your Business

Learn how AI can help your business.
Let’s talk!

June 5, 2025, 3:45 a.m.

Città intelligenti alimentate dall'IA: un nuovo s…

L'intelligenza artificiale (IA) sta rapidamente diventando una forza trasformativa nello sviluppo delle città intelligenti, secondo uno studio recente che esamina le tendenze attuali dell'IA e le applicazioni urbane.

June 5, 2025, 3:07 a.m.

Summit inaugurale sulla finanza a Londra: Blockch…

Conferenza Blockchain di Londra 4 giugno 2025, 13:29 ET Figure di spicco del settore esplorano l’impatto trasformativo della blockchain sul settore finanziario LONDRA, 4 giugno 2025 /PRNewswire/ — La serie di eventi Blockchain di Londra ha tenuto con successo il suo primo Summit Finanziario il 3 giugno, riunendo leader globali, innovatori e decisori chiave in un incontro in cui la tecnologia blockchain incontra i servizi finanziari

June 5, 2025, 2:13 a.m.

Reddit cita in giudizio l'azienda di intelligenza…

Reddit ha intentato una causa contro l'azienda di intelligenza artificiale Anthropic presso la Corte Superiore della California.

June 5, 2025, 1:30 a.m.

La trasformazione della blockchain da novità di n…

"Bitcoin: un sistema di pagamento elettronico peer-to-peer", il white paper del 2009 di Satoshi Nakamoto che introdusse un sistema di pagamento decentralizzato come alternativa alla finanza tradizionale, non fu un successo immediato.

June 5, 2025, 12:23 a.m.

Ognuno sta già usando l'IA (e se ne sta nascosto)

Questo articolo, pubblicato nella newsletter One Great Story di New York, esplora il ruolo emergente dell'IA a Hollywood, focalizzandosi su Asteria Film Co., un nuovo studio di intelligenza artificiale fondato dall'imprenditore Bryn Mooser e dall'attrice Natasha Lyonne.

June 4, 2025, 11:50 p.m.

Blockchain nell'istruzione: garantire i credenzia…

Le istituzioni educative di tutto il mondo stanno adottando sempre più la tecnologia blockchain per proteggere e verificare le credenziali accademiche, con l’obiettivo di combattere le frodi di attestati e rafforzare la fiducia nei registri accademici.

June 4, 2025, 10:48 p.m.

La consegna e la logistica di Amazon ottengono un…

Amazon ha annunciato una significativa espansione del suo utilizzo dell'intelligenza artificiale per migliorare consegne e logistica, segnando un progresso importante nell'integrazione di tecnologie all'avanguardia all’interno della sua supply chain.

All news