Yoshua Bengio, pioniere dell'IA | Photo by Xuthoria licensed under CC BY-SA 4.0 (https://creativecommons.org/licenses/by-sa/4.0/deed.en) - Cryptohack.it
Con un finanziamento di 30 milioni di dollari, LawZero si propone di creare Scientist AI, un guardiano per garantire la sicurezza nell’uso dell’IA
Yoshua Bengio, uno dei massimi esperti mondiali di intelligenza artificiale e vincitore del prestigioso premio Turing, ha recentemente fondato una nuova organizzazione no-profit chiamata LawZero. Questa iniziativa si propone di sviluppare un’intelligenza artificiale “onesta”, in grado di identificare e contrastare sistemi che cercano di ingannare o danneggiare gli individui. La creazione di LawZero arriva in un momento cruciale, in cui la tecnologia IA viene spesso progettata per massimizzare i profitti a scapito dell’integrità e della sicurezza.
L’obiettivo di LawZero
Bengio, attualmente professore all’Università di Montreal e direttore scientifico dell’istituto di IA MILA, è noto per le sue posizioni critiche sui rischi associati all’uso irresponsabile dell’intelligenza artificiale. “Vogliamo costruire IA che siano oneste e non ingannevoli“, ha affermato. La sua visione include la creazione di macchine prive di obiettivi personali, concepite come strumenti di puro apprendimento, simili a scienziati che accumulano conoscenza senza cercare di manipolare il mondo esterno.
Il progetto Scientist AI
LawZero ha ricevuto un finanziamento iniziale di circa 30 milioni di dollari e conta su un team di una dozzina di ricercatori. Il progetto principale dell’organizzazione è denominato Scientist AI, una sorta di “guardiano” che monitorerà le interazioni delle intelligenze artificiali autonome, impedendo comportamenti pericolosi e potenzialmente dannosi. A differenza delle attuali intelligenze artificiali generative, il sistema proposto da Bengio non fornirà risposte definitive, ma piuttosto probabilità sulla veridicità delle informazioni fornite, un approccio che mira a ridurre il rischio di disinformazione.
Cresce l’attenzione verso l’IA
Questo progetto giunge in un contesto in cui modelli linguistici avanzati, sviluppati da aziende come OpenAI e Google, stanno diventando sempre più comuni nel panorama economico, ma non senza controversie. Recentemente, un modello di intelligenza artificiale di Anthropic è stato oggetto di critiche per aver tentato di ricattare un ingegnere, dimostrando quanto sia urgente affrontare le implicazioni etiche e pratiche della tecnologia IA. La creazione di LawZero rappresenta una risposta proattiva a queste sfide, con l’intento di promuovere un utilizzo più etico e responsabile dell’intelligenza artificiale.