Il progetto Q-Star. Dietro il licenziamento di Sam Altman il timore per la superintelligenza che “mette a rischio l’umanità”
Tutto è cominciato con un’operazione matematica fatta dall’intelligenza artificiale (IA) in maniera corretta e che, nonostante sia stato un calcolo banale, ha spaventato i ricercatori di Open AI, i quali scrissero una lettera al consiglio di amministrazione per informarli di una nuova scoperta che potrebbe minacciare l’umanità.
Il progetto Q* nel dettaglio
Il team è da diverso tempo che lavora al progetto Q*, il cui obiettivo è comprendere le applicazioni dell’intelligenza artificiale al ragionamento logico e matematico, quindi permettere alle macchine di svolgere qualsiasi operazione intellettuale come se fossero esseri umani.
Secondo i ricercatori il nuovo modello chiamato Artificial General Intelligence (Agi) non è pronto per essere commercializzato perché è coperto da un velo di ignoranza.
Ad oggi invece ChatGPT è in grado di scrivere testi, rispondere alle domande, fare ricerche e per sviluppare abilità matematiche serve una capacità di ragionamento che va oltre all’accostamento di frasi trovate sul web.
Una fonte interna anonima ha rivelato all’agenzia Reuters che i test svolti dal progetto Q* hanno dato risultati positivi, dunque l’intelligenza artificiale è stata in grado di risolvere le prime operazioni matematiche, ma il modello non è pronto per essere lanciato sul mercato perché c’è ancora troppa poca consapevolezza, scrivono i ricercatori nella lettera.
Secondo le fonti la lettera sarebbe arrivata al consiglio di amministrazione quattro giorni prima del licenziamento di Altman e del suo poi ritorno il 21 novembre 2023. Oltre 700 dipendenti che hanno lavorato a ChatGPT avevano minacciato di dimettersi e di seguire Altman a Microsoft e, secondo il team, le preoccupazioni scritte nella lettera sono uno dei motivi principali del licenziamento di Altman.
L’agenzia Reuters non è stata in grado di rivedere una copia della lettera, quindi non c’è la prova provata. Ad ogni modo, alcuni di OpenAI credono che Q* (pronunciato Q-Star) potrebbe essere una svolta nella ricerca della startup.
Il CEO di OpenAI, durante un summit a San Francisco, aveva dichiarato:”Per quattro volte nella storia di OpenAI, l’ultima delle quali nelle ultime due settimane, ho avuto la possibilità di essere nella stanza in cui si spinge il velo dell’ignoranza indietro e la frontiera della scoperta in avanti, e poterlo fare è l’onore professionale di una vita”.
I ricercatori considerano la matematica una frontiera dello sviluppo dell’intelligenza artificiale generativa. Ad oggi l’IA è in grado di scrivere e tradurre testi – riesce a prevedere statisticamente la parola successiva, ma le risposte alla stessa domanda possono variare -.
Ecco che, se riuscisse a sviluppare capacità matematiche, a quel punto ci sarebbe una risposta corretta, quindi servirebbe una capacità di ragionamento maggiore e sicuramente più simile all’intelligenza umana.
Secondo i ricercatori il nuovo modello potrebbe anche svolgere in modo autonomo ricerche scientifiche: a differenza di una calcolatrice che può risolvere un numero limitato di operazioni, Agi potrebbe apprendere e comprendere.
Nel frattempo OpenAI ha aggiornato ChatGPT con Voice che, nonostante l’accento spiccatamente americano, capisce la nostra lingua e anche un po’ di cultura dell’Italia. Ma come funziona?
Bisogna premere l’icona a forma di cuffie che si trovano in basso a destra della schermata iniziale di ChatGPT, scegliere quale voce si preferisce – le opzioni sono cinque – e poi agite come se fosse un vocale.
Ecco che a quel punto ChatGPT ascolterà e risponderà fino a quando non lo decidete voi e per parlarci insieme non dovete per forza avere l’abbonamento a Plus, basta l’app che si trova sugli smartphone con sistema operativo iOS e Android. In ogni caso, qualcuno sta iniziando a credere che la voce recentemente inserita sia l’indizio di qualcosa di più grande.