OpenAI è all’avanguardia nella ricerca di intelligenza artificiale, tuttavia il CEO Sam Altman avverte che la strategia di ricerca alla base della creazione del bot ChatGPT sta esaurendo la sua utilità. Non è chiaro dove verranno realizzati i futuri progressi, ma Altman sostiene che il futuro non sta nell’aumentare la dimensione dei modelli. Altman indica una svolta inattesa nella corsa allo sviluppo e alla distribuzione di nuovi algoritmi di intelligenza artificiale. La società ha realizzato una serie di sorprendenti avanzamenti nell’AI basata sul linguaggio, utilizzando algoritmi di machine-learning esistenti e ampliandone la dimensione. Tuttavia, Altman sostiene che i progressi futuri non si otterranno rendendo i modelli più grandi. La versione iniziale di ChatGPT era basata su una versione leggermente migliorata di GPT-3, ma ora gli utenti possono accedere a una versione potenziata da GPT-4. Altman sostiene che GPT-4 potrebbe essere l’ultima grande avanzata emersa dalla strategia di OpenAI di rendere i modelli più grandi e di alimentarli con più dati. Non ha specificato quale tipo di strategie di ricerca o tecniche potrebbero sostituire questa strategia. Tuttavia, molte persone, compresi i ricercatori di AI, stanno già esplorando nuovi modelli di intelligenza artificiale e ulteriori sintonizzazioni basate sul feedback umano. OpenAI ha creato una famiglia di algoritmi di linguaggio basati su una rete neurale artificiale che è stata addestrata per prevedere le parole che dovrebbero seguire una determinata stringa di testo. GPT-2 è stato annunciato nel 2019 e, nella sua forma più grande, aveva 1,5 miliardi di parametri. Nel 2020, GPT-3 è stato presentato, ancora più grande, con 175 miliardi di parametri. Con l’avvento di ChatGPT, molti si aspettavano che GPT-4 sarebbe stato un modello di dimensioni e complessità vertiginose. Tuttavia, quando OpenAI ha annunciato il nuovo modello di intelligenza artificiale, non ha reso nota la sua dimensione, probabilmente perché la dimensione non è più tutto ciò che conta.
__________
“OpenAI’s CEO Says the Age of Giant AI Models Is Already Over“