Oggi ti voglio parlare di un tema che vede opinioni diverse anche tra gli esperti del settore AI.

Tutto è partito quando nel weekend ho letto questa notizia sul fatto che OpenAI potrebbe far pagare fino a $20mila al mese per avere Agenti AI specializzati. 💸

E ho deciso di fare un paio di ricerche perché il tema mi incuriosiva 👀

Partiamo da una domanda: Offrire modelli AI gratuiti è sostenibile a lungo termine?

La risposta non è proprio banale… 😅

Ti dò una panoramica sulle funzionalità attuali di OpenAI👇

• Una decina di modelli diversi
• Input e output di immagini e input di PDF, csv, Excel
• Ricerca sul web
• Modalità canvas (per fare le draft)
• I progetti (per ricordare il contesto)

E alcuni modelli e funzionalità si possono utilizzare anche con la versione gratuita.

Andiamo per step e facciamo un po’ di ordine.

👉🏼 C’è chi pensa che offrire chatbot di ultima generazione *gratis* sia *troppo costoso*.

👉🏼 C’è chi ricorda che storicamente, tutte le tecnologie tendono a diventare *sempre più economiche* mano a mano che maturano…

Dove dobbiamo collocare i modelli AI? 🤔

I modelli stanno diventando più grandi e più “intelligenti”. Questo significa che ci sono due tipi di costi principali:

📌 Costo di addestramento → servono tantissime GPU (schede grafiche super potenti)

📌 Costo di inferenza → ogni volta che chiedi qualcosa al modello, questo "pensa" usando energia e risorse, il che ha un costo.

Partiamo da un presupposto: oggi questi modelli costano parecchio, soprattutto al momento dell’inferenza (quando un modello "pensa" per darti una risposta).

Adesso, viene naturale pensare che più un modello diventa “intelligente”, più costerà, giusto? 🙌

Infatti, GPT-4.5 è un modello molto grande e costosissimo.

E tanti dicono che *non ha un’applicazione così chiara* da giustificare il costo. ❌

Ho approfondito GPT-4.5 in questo post. Secondo me è proprio quello che serviva per alzare ulteriormente il livello generale degli strumenti AI che useremo da qui in poi.

E ho usato questo meme 😂

Torniamo a noi…

E se invece la soluzione di un’AI gratuita stesse nei modelli più piccoli?🔥

Uno studio recente (Large Language Monkeys) propone una soluzione interessante:

invece di far "*pensare*" tantissimo un modello super potente, possiamo sfruttare modelli più piccoli, facendoli rispondere tante volte a una singola domanda e poi scegliendo solo la risposta migliore.

Ad esempio, hanno preso un modello molto piccolo: Pythia-70M.

Teoricamente non dovrebbe riuscire a risolvere domande difficili di matematica…

In realtà, generando moltissime risposte, hanno scoperto che spesso aveva già al suo interno la risposta corretta. ✅

È come dire che la risposta giusta "c’è già" tra le infinite risposte possibili generate casualmente dal modello, dobbiamo solo trovare un modo efficace di sceglierla.

Nel paper si parla infatti dei "*verificatori*", sistemi automatici in grado di leggere le risposte proposte dal modello e trovare quella più *sensata.*

Questa teoria si chiama approccio "Proponente e Verificatore": un sistema "*propone*" risposte, un altro più sofisticato, "*verifica*" e seleziona la migliore. 🚀

Insomma, non è detto che modelli giganti saranno sempre la soluzione migliore, specialmente se riusciamo a far funzionare bene questa tecnica.

(*Secondo me*) il futuro potrebbe avere una dinamica di questo tipo👇

• Modelli piccoli, economici e velocissimi per le domande quotidiane.
• Modelli giganti e costosi per compiti specializzati (usati principalmente da aziende).
• Nuove tecniche come l’approccio descritto sopra per avere il massimo risultato col minor costo possibile.

Si sta parlando molto anche di un modello di business basato sulle pubblicità nelle conversazioni AI, per mantenere gratuito l’utilizzo dei chatbot. 📲

Una sorta di modello simile a Google o Facebook, ma con formati nuovi adatti alle chat.

Ad esempio:

• Facebook mostra pubblicità mirate in base ai tuoi interessi.
• Google ti mette in evidenza i link sponsorizzati tra i primi risultati della ricerca.

Le AI, invece, dovranno forse “*capire*” in autonomia cosa consigliare, sulla base della conversazione stessa. 💬

Immaginati una conversazione di questo tipo:

"Sto cercando una buona macchina fotografica per il mio viaggio in montagna." 📷

E l’AI ti dà suggerimenti includendo prodotti sponsorizzati rilevanti per la tua ricerca.

Ecco, questo è quello che volevo raccontarti in questa puntata. Volevo fare una riflessione diversa dal solito.

Ah e ti consiglio di dare un’occhiata al paper che ti ho lasciato sopra, è super interessante vedere l’approccio descritto. ✌️

Disclaimer: queste sono riflessioni che ho fatto leggendo una serie di articoli e facendomi un’idea dei possibili sviluppi. Capiremo nei prossimi mesi che strada sceglieranno le Big Tech.

Nel frattempo se vuoi restare aggiornato/a sulle ultime news, seguici sui nostri canali social. Facciamo tutti i giorni dei post su tematiche AI:

📌 Instagram

📌 LinkedIn

📌 YouTube

📌 Podcast

📌 Telegram

***

Giacomo Ciarlini - Head of Content & Education - Datapizza

Alexandru Cublesan - Media Manager & Creator - Datapizza