26/03/2024La nuova GPU gigante di Nvidia fa paura

La settimana scorsa c’è stato l’evento AI dell’anno.

Nvidia ha presentato una serie di novità estremamente interessanti… e non solo hardware.

Sicuramente il pezzo forte della conferenza è stata Blackwell, la nuova architettura GPU, pensata per addestrare modelli di AI generativa di prossima generazione… giganti.

Il chip è impressionante:

A parità di dimensione, ha il 2,5x prestazioni per training e 5x per la fase di inferenza, rispetto all'architettura Hopper precedente (le famose schede H100 che Mark Zuckerberg sta accumulando…).

Oltre a questo, a parità di potenza di calcolo.. è usa solo un quarto dell’energia!

È quindi estremamente più efficiente dal punto di vista energetico, e questa è una buona notizia, il costo per addestrare e servire i modelli di AI generativa…

Infatti è chiaro che Nvidia ha tutto l’interesse a rendere più efficienti i suoi chip (e consumare meno).

Se le aziende che li usano consumano meno, risparmieranno sull’uso di elettricità, a parità di calcoli effettuati…

Nonostante questo il tema di “quanto è sostenibile addestrare modelli esponenzialmente più grandi?”… diciamo che non è risolto 😅

Tuttavia le novità non sono state solo hardware… anzi!

Sono stati presentati vari software e piattaforme per simulazioni fisiche, addestramento di robot, microservizi AI, digital twin con fedeltà quasi reale…

Insomma, il futuro che vede Jensen Huang è chiaro.

L’AI sarà sempre più pervasiva in ogni aspetto della nostra vita, ed Nvidia vuole essere la piattaforma di riferimento anche software, oltre che hardware.

Piccolo reminder: Jensen sta dicendo a tutti di “non insegnare a programmare ai bambini, tanto lo faranno le AI per noi a breve”.

Fa ridere ma fa anche riflettere:

Tra l’altro mi ricordo che una volta ho sentito Jensen dire a un podcast: “Tutti pensano che siamo una compagnia che costruisce hardware. La verità è che noi abbiamo molti più software engineer che hardware engineer!

Siamo quasi una software house che accidentalmente progetta schede grafiche!”

(e tra l’altro ne fa solo il design, ma a produrle fisicamente è TSMC)

Poi, ci sono anche stati tantissimi altri interventi e annunci minori, che puoi recuperare dal canale Youtube di Nvidia.

Ti consiglio di guardare i primi 20 del Keynot di Jensen… è impressionte, Jensen è uno showman pazzesco.

Tra l’altro non è il classico presentatore ingessato alla mo’ Tim Cook o Sundar Pichai…

Ma è vero giga-nerd, che per due ore fa battute fantasy, citazioni a star trek, e che si esalta come un bambino felicissimo della sua nuova invenzione - in questo caso, un chip dal costo di R&D di $10 miliardi di dollari circa.

Consigliata la visione.

Cosa ne pensi del Keynote?

L’hai visto?

Vieni a dirci che ne pensi sul nostro Discord, trovi tutti i membri del team e migliaia di professionisti e appassionati di Tech, Data Science e AI! 🍕

Entra nel Discord!

By Giacomo Ciarlini - Head of Content & Education - Datapizza

Altre news interessanti

🍕 Datapizza Selection 🍕 

Salvati questa risorsa

Abbiamo trovato questa “collezione aperta” di ricette per addestrare e ottimizzare modelli di linguaggio come GPT.

Se sei interessato più alla parte tecnica di “come si costruisce una AI”, salvatela assolutamente.

Contiene metodologie, strumenti e istruzioni passo-passo per aiutare ad addestrare LLM/VLM.

Bonus: Include numerosi script e comandi da copiare e incollare per velocizzare il lavoro.

👉 Link alla risorsa

Tool AI da provare

ll mese scorso ho creato un piccolo tool gratuito per scrivere velocemente contenuti, insegnando a GPT a usare lo stile dei tuoi esempi, e applicarlo a… un nuovo contenuto!

In pratica apri il link, poi:

📍 Inserisci la tua API Key di OpenAI (ho linkato tutorial per ottenerla) 📍 Personalizza il prompt inserendo alcune variabili (tipo, ambito, numero slides) 📍 Inserisci 4-5 esempi di TUOI contenuti nella cartella “esempi” 📍 Crea un file di testo con la sorgente nuovo articolo da scrivere 📍 Avvia l’ultima cella… Et voilà!

Dopo circa 45 secondi otterrai il contenuto stampato a video nell’ultima cella!

Ovviamente hai il costo delle chiamate API, ma conta che è circa 5 centesimi a contenuto per GPT4, se metti la 3.5 praticamente è gratis…

Perchè questo tool è una figata?

📍 Non devi pagare nessun altro tool “che scrive i contenuti come te” 📍 Ti lascio tutto il codice che puoi anche modificare 📍 Ti regalo il mio INTERO prompt accuratamente ingegnerizzato per la creazione contenuti 📍 Puoi usarlo come base per fare anche altre automazioni… 

Ecco il link al Tool: https://shorturl.at/zQRZ3

Provalo e dimmi che ne pensi!