25/07/2023🦙 Meta rilascia Llama, la sua nuova AI OpenSource

Questa settimana, a sorpresa, è stato rilasciato Llama v2, la nuova versione dell’AI generativa open source di Meta.

Ma cosa significa?

Beh intanto che ChatGPT ha un serio competitor open source (e questo ha implicazioni enormi).

Inoltre, da subito ricercatori e aziende hanno accesso a un potente modello generativo, che ha capacità comparabili a ChatGPT 3.5, e possono ulteriormente addestrarlo per migliorarlo.

Questo notizia è molto importante, anche perché viene insieme all’annuncio di un’ulteriore partnership tra Meta e Microsoft, che ormai sembrano alleati inseparabili: sia Llama che Llama v2 saranno disponibili sul cloud Azure di Microsoft.

Questo significa che in modo sempre più facile aziende e builders avranno accesso a potenti “foundational models” che sono facili da specializzare (fine tuning) e distribuire.

Inoltre Llama è free commercial license, che significa che ogni azienda può usarlo per costruire altri business o migliorare il proprio.

Ma…

Perché Microsoft e Meta si allineano così tanto sull’AI?

  • Meta non ha un’infrastruttura per fare serving dei modelli per altri, quindi si appoggia ad Azure
  • Microsoft è contenta, perché cattura il volume di richieste API che verranno fatte a questo genere di modelli
  • Entrambe sono contente, poi, perché mettono a fattore comune i muscoli ingegneristici e di ricerca sul settore AI. OpenAI e il FAIR (Facebook AI Research) sono nei top 3 laboratori di ricerca AI
  • Entrambe le aziende condividono una visione “ottimista” e accelerazionista del futuro dell’AI

Google invece?

Notoriamente l’azienda ha una posizione più difensiva per quanto riguarda l’AI generativa, ed ha anche la spada di Damocle sulla testa: il dilemma dell’innovatore.

Rischiare di intaccare il suo business di Google Search, lanciando un prodotto che potenzialmente ne cannibalizza le revenues?

1% di impatto su Search = miliardi di $, quindi bisogna essere cauti.

In ogni caso, vista la progressiva decentralizzazione della ricerca attorno a “foundational models” open source, anche Google dovrà farci i conti.

Ricordiamoci l’articolo uscito qualche mese fa dai memo interni di Google (”We have no moat, and neither does OpenAI”), che anticipava proprio il fenomeno a cui stiamo assitendo.

Meta sembra invece aver già deciso di non combatterla, anzi aiutare ad innescarla. Vedremo che succede!

Altre novità interessanti

  • GPT-3.5 e GPT-4 sono peggiorati da marzo, secondo uno studio, che però è stato criticato per metodi di valutazione non proprio corretti. Inoltre, il paper è una “pre-print” e non è stato peer-reviewed.
  • Apple sta testando un chatbot interno basato su Large Language Models (senza piani per rilasciarlo al momento).
  • Le richieste per GPT-4 stanno per aumentare a 50 ogni tre ore.
  • OpenAI rilascia le “custom instructions”, un modo per personalizzare le risposte di ChatGPT. Per ora in beta in USA e UK (puoi provarle con una VPN.)
  • I post su Stack Overflow sono diminuiti del 16% quest'anno a causa dell’uso di ChatGPT.

🍕 Datapizza Selection 🍕

Nuovi tools AI da provare:

Ecco alcuni nuovi tools AI che durante la settimana abbiamo provato:

  • 🤖 Comigo è un assistente AI cognitivo per persone con ADHD.
  • 🧪 Inizia a sperimentare con LLaMA 2 su Perplexity.
  • 🎨 Crea un codice QR personalizzato utilizzando questa guida.
  • 📊 Prova Tome per generare presentazioni da prompt (ha appena raggiunto 10 milioni di utenti!).
  • 🧮 con l’estensione di GPT for Work puoi integrare GPT in Sheets, Docs e Excel.

Il progetto Open Source

Questa settimana vi portiamo un progetto open source che sta costruendo la base per migliaia di applicazioni personalizza che usano gli LLM.

Parliamo ovviamente di Langchain, che è un framework che permette di avere comodamente “out of the box” tanti workflow e processi comuni usati quando si lavora con i Large Language Models. Abbiamo anche fatto un post su Instagram a riguardo, vai a dare un’occhiata!

https://www.instagram.com/p/CuT-8IJKDke/?img_index=1

https://github.com/hwchase17/langchain

La risorsa da salvare

Salvati questo sito, è oro per il Prompting!

Contiene tutte le tecniche base, intermedie e avanzate per fare ottimizzazione e miglioramento dei prompts per le AI come ChatGPT.

È una risorsa comprensiva e super aggiornata, buono studio! https://www.promptingguide.ai/it