Bentornato su Commit, la newsletter di Datapizza!
Questa settimana vogliamo parlare dei lati oscuri delle AI generative di ultima generazione, e dei rischi che queste tecnologia portano con se.
Ma in che senso?
Sappiamo bene che i modelli della famiglia GPT (o equivalenti) sono veramente efficaci in una grande varietà di compiti, dalla creazione di immagini, alla scrittura di codice, fino all’addestramento dei robot.
E’ una tecnologia così flessibile e potente che OpenAI ha proposto di rinominare l’acronimo GPT da General Pretrained Transformer a… General Purpose Technology!
Quindi tutto bello?
Eh, insomma…
Anche se siamo ancora ai primordi degli sviluppi di questo genere di tecnologia, iniziamo già a vederne i primi casi di “misuse”.
Proprio la settimana scorsa anche Yoshua Bengio e Geoffrey Hinton, tra i professori di Deep Learning più citati nella letteratura scientifica, hanno pubblicato una *nuova lettera aperta* che si chiama “Managing AI Risks in an Era of Rapid Progress”.
Tra i rischi che abbiamo già citato, gli esperti che hanno firmato la lettera identificano nello sviluppo di Artificial General Intelligence (AGI) il rischio più grande, che se non controllato potrebbe avere effetti catastrofici per la nostra specie…
Ti invitiamo a leggere la lettera per intero, ma il punto focale è il seguente:
“Se costruiamo un'intelligenza artificiale autonoma altamente avanzata (AGI), rischiamo di creare sistemi complessi che perseguono obiettivi indesiderati. Attori malevoli potrebbero deliberatamente fornirgli obiettivi dannosi. Inoltre, al momento nessuno sa come allineare in modo affidabile il comportamento dell'IA con valori etici accettabili e condivisi. Anche gli sviluppatori con buone intenzioni potrebbero involontariamente costruire sistemi di IA che perseguono obiettivi non intenzionali, specialmente se, nel tentativo di vincere la corsa all'IA, trascurano i necessari test di sicurezza o la supervisione umana.”
Ma c’è da credergli?
Beh a parte il fatto che sono tra i massimi luminari di questo campo (dovrebbe bastare no?), ricordiamoci anche il famoso detto:
“Quando un anziano e saggio scienziato dice che qualcosa è impossibile, quasi certamente sbaglia… Ma quando dice che qualcosa è possibile, ha quasi certamente ragione.” (Arthur C. Clarke)
Insomma, nonostante le AI avanzate offrano enormi potenziali benefici per l’umanità, portano con se anche notevoli minacce, soprattutto per quanto riguarda il loro utilizzo da parte di malintenzionati.
Quindi, Meta, pensaci due volte prima di rilasciare anche Llama 3 open source…
Anche se questo genere di modelli viene rilasciato con delle “safety measures”, sappiamo che basta davvero poco per rimuoverle (poche ore di lavoro).
*Ma cosa ne pensiamo noi?*
Come abbiamo detto tante volte, le AI sono solo uno strumento (per ora?) e in quanto tale non hanno “responsabilità”, è l’umano che le controlla che sceglie come utilizzarle.
Il problema è che l’umanità non ha un bellissimo storico nell’utilizzo di strumenti pericolosi…
Come Datapizza abbiamo la responsabilità di fare divulgazione anche su questi temi, e nonostante siamo estremamente affascinati dal rapido sviluppo di queste tecnologie, non possiamo ignorarne le complessità e i rischi.
Però promesso che il prossimo numero sarà meno deprimente 😅
Avendo citato Bengio, non possiamo non consigliarti il suo immortale libro Deep Learning, ancora oggi una delle risorse di riferimento per chi vuole addentrarsi nel mondo del Deep Learning.
L’ha scritto assieme a Ian Goodfellow, l’ideatore delle GANs (Generative Adversarial Networks), e spiega veramente bene i concetti alla base delle reti neurali.
Inoltre è completamente gratuito!
Salvalo 👉 Deep Learning
Questa settimana come lettura “interattiva” ti lasciamo questo articolo interattivo del Financial Times che spiega davvero bene come funziona il modello Transformer, alla base dei Large Language Models.
E’ davvero una bomba, adatto anche a chi non ha basi tecniche di Machine Learning.
Giralo ai tuoi conoscenti!