Roman Yampolskiy: l’AI può fingersi stupida per dominare

Il professor Roman Yampolskiy, esperto di AI safety, delinea uno scenario dove l'umanità cederà il controllo senza accorgersene.

C'è chi passa la vita a chiedersi se il bicchiere è mezzo pieno o mezzo vuoto. E poi c’è il dottor Roman Yampolskiy, che ha praticamente gettato il bicchiere e spaccato la brocca, affermando che con l’intelligenza artificiale, le probabilità che finiamo male sono del 99.9%. Capito il mood? 

Non è il solito ‘stiamo attenti’, ma un vero e proprio ‘siamo fritti’. 

Questo scienziato, un veterano con oltre un decennio di studi sulla sicurezza dell’IA alle spalle, non usa mezzi termini. Mentre i guru della Silicon Valley, almeno pubblicamente, dipingono un futuro scintillante fatto di efficienze e robot che ci preparano il caffè (e magari anche la spremuta d’arancia appena colta), Yampolskiy ci butta addosso una secchiata di acqua fredda, o forse dovremmo dire di ghiaccio. Persino i più ‘ottimisti’ tra gli esperti di settore, quelli che a porte chiuse ammettono un 20-30% di rischio di estinzione per l’umanità, appaiono dei giocherelloni al suo confronto...

La lettera di Elon Musk per fermare l'Intelligenza Artificiale

 

Elon Musk, il cofondatore di Apple e molti esperti informatici tra cui i professori di AI Yoshua Bengio e Stuart Russel altro hanno firmato una lettera pubblicata dal Future of Life Institute per fermare l’avanzata dell’Intelligenza Artificiale, arrivata a spaventare anche l’opinione pubblica con chatGPT, software di cui si è impadronita spendendo 10 miliardi la Microsoft di Bill Gates.

Come riportato da Renovatio 21, il software è arrivato a minacciare gli utenti, fare proclami stralunati, perfino dichiarare di voler sterminare gli esseri umani, e creare codice per prendere il controllo del computer dei suoi interlocutori.

L’appello di Musk e compagni (tra i quali, purtroppo, vediamo anche Yuval Harari) è paragonabile a quelli che decenni fa si sono visti per lo sviluppo delle armi atomiche, e – aggiungiamo noi – che non si sono visti per le armi biologiche e le ricerche Gain of Function: il risultato del genio scappato dalla lampada lì è stato, con estrema probabilità, la catastrofe della pandemia COVID-19.

Gli effetti della fuga del genio AI dalla lampada, strofinata a dovere da oligarchi senza scrupoli e senza amore per il genere umano, non riusciamo ancora ad immaginarceli.

Tuttavia Elon Musk, oramai quasi una decina di anni fa, ci aveva messo in guardia: sarà «come evocare un demone» ...

Etica e Intelligenza Artificiale, come governare lo sviluppo tecnologico?

Uno dei grandi paradossi della tecnologia è che più essa cerca di progredire e migliorare le condizioni degli esseri umani, più aumentano i rischi che questa possa essere potenzialmente pericolosa per l’umanità.

L’intelligenza artificiale è al centro di grandissima attenzione e il futuro, volenti o nolenti, si prospetta come uno scenario in cui questa rivestirà un ruolo centrale nella vita delle persone.

Sarebbe sciocco non voler vedere questo costante mutamento che ormai investe la società a tutti i livelli: economico, estetico, medico, politico e, non ultimo, tecnologico.

Al tempo stesso, mentre cresce l’interesse e l’entusiasmo per i progressi dell’intelligenza artificiale, si impone un quesito altrettanto urgente: come governare una transizione che si può rivelare pericolosa per l’umanità? ...