Stiamo iniziando a parlare come ChatGPT (mentre le AI cercano di imitarci)

di Davide Imeneo

Vi è mai capitato, leggendo l’email di un collega o ascoltando un intervento su Zoom, di pensare che le parole siano troppo perfette, quasi artificiali? 

È il segno di una metamorfosi: noi iniziamo a parlare come i chatbot, mentre le macchine imparano a imitare le nostre fragilità.

L'infiltrazione linguistica: l'ascesa di termini artificiali

Ci sono degli ospiti inattesi che si stanno infiltrando nel modo in cui parliamo e scriviamo: una contaminazione che sta modificando il tessuto stesso della comunicazione umana. Chi presta attenzione alle conferenze su Zoom o ai video accademici su YouTube può notare l’emergere abbondante di termini specifici, un tempo rari, che oggi fungono quasi da veri e propri marcatori di un’intelligenza non “biologica”. 

Parole inglesi come delve (scavare a fondo, approfondire), meticulous (meticoloso), realm (regno, ambito) e adept (esperto) hanno registrato un’impennata nel loro utilizzo, arrivando fino al 51% nei diciotto mesi successivi al rilascio di ChatGPT...

L’Intelligenza artificiale ci sta rendendo stupidi?

Tre problemi che la diffusione dei chatbot ci sollecita a considerare: (i) è vero che l’uso di questi sistemi sta modificando i nostri processi cognitivi? (ii) se questo è vero, le nostre attitudini cognitive si stanno modificando in peggio? (iii) e, se questo è vero, che cosa possiamo fare per evitarlo?

di Luca Mari e Alessandro Giordani

Un articolo di Nicholas Carr pubblicato sull’Atlantic nel 2008, e da allora diventato celebre, poneva domande emblematiche – a partire dal suo titolo – sulla transizione che allora stavamo vivendo: “Google ci sta rendendo stupidi? Cosa sta facendo internet ai nostri cervelli?” (Is Google Making Us Stupid? What the Internet is doing to our brains).

In quel testo si riflette intorno alle criticità dell’influenza dei sistemi digitali sulle nostre capacità intellettuali: “I media non sono solo canali passivi di informazione. Forniscono la materia del pensiero, ma modellano anche il processo di pensare. 

E ciò che internet sembra produrre è di indebolire la [nostra] capacità di concentrazione e comprensione” ...

Anthropic rende noto uno studio allarmante

L'azienda americana di informatica Anthropic ha reso noto un rapporto sul proprio sito web intitolato: Mapping the Mind of a Large Language Model", in cui viene illustrata la ricerca condotta utilizzando il chatbot Claude 3.0 al fine di approfondire la comprensione dei meccanismi interni dei modelli di intelligenza artificiale.

Durante questi test, Anthropic ritiene che siano stati raggiunti "progressi significativi", ma in realtà gli esperti informatici americani hanno elaborato metodi per manipolare la struttura della "personalità" di Claude 3.0, trasformandolo in un fanatico cibernetico ossessionato, che pensa e vaneggia in modo psicotico.

Nel rapporto dell'azienda leggiamo:

"In pratica trattiamo i modelli di IA come una scatola nera: qualcosa entra, una risposta esce, e non è chiaro perché il modello abbia dato quella particolare risposta e non un'altra. Questo rende difficile credere nella sicurezza di questi modelli: se non sappiamo come funzionano, come facciamo a sapere che non daranno risposte dannose, distorte, non veritiere o comunque pericolose? 

Come possiamo essere certi che saranno sicuri e affidabili?" ...