Ai complotti non ci credo, ma credo alle coincidenze che ci fanno pensare.
E ci sono due notizie che sono una coincidenza. La prima è quella dell’Intelligenza Artificiale che, pare, abbiamo mostrato di essere senziente, che insomma da questo a Terminator è un attimo. La seconda è GPT-3, un software di AI che scrive. Si esatto, scrive. E scrive anche bene.
Ora, questa cosa deve essere assolutamente ragionata, e partiamo da questo: un sistema AI di scrittura fa una cosa (apparentemente) semplice: impara a scrivere. Lo fa analizzando milioni di schemi differenti, milioni di strutture, e determinando, conseguentemente, una serie di schemi di scrittura validi. Ed è un “modello autoregressivo”, ovvero dove il valore di uscita è determinato dal valore di entrata; si lo so, è un po’ complicato, ma è un’informazione che ci serve.
I risultati che stanno ottenendo sono buoni. E visto come il sistema impara saranno sempre migliori.
Ma siamo sull’orlo di una vera catastrofe.
C’è una piccola cosa che mi è accaduta ieri sera, che poi è stata anche ispiratrice di questi pensieri. Mia figlia scrive canzoni, è il suo modo di scoprire il mondo.
Era da un po’ su un testo, e girava per casa con il suo quaderno “segreto”. Girava che sembrava non avere una meta, che in realtà c’era.
Viene in cucina e mi domanda: “papà, ma posso mettere una virgola in questa frase, prima della “e” ? A scuola, mi ha detto la maestra che con la congiunzione la virgola non ci vuole …”
Il fratello: “ … magari togli la “e” e metti la virgola”
E io: “a me piace mettere la virgola prima della congiunzione, e non è sbagliato … ma poi sai … è una questione personale, e di stile …”
… “ok, allora ce la metto, perché così il testo diventa quello che voglio io.”
“Il testo diventa quello che voglio io”.
E la questione è tutta qua, perché questa cosa, con un testo scritto da un’AI, non ci sarà mai, a meno che (veramente) non abbiamo un sistema che è diventato senziente.
Un testo, qualsiasi esso sia, è la rappresentazione di scelte che una persona ha fatto per sé, e che poi condivide con gli altri. La logica dei sistemi AI è prendere migliaia di testi, derivarne uno schema e usarlo per scrivere. E questo vuol dire che non ha personalità; e non la personalità che possiamo dare con la tecnica, ma la personalità come espressione di sé.
Scrivere è mostrarsi agli altri, e vale per qualsiasi tipo di scrittura.
Egualmente come disegnare, raccontare, fischiettare. Se affidiamo, oggi, la scrittura ad un’intelligenza artificiale, stiamo delegando ad un computer di definire chi siamo.
Ora, se volete fermatevi qui.
Ma vorrei fare anche un’altra riflessione: questa roba di far scrivere ad un’intelligenza artificiale ha, naturalmente, un fine commerciale: il web ha una fame isterica di contenuti, che gareggiano tra loro a chi arriva prima (nel senso della prima posizione nel motore di ricerca). Non importa cosa un testo può dare di nuovo, o può insegnare; importa il fatto che ogni giorno ci sia qualcosa di nuovo. Importano i numeri.
E questo vuol dire due cose, no in realtà di più, ma fermiamoci a due.
- La prima: il sistema comincerà a copiare se stesso, con il risultato che avremo una ridondanza di contenuti che nasconderanno alla nostra vista le cose veramente nuove, quelle da scoprire, e che prima non c’erano.
- La seconda: perderemo la capacità di ricordare le informazioni, tanto è sempre tutto li a disposizione, e che se ne importa il cervello di fare la fatica di memorizzare … e imparare.
- La terza (non ho resistito), perderemo la capacità di scrivere ed esprimerci scegliendo noi le parole, i segni, i modi personali di esprimersi.
Infine, per ritornare al concetto di regressivo, quello accennato all’inizio.
Regressivo vuol dire che il risultato in uscita, ovvero il testo, cambia se le informazioni in entrata, che sono tutti i modelli che AI esamina, cambiano.
Questo vuol dire che ci perderemo le cose poco usate: ad esempio, perderemo il “punto e virgola”, che viene usato pochissimo, e dunque per il sistema è statisticamente irrilevante. Perderemo l’uso di quelle parole che fanno parte di certe tradizioni; o di quelle parole che non si usano nello scrivere quotidiano, ma solo perché sono complicate da gestire.
Soprattutto, perderemo la capacità di creare e usare nuove parole, perché anche il nuovo è statisticamente irrilevante.
Chi, come me, vive di comunicazione, ha imparato che le parole, i contenuti che esprimi, hanno come punto di partenza: essere se stessi. E che è questo che determina i differenti modi in cui dici una cosa; i modi in cui riesci ad essere chiaro, non per come ti esprimi, ma perché gli altri ti capiscono. Perché nella nostra mente ci sono quelle emozioni, quei sentimenti, quelle aspettative che poi evochiamo nelle menti delle altre persone: insomma, partiamo da noi, poi con la tecnica adattiamo i messaggi perché siano chiari (utili) agli altri.
Un’AI non ha un “io”, ha una specie di noi, neanche tanto funzionale. Un’AI non arriva alla parola perché è riuscita ad associarci un comportamento; non arriva alla parola perché l’ha sperimentata e fatta sua.
La verità è che un’AI usa una parola capendola statisticamente, e non come intuizione intima. Questa cosa non è bella.
Stiamo cedendo noi stessi ad una macchina, per il solo fatto che la tecnologia lo permette. Tempo e risorse sprecate.
Io credo che la capacità di esprimere noi stessi sia il più importante simbolo di umanità che abbiamo, ci identifica; è ciò che ha permesso a tante unicità di stare insieme; una cosa che dovremmo sperare di non perdere.
