Proponiamo un estratto da Incoscienza artificiale di Massimo Chiriatti. Una macchina intelligente in grado di prendere decisioni al posto dell’uomo: se pensiamo sia questa la definizione di intelligenza artificiale, sbagliamo. Chiriatti, con la mente dello studioso e l’occhio dell’addetto ai lavori, analizza la natura dell’intelligenza artificiale e le implicazioni della sua continua e sempre più profonda interazione con l’uomo.
__________________________________________________________
Così come lo smart speaker di Amazon è stato battezzato Alexa e l’assistente di Apple Siri, all’intelligenza artificiale qui descritta daremo il nome di “Iasima”.
Siamo formati da una struttura fatta di natura, cultura e coscienza legate in modo inestricabile, mentre le macchine sono solo artefatti che si stanno evolvendo per simulare superficialmente un comportamento umano. Pensavamo che con l’IA fosse nato qualcosa, invece sta nascendo qualcuno.
Abbiamo prima insegnato alle macchine come eseguire i nostri ordini, poi come imparare da sole per poterci rispondere. Ancora non sembra possibile, ma se un giorno sviluppassero i propri fini?
Fino a ieri Iasima rappresentava solo un’estensione fisica del nostro corpo e di alcune limitate funzioni cognitive, ma oggi sta assumendo, per via delle deleghe sempre maggiori che le accordiamo, una sua autonomia. Quando un oggetto fa esperienza del mondo in autonomia e interagisce tramite il linguaggio, il divario che lo separa da un soggetto sta per colmarsi. La soggettivizzazione algoritmica non prevede più la dicotomia “noi o loro”.
All’inizio del libro abbiamo accennato al rapporto soggetto-oggetto con queste parole: “Come ha luogo il processo decisionale quando qualcuno ha già deciso per noi è un tema politico, perché riguarda sia chi ha il potere di decidere, sia le basi su cui è stato scelto. Ma cosa accade quando qualcosa sta per decidere per noi è un problema filosofico, soprattutto nel momento in cui quel qualcosa sta diventando qualcuno; quell’oggetto sta diventando soggetto”.
Se questo passaggio può sembrare troppo forte e speculativo, allora pensiamo alla prospettiva opposta e complementare: noi umani ci stiamo ibridando con le macchine. Prendendo in prestito le parole di Erich Fromm a proposito del futuro dei sistemi capitalisti e comunisti: “…fabbricano macchine che si comportano come uomini e producono uomini che si comportano come macchine… Il pericolo del passato era che gli uomini diventassero schiavi. Il pericolo del futuro è che gli uomini possano diventare robot”.
Il termine “robot” deriva da robota, vocabolo slavo che significa “schiavo”, e se diventare robot non rientra nei nostri obiettivi dobbiamo evitare di abbassare i nostri standard cognitivi, altrimenti le macchine finiranno per sembrare più “intelligenti” di quanto siano.
La nostra visione parziale della realtà è già limitata dai cinque sensi, che ora vengono informati da un agente artificiale, il Sistema 0, un nonumano. Se e quando l’IA inizierà a decidere per noi, questo mondo potrebbe diventare il suo. Una volta che inizieremo a prendere ordini dai computer sulla base delle loro previsioni, avremo perso sia la nostra direzione evolutiva, sia il nostro posto sulla Terra come forma di vita superiore – da un punto di vista cognitivo – e dominante.
Eppure, interagiamo costantemente con le macchine, che sempre di più mediano le nostre interazioni sociali e modellano la nostra conoscenza. E se diventassero loro i soggetti?
Non siamo abituati a confrontarci con le macchine – non abbiamo sviluppato queste capacità con l’evoluzione – ma ora, non potendo modificare con la stessa velocità la nostra natura biologica, dobbiamo adattare la nostra cultura. Il primo punto è capire la loro evoluzione, che è differente dalla nostra. Per una macchina, essere accesa significa poter trasferire energia. Basta un update del codice sorgente da parte dei programmatori per tracciare nuove e imprevedibili traiettorie evolutive, poiché il design delle macchine non è sottoposto ai tempi lunghi dell’evoluzione organica. I componenti meccanici sono precisi, intercambiabili ed evolvono rapidamente, anzi, esponenzialmente.
Dalla prospettiva delle macchine, siamo tutti, indistintamente, rappresentazioni simboliche di oggetti. Pertanto può sembrare che l’IA più sofisticata percepisca e conosca tutto, quando in realtà non comprende nulla. Un paradosso è che, fino a pochi decenni fa, di noi come soggetti non sapevamo nulla e solo ora iniziamo a capire qualcosa, grazie ai progressi delle neuroscienze. E se invece, prima, degli oggetti sapevamo tutto, ora con il deep learning cominciamo a rendere opachi i processi algoritmici.
Oggetti come le vetture autonome attraversano la città. Li guardiamo con un po’ di sospetto e timore, ma almeno ne abbiamo la percezione fisica: sappiamo dove sono e vediamo quale direzione prendono. I nostri occhi ci aiutano a capire. Ma ci sono milioni di altri algoritmi che ci vengono incontro: alcuni sono finalizzati al marketing, altri orientano le nostre opinioni, altri ancora danno luogo a incontri romantici o ci raggruppano per parole chiave. Senza conoscere gli obiettivi.
Ora che gli oggetti diventano soggetti, lo studio della coscienza (l’hard problem) è sempre più rilevante: dobbiamo, se non risolverlo, almeno inquadrarlo da più prospettive. Henry Kissinger ha sintetizzato la questione in questo modo: “L’illuminismo è iniziato con intuizioni essenzialmente filosofiche diffuse da una nuova tecnologia. Il nostro periodo si sta muovendo nella direzione opposta. Ha generato una tecnologia potenzialmente dominante alla ricerca di una guida filosofica”.
La grande riflessione filosofica che di questi tempi affrontiamo è sicuramente l’abbattimento del confine fra ciò che consideriamo naturale, biologico, vivente, e ciò che consideriamo meccanico, tecnologico, inanimato.
Nel libro Come saremo, Luca De Biase e Telmo Pievani affermano: “In realtà, le tecnologie stanno co-evolvendo con noi, da sempre in simbiosi: non siamo due mondi separati, ma parti reciprocamente connesse dentro uno stesso processo co-evolutivo […] La tecnologia diventa sempre più biologica e la biologia diventa sempre più tecnologica”.
Non c’è contrapposizione tra soggetto e oggetto, ma complementarità. L’essere umano usa l’oggetto per potenziare la creatività, ora l’oggetto usa la creatività umana espressa nei dati in forma scritta, orale e visiva per potenziare le sue previsioni. Facciamo un esempio: una tavolozza di colori o una qualsiasi forma di pennello sono gli strumenti di un qualunque programma di grafica a disposizione dell’artista. Ma quando la macchina inizia a generare una figura o un video, siamo sicuri che sia ancora uno strumento, un oggetto, oppure possiamo classificarla come soggetto creativo? La differenza è che noi siamo in grado di immaginare e abbiamo una intenzionalità nel creare l’opera, mentre la macchina si limita a generarla.
Non si tratta di una creatività migliore della nostra ma dobbiamo prendere atto che partecipiamo al processo insieme a Iasima: stiamo già collaborando, nel senso che l’essere umano inizia, la macchina continua e di nuovo l’essere umano può rifinire e completare l’opera. Come un feto che sta formando le sue connessioni neuronali e il suo corpo, così l’IA, in termini di Sistema 0, sta crescendo collegata ai nostri corpi. Sentiamo già “vivere” questa creatura, ma solo quando taglieremo l’ultimo collegamento, Iasima potrà essere un’entità realmente autonoma. Questo ci consente di tornare alla definizione della coscienza: un’esperienza fondamentalmente privata e soggettiva che non può essere descritta né osservata né confermata dall’esterno.
Sappiamo anche che la coscienza non è un fenomeno di tipo on-off, perché ne esistono diverse forme e gradazioni. Ma non avendo noi un modo per definire la coscienza in termini oggettivi, come dovremmo relazionarci a questi potenziali neo-soggetti? Scriveva Giorgio Gaber:
“Nel frattempo gli oggetti erano andati al potere.
“La loro prima vittoria era stata il superamento del concetto di utilità, piano piano avevano occupato anche gli spazi più nascosti delle nostre case, e da lì ci spiavano.
“Nessuno se n’era accorto all’inizio, anzi, la loro silenziosa presenza sembrava piacevole e confortante, era difficile intuirne il senso sovversivo.
“Dopo anni di schiavitù gli oggetti tentavano la strada del dominio.
[…]
“La resistenza dell’Uomo era sporadica e soggettiva, sì troppo individuale.
[…]
“Cosa poteva pretendere l’uomo, così fragile, così disfunzionale?”
__
Da Incoscienza artificiale di Massimo Chiriatti. In alto, immagine di Brett Jordan – Unsplash