Ho letto qualche giorno fa la notizia di un episodio, che ritengo piuttosto grave, in cui un assistente vocale casalingo ha suggerito ad una bambina un’azione molto pericolosa: toccare con una moneta i poli di una spina della corrente inserita a metà. Colpevole è stata Alexa, l’assistente vocale tuttofare ormai presente in moltissime case; dopo l’accaduto Amazon ha aggiornato il software del suo device, per evitare che in futuro suggerisca sfide pericolose. Nel fatto citato l’intelligenza artificiale aveva proposto ad una bambina di provare la cosiddetta “penny challenge”, una sfida che consiste nell’inserire un carica batterie del telefono in una presa fino a metà e di toccare con una moneta i poli esposti. La bambina ha chiesto di partecipare ad una sfida che aveva trovato sul web e Alexa l’ha accontentata. Fortunatamente la madre si è accorta e ha impedito che accadesse qualcosa di grave, poiché i metalli conducono elettricità e inserirli in prese può causare incendi e folgorazioni mortali. Perché ho riportato questo episodio? Perché i progressi in campo informatico stanno creando intelligenze artificiali sempre più performanti ma tra intelligenza e coscienza c’è un abisso. La discussione e le ipotesi sulla sua fattibilità hanno radici profonde, sin dal decennio 1940-1950, in cui un preveggente Isaac Asimov scrisse le 9 storie di “Io, robot”, una raccolta di racconti di fantascienza che ha per protagonisti dei robot positronici. Nel libro la tematica principale è il timore che un giorno i robot, le macchine, possano sostituire l’uomo. L’autore esorcizza questa paura confidando nell’uomo che con la sua intelligenza, può fare molto di più ed è superiore ai robot. Con una lungimiranza quasi profetica, Asimov affermava con forza che l’uomo deve riuscire a mantenere questa superiorità e vivere la vita aiutato dai robot, ma solo in mansioni che questi possano svolgere senza dover prendere decisioni di tipo etico. La mia domanda quindi è: un giorno i robot avranno una coscienza? E come la controlleremo? Dove porteranno le sperimentazioni sui circuiti ibridi fatti crescere su cellule nervose? È un futuro intrigante, anzi inquietante, che ci fa dimenticare che la coscienza è un mistero per gli stessi esseri viventi, figuriamoci per una macchina. La capacità di sentire, di provare qualcosa, è riservata per ora agli organismi viventi dotati di un sistema nervoso complesso, perché essere coscienti vuol dire “sentire qualcosa”. Avere sensazioni prima fisiche, che diventano psichiche, vuol dire avere un sistema sensoriale e nervoso complessissimo, come solo quello umano rappresenta e per avere macchine che siano in grado di sentire, di elaborare ed esprimere risposte coscienti, sarà necessario un corpo che interagisca con l’ambiente e con altri simili. L’efficienza delle interazioni di tipo sociale sarà ottenuta quando le intelligenze artificiali possiederanno una forma di coscienza fenomenica; provare qualche cosa e far diventare questo un modello, permetterà alle macchine di sentire gli altri e quindi immaginare i loro stati mentali. E quando questo avverrà, anche le interazioni sociali saranno diverse, perché non reagiranno semplicemente a quello che fa un’altra creatura ma la risposta sarà in virtù di comportamenti frutto di un’azione intenzionale: cioè che l’intelligenza artificiale prova e sente qualcosa: dolore, felicità, pensiero, convinzione, speranza. Come non pensare al computer Al di “2001 Odissea nello spazio”, di Stanley Kubrick, in cui il computer di bordo dell’astronave uccide uno ad uno tutti i componenti dell’equipaggio, che si sono accorti di suoi comportamenti pensanti anomali? Quando costruiremo macchine che capiscono che altre creature desiderano, allora sapremo che avranno evoluto la coscienza. È un futuro entusiasmante ma che fa paura, noi informatici siamo abituati ad un meccanismo di causa effetto: programmiamo una macchina e gli insegniamo a fare delle cose, ma solo quelle e come conseguenza di un nostro input; qui si tratta di vedere agire macchine si costruite da noi, ma in grado, una volta create, di agire secondo una propria scelta, in base agli algoritmi di autoapprendimento sui quali si basano le applicazioni di Machine Learning. Esperti di robotica hanno creato “macchine biologiche” in grado di riprodursi: gli xenobot capaci di comportarsi come semplicissimi organismi vitali: che siano gli antesignani di futuri organismi ibridi? Aspettiamo, considerando la velocità dei progressi in questo campo, dovrei riuscire a vederne i frutti. In sintesi, qual è l’insegnamento che possiamo trarre da tutto ciò? Che esiste un “effetto Matrix”, facendo riferimento alla popolare trilogia cinematografica? In effetti le cellule vivono una neuro-simulazione indotta da altri, quindi Matrix è una realtà a cui bisogna iniziare a credere sul serio? Direi di no, perché nel caso di Matrix qualcuno dall’esterno ha creato la matrice e la realtà per gli esseri umani, per noi esseri umani reali, Matrix è semplicemente il risultato dei processi randomici della selezione naturale, perché tutto quello che sappiamo è frutto della raccolta dati di milioni di fibre nervose dall’ambiente circostante: calore, temperatura, pressione, dolore, piacere, che noi elaboriamo e traduciamo in azioni da inserire nel database dell’esperienza. Volendo riferirmi ad una trilogia che amo molto: si, in un certo senso siamo già dentro Matrix, perché quando percepiamo qualcosa essa rappresenta la realtà ultima; l’immagine, la sensazione, l’emozione non sono altro che un’icona sullo schermo del mio computer mentale, quello che l’evoluzione di 500 milioni di anni ha prodotto affinché potessimo sopravvivere e continuare la specie. Quello che dovranno imparare a fare le macchine è esattamente questo. Ci riusciranno? Si! Quando? Non tra molto tempo ma auspico che dietro di esse resti sempre la nostra presenza e che la coscienza che li spinge ad agire sia la nostra, non la loro.
