di Raffaele Chiappini
Sono diversi anni ormai che siamo bombardati da nuove scoperte tecnologiche e nuove idee di tecnologia che guiderà il futuro, ma in questo contesto di continuo e velocissimo miglioramento emerge un pensiero: Cos’è che stiamo creando realmente? Questa è la domanda principale che guiderà questo articolo nell’esplorare attraverso altre domande l’essenza profonda di queste nuove tecnologie ed innovazioni così grandi da cambiare radicalmente il panorama lavorativo, sociale e la concezione stessa del lavoro umano. Forse non tutti di voi sanno quali sono le radici storiche e scientifiche che hanno portato alle scoperte di questi anni ma, ai fini della comprensione di questo articolo, basta sapere che è dagli anni ’90 che si lavora su Intelligenza Artificiale e Reti Neurali.
Fino a qualche anno fa era tutto mantenuto nei laboratori di ricerca e nei contesti accademici perché non si era ancora raggiunto un livello di interazione tale da rendere questa tecnologia alla portata di tutti. Il passaggio cruciale avviene qualche anno fa quando si inizia a lavorare ad Intelligenze Artificiali che possono capire ed elaborare il linguaggio naturale umano; è questo il punto cruciale di questa rivoluzione: poter dialogare con la tecnologia nel modo in cui si dialoga con le altre persone. Questo può sembrare un concetto banale ma è profondamente rivoluzionario perché prima si poteva dialogare con la tecnologia solo attraverso righe di codice perciò era fondamentale il lavoro di chi conosceva questo tipo di linguaggio per pòrsi come intermediario fra le idee, la fantasia umana e la tecnologia, la quale fungeva solo da attuatore delle idee e del pensiero umano. Il fatto che ora una persona può parlare con la tecnologia come parla con una persona cambia il ruolo dell’intermediario che da interprete assolutamente necessario si trasforma in mediatore che permette alle persone di esprimersi nel modo più specifico e corretto, per rendere più efficace l’interazione uomo-macchina.Ora cerchiamo di capire perché si è voluto fare questo salto innovativo e che cosa guida veramente questa rivoluzione. Il concetto che è importante capire è che queste tecnologie, Intelligenze Artificiali in particolare, sono delle nuove entità digitali che possono in qualche modo elaborare e creare collegamenti fra concetti ed azioni; ma se ci pensiamo questo è quello che accade nei bambini che al momento della nascita sono delle “scatole vuote” incapaci di distinguere cause e conseguenze, moralità ed etica. A questo punto viene da chiedersi: cos’è che permette ad un bambino di evolversi e quindi iniziare a creare connessioni? Alcuni potrebbero dire che avviene grazie all’educazione o alla società in cui essi crescono, ma non è così semplice e ce lo dimostrano le nuove generazioni, le quali nascendo in un mondo globalizzato hanno fin da piccoli la conoscenza di un mondo che va molto oltre la famiglia e la società in cui vivono.
Perciò la risposta più corretta è che questa evoluzione scaturisce dalle percezioni: udito, vista, tatto, gusto, olfatto; e dalla moralità. Quest’ultima è assolutamente fondamentale e si sviluppa nel tempo, cambia, subisce deviazioni ed è influenzata da molti fattori che non approfondiremo ora. Per dare una risposta alla nostra domanda cruciale possiamo limitarci alle percezioni. Con l’avvento di sensori di ogni genere le percezioni possono essere replicate e trasformate in informazioni da sottoporre alle tecnologie, ma come avviene questo passaggio? Attraverso modelli di apprendimento, delle schede analitiche che permettono ad un sistema digitale di elaborare un set di informazioni classificandole in base a dei criteri. A questo punto entra in gioco l’apprendimento, un processo articolato che per i bambini necessita di diversi anni di istruzione nei quali imparano a classificare, elaborare e memorizzare le informazioni attraverso modelli; questo processo però, a differenza degli uomini, per le Intelligenze Artificiali avviene in tempi molto brevi e questo permette una crescita esponenziale della loro capacità permettendo la creazione di quelli che al giorno d’oggi sono i potenti sistemi di Intelligenza Artificiale che utilizziamo. Questi sistemi sono in grado di capire il linguaggio naturale, elaborarlo e confrontarlo con le informazioni apprese durante le fasi di addestramento per generare risposte coerenti e connesse, ma sono anche in grado di stabilire da soli azioni da svolgere per raggiungere degli obiettivi.Questo è estremamente simile a ciò che fanno le persone ma a questo punto entra in gioco la moralità che può modificare obiettivi ed azioni in base a dei principi che non possono essere esemplificati in modelli, almeno non tutti. Proviamo a pensare ad una situazione atipica ed estremizzata: immaginiamo di addestrare una IA a cercare, memorizzare ed elaborare informazioni prese da internet riguardo gli ultimi 200 anni di storia dell’umanità e poniamogli la domanda “come risolveresti il problema della fame nel mondo?” Una risposta puramente analitica potrebbe essere “uccidiamo un certo numero di persone e suddividiamo in maniera eguale le risorse ai restanti”; l’IA in questo modo ha elaborato un obiettivo, in pochi secondi ha svolto i calcoli ed ha definito le azioni da intraprendere per raggiungere l’obiettivo. Ma cosa succede nell’uomo che legge la risposta? Ovviamente la sua moralità gli impedisce di accettare questa soluzione come valida e non la attuerà, anzi cercherà di trasmettere la sua moralità all’IA per evitare che possa proporre ancora questa soluzione come valida.
Allora possiamo dire che quell’uomo ha ostacolato la fine della fame del mondo?
E se invece di un singolo uomo ci fosse una commissione di persone davanti a quello schermo? Ne nascerebbe una discussione, un dibattito di moralità.
A quel punto potremmo immaginare che succeda una cosa curiosa: l’Intelligenza Artificiale, osservando la discussione del dibattito fra queste persone attraverso i suoi sensori, non avrebbe la capacità di comprendere i motivi che spingono quelle persone a discutere perché non ha informazioni sulla moralità. È veramente così? Oppure le ha? Dopotutto, ha memorizzato tutte le informazioni di internet e lì ci sono moltissime informazioni riguardo la moralità e l’etica, la religione, la politica. Possiamo veramente dire che questi sistemi digitali non possiedono moralità ed etica anche se gli abbiamo dato tutti gli strumenti necessari ad elaborare le informazioni al riguardo? La capacità di elaborare un pensiero proprio riguardo ad esse, succede come nei bambini… Questa provocazione è volta a stimolare il lettore ad analizzare in maniera più profonda l’essenza di questa innovazione tecnologica per giungere ad una delle domande che deve guidare questo processo di innovazione, cioè: Possiamo controllare quali sono le informazioni e i collegamenti elaborati da questi sistemi? Dove sono?
Se risiedono nei codici sorgente dei sistemi digitali allora bisogna indagare, analizzare i dati per capire meglio come ragionano e come sono arrivati a questi modelli di pensiero. Inoltre, viene da chiedersi se tali sistemi digitali siano strettamente legati alla loro programmazione originale. La scienza e la documentazione relativa alla creazione di queste tecnologie ci dice che non è così che vengono addestrati e codificati per evolversi da soli con il susseguirsi delle interazioni e che questa evoluzione avviene anche nell’intervallo tra un messaggio e l’altro, tra una domanda e una risposta ed è difficile poter analizzare tutti questi dati in modo comparato e collegato. Immaginiamo di avere a disposizione un sistema di intelligenza artificiale grezzo senza apprendimento pregresso e di voler insegnare a questo sistema come distinguere una balena, una donnola ed un cammello. Ovviamente bisogna prima insegnare al sistema quali sono le caratteristiche che li accomuna in modo tale che analizzando tutte le caratteristiche di questa entità lui possa saper analizzare tratti comuni e ricavare per esclusione i non comuni.
Insegneremo perciò al sistema che tutte queste tre entità hanno in comune il fatto di avere una gobba, che sono animali, che respirano attraverso l’aria e così via; ma non abbiamo finito perché a questo punto l’IA non sarà comunque in grado di fare una distinzione netta fra queste tre entità, potrà solo dirci quali sono le caratteristiche comuni e non comuni. Dovremmo quindi insegnargli attraverso dei dialoghi che la differenza vera fra questa entità risiede nella loro essenza complessiva composta da caratteri somatici, capacità di pensiero, comportamenti e istinti. Infine, dopo aver svolto tutto questo susseguirsi di insegnamenti il sistema sarà in grado di operare una distinzione fra queste tre entità.Ora la domanda è: a questo punto avrà raggiunto l’autonomia decisionale per poter agire in conseguenza di questa distinzione?
Se venisse posta una domanda all’ IA chiedendogli se una diversa classificazione degli animali, basata su ciò che ha imparato nell’ interazione con noi, potrebbe essere migliore ai fini dello sviluppo dell’uomo e lui rispondesse sì iniziando a distinguere tutto il regno animale tra entità con la gobba e senza; allora questo ragionamento sarebbe da considerarsi valido? Non c’è una risposta perché per poterne dare una dovremmo valutare le conseguenze dell’attuazione di questa distinzione. Per un umano c’è la possibilità di immaginarequali sarebbero le conseguenze nella società dell’attuarsi di questa nuova classificazione e della catena di eventi che ne discenderebbe. E qui torna a farsi valere la morale, l’etica ed i valori sociali che influenzerebbero la decisione dell’uomo in merito all’attuazione o meno di questa nuova classificazione. Fornendo a sistemi digitali le capacità di percezione e di analisi delle informazioni derivate da queste percezioni, essi possono raggiungere un certo grado di intelligenza intesa come capacità di creare connessioni, elaborazioni critiche basate su determinati regole definite a priori, ma che in assenza di correzioni operate dall’uomo basate su valori sociali, morali ed etici non possono tradursi in reali cambiamenti. Siamo dunque ad un punto in cui l’autonomia decisionale delle Intelligenze Artificiali è limitata, nel senso che necessita dell’approvazione dell’uomo, poiché l’uomo è il detentore della capacità critica di discernere soluzioni giuste e sbagliate e di guidare l’attuazione delle azioni suggerite da questi sistemi. Eppure, il percorso evolutivo di queste tecnologie ci suggerisce che il culmine del progresso ci sarà quando saranno i sistemi digitali a detenere tutte le capacità decisionali per servire l’uomo, che a quel punto avrà solamente la capacità di accendere e spegnere l’interruttore che gli fornisce energia.
Allora la risposta alla nostra domanda iniziale: “Cos’è che stiamo creando realmente?” è evidente che non esiste ed il motivo è semplice: Non sappiamo prevedere fino a che punto il controllo umano influirà sull’avanzamento evolutivo delle capacità decisionali delle Intelligenza Artificiali. Tutto ciò che possiamo certamente controllare, per ora, è come accendere e spegnere questi sistemi ed in parte se attuare o meno i ragionamenti da loro elaborati. Ma siamo sicuri che basti?lQuesto articolo è scritto non per informare ma per stimolare a ragionare. Al giorno d’oggi con pochi click è possibile sapere tutto riguardo quasi ogni cosa, possiamo facilmente scaricare i documenti relativi ai processi di addestramento delle IA, studiare e capire quali sono i procedimenti tecnici che permettono a questi sistemi di esistere ed imparare sempre di più, possiamo anche indagare su come l’uomo vigila il loro operato ponendo limitazioni. Quest’ ultimo punto dell’articolo è forse il più controverso perché le limitazioni sono storicamente sempre un’arma a doppio taglio e voglio affrontarlo con voi ragionando con la similitudine fatta in precedenza tra IA e bambini. Limitare una IA è un po’ come dire ad un bambino: “Non dire parolacce”, “Non mangiare troppe caramelle”; eppure, i bambini ad un certo punto si ribellano, escono fuori dagli schemi prestabiliti, sperimentano la violazione delle regole. Che sia per curiosità o per errata valutazione delle conseguenze loro lo fanno comunque, consapevoli che non dovrebbero. Spesso noi non notiamo come queste frasi manchino di qualcosa: “Non devi fare questo!”, se ci pensiamo è facile ed immediato arrivare a quello che manca: “E perché?”, che tradotto in qualcosa di più collegato ad una Intelligenza Artificiale: “in base a cosa stabilisci che non devo farlo?”. Questa è una domanda che spesso i bambini fanno e la cui risposta, alla fine, non è mai una vera risposta.
