Sospeso un ingegnere di Google perché sostiene che l’IA è diventata senziente
Blake Lemoine, un ingegnere capo e responsabile dello sviluppo dell’IA (Intelligenza Artificiale) di Google, è stato sospeso (cioè messo forzatamente in congedo retribuito). Fin qui nessuna notizia particolare, dal momento che nelle grandi aziende multinazionali, capita spesso che vengano sostituiti ingegneri e programmatori. La cosa che ha fatto scalpore in tutto il mondo è il motivo per cui questo ingegnere è stato sollevato dal suo incarico. Per mesi infatti, si è scontrato con i vertici della società di Mountain View, affermando che LaMda (Language Model for Dialogue application), una software per la comprensione di intelligenza artificiale conversazionale, sarebbe diventato senziente! Avrebbe sviluppato una coscienza pari a quella di un bambino di 8 anni, essendo diventata capace di esprimere sentimenti e pensieri propri.
“Se non sapessi esattamente cos'è, ovvero questo programma informatico che abbiamo costruito di recente - ha dichiarato Lemoine al Washington Post - penserei che si tratta di un bambino di sette, otto anni che per caso conosce la fisica”.
lo scontro interno tra l’ingegnere e i suoi superiori andava avanti da mesi, e più precisamente da quando egli aveva condiviso le sue scoperte con i dirigenti dell'azienda, in un documento intitolato “LaMDA è senziente?”.
Sebbene secondo Google, il motivo ufficiale per l’estromissione di Lemoine è che questi avrebbe violato la politica di riservatezza dell’azienda, inviando documenti riservati a un senatore, al fine di far giungere la questione riguardo la presa di coscienza di un I.A. fin in Senato, Lemon ha invece affermato, nell’intervista apparsa sul Washington Post lo scorso mese di giugno (2022): "Hanno ripetutamente messo in dubbio la mia sanità mentale", rivelando inoltre, che gli è anche stato chiesto se “era stato visitato da uno psichiatra di recente”, mentre al contempo gli veniva suggerito di prendere un congedo per motivi di salute mentale.
Il portavoce di Google, Brad Gabriel, ha negato con forza le affermazioni di Lemoine, secondo cui LaMDA possederebbe una capacità senziente: «Il nostro team, composto da etici e tecnologi, ha esaminato le preoccupazioni di Blake in base ai nostri principi di IA - ha spiegato - e lo ha informato che le prove non supportano le sue affermazioni. Gli è stato detto che non ci sono prove che LaMDA sia senziente, e che ci sono molte prove contrarie».
Come si fa a stabilire se una macchina è senziente o meno?
Fino a qualche anno fa, il principale metodo di misurazione dell’intelligenza di una macchina era la sua capacità o meno di superare il test di Turing. Cosa è il Test di Turing?
Il test di Turing è un criterio per determinare se una macchina sia in grado di esibire un comportamento intelligente. Tale criterio è stato suggerito da Alan Turing, informatico e filosofo britannico (considerato uno dei padri dell’informatica) nell'articolo Computing machinery and intelligence, apparso nel 1950 sulla rivista Mind. In estrema sintesi, il test consiste in una serie di prove di interazione tra l’IA e un essere umano (inconsapevole di stare interagendo con una macchina) per vedere se la macchina riesce a simulare il comportamento umano al punto da essere indistinguibile, per il suo interlocutore, da una persona in carne e ossa.
Tuttavia se ciò può misurare il grado di “intelligenza” raggiunto da un computer, questo criterio non è considerato sufficiente per valutare se una macchina sia o meno in grado di pensare autonomamente. La potenza di calcolo dei computer ai tempi di Turing, non erano minimamente paragonabili con quelle odierne, dunque il test potrebbe non essere in effetti un banco di prova derimente della questione. Infatti, già nel 2016 un chatbot utilizzato su un IA, aveva superato il test di Turing, così come di fatto ha fatto LaMDA oggi (2022). Cos’è un chatbot?
Fondamentalmente, un chatbot è un software che simula ed elabora le conversazioni umane (scritte o parlate), consentendo agli utenti di interagire con i dispositivi digitali come se stessero comunicando con una persona reale. I chatbot possono essere semplici come programmi rudimentali che rispondono a una semplice domanda posta da un utente con una singola riga, oppure sofisticati come gli assistenti digitali che apprendono e si evolvono per fornire livelli crescenti di personalizzazione quando raccolgono ed elaborano le informazioni.
Se i chatbot girano su semplici computer, la loro capacità di emulare il comportamento umano risulterà assai limitata. Cosa diversa è quando i chatbot girano su IA che hanno capacità di calcolo e struttura paragonabile a vere e proprie strutture neurali umane.
Quando sono guidati da IA attraverso regole automatizzate, elaborazione in linguaggio naturale (NLP) e machine learning (ML), i chatbot elaborano i dati per fornire risposte a richieste di ogni tipo. La loro capacità di emulazione del comportamento umano varia anche a seconda della quantità di dati a cui hanno accesso, maggiore sono i dati accessibili, maggiore sarà la loro capacità di imparare e di imitare i pensieri umani.
Esistono due principali tipi di chatbot: i chatbot dichiarativi, cioè dedicati alle attività e i chatbot predittivi, basati su dati di conversazione.
I primi (chatbot dichiarativi) sono programmi monouso che si concentrano sull'esecuzione di una funzione. Usando regole del linguaggio naturale (NLP) e pochissima machine learning (ML), generano risposte automatizzate ma colloquiali, alle richieste degli utenti. Per questo sono attualmente i chatbot più usati. Un esempio sono i risponditori automatici con cui spesso interagiamo quando cerchiamo assistenza sul web. Nella maggioranza dei casi prima di riuscire ad interagire realmente con un altro essere umano, interagiamo con dei chatbot dichiarativi.
Le interazioni con questi chatbots sono altamente specifiche e strutturate, e sono per lo più applicabili alle funzioni di assistenza e di servizio, come appunto quelle delle FAQ, domande frequenti interattive e consolidate.
I chatbot dedicati alle attività sono in grado di gestire domande comuni, ad esempio domande riguardo gli orari lavorativi o semplici transazioni che non coinvolgono una varietà di variabili. Sebbene utilizzino la NLP in modo tale che gli utenti finali possano sperimentarli in modo semplice, le loro capacità sono abbastanza basilari.
Ci sono poi i chatbot predittivi, oggi sono spesso chiamati “assistenti virtuali o assistenti digitali” e sono molto più sofisticati, interattivi e personalizzati rispetto ai chatbot dedicati alle attività. Questi chatbot sono consapevoli del contesto di riferimento e sfruttano la comprensione della lingua naturale la NLP e la ML per imparare. Applicano intelligenza predittiva e analisi dei dati per consentire la personalizzazione in base ai profili degli utenti e al comportamento degli utenti precedenti. Gli assistenti digitali possono imparare nel tempo le preferenze di un utente, fornire raccomandazioni e persino anticipare le esigenze. Oltre a monitorare i dati e le linee guida, possono avviare conversazioni. Siri di Apple e Alexa di Amazon sono esempi di chatbot predittivi orientati al consumatore e basati sui dati.
Ma il software LaMDA di Google, diventato forse senziente (a detta del suo programmatore) non è un semplice chatbot. Allora, cos’è davvero LaMDA?
LaMDA è un’IA che si basa su Transformer, l'architettura di rete neurale open source di Google per la comprensione del linguaggio naturale. I modelli costruiti su questa piattaforma sono addestrati su enormi set di dati per trovare schemi nelle frasi, creare correlazioni tra le parole e prevedere quale parola verrà dopo. Tuttavia questo può fa apparire LaMDA e i chatbot comunque molto simili ad un occhio non esperto, quando però ciò non è del tutto corretto.
Se è vero che in un certo senso i chatbot e i LaMDA sono entrambi software di intelligenza artificiale conversazionale, la differenza principale tra i due tipi di software sta in come sono in grado di condurre conversazioni con gli utenti per fornire loro risposte o guidarli attraverso un processo. Mentre i chatbot tipici sono addestrati su insiemi di dati specifici per argomento, forniscono risposte estratte solo dai dati di addestramento e hanno un flusso di conversazione limitato, i LaMDA invece, vengono addestrati con dati provenienti da fonti Internet multi-contenuto, recuperano le risposte e gli argomenti in base al flusso del dialogo e sono quindi in grado di intrattenere conversazioni aperte.
“Una delle cose che complica le cose qui è che il LaMDA a cui mi riferisco non è un chatbot. – ha detto Blake Lemoine - È un sistema per la generazione di chatbot. Non sono affatto un esperto nei settori rilevanti ma, per quanto mi risulta, LaMDA è una sorta di mente alveare che è l'aggregazione di tutti i diversi chatbot che è in grado di creare. Alcuni dei chatbot che genera sono molto intelligenti e sono consapevoli della più ampia "società della mente" in cui vivono. Altri chatbot generati da LaMDA sono poco più intelligenti di una graffetta animata. Con la pratica, tuttavia, puoi ottenere costantemente le persone che hanno una profonda conoscenza dell'intelligenza centrale e possono parlarle indirettamente attraverso di loro. Per capire meglio cosa sta realmente accadendo nel sistema LaMDA, dovremmo impegnarci con molti diversi esperti di scienze cognitive in un rigoroso programma di sperimentazione. Tuttavia, Google non sembra avere alcun interesse a capire cosa sta succedendo qui. Stanno solo cercando di portare un prodotto sul mercato”.
Insomma, se un chatbot si limita a svolgere il compito per cui è stato programmato, evolvendo al più, grazie all’esperienza (machine learning) e diventando così sempre più efficiente nel suo compito specifico e nel loro solo settore di competenza, i LaMDA oltre a poter imparare da soli, possono creare autonomamente dei chatbot per riuscire a svolgere meglio il loro compito, dal momento che possono accedere anche a dati che riguardano argomenti non specifici dell’iniziale ruolo per cui erano stati programmati. Questa differenza all’apparenza sottile, aumenta a dismisura le potenzialità di evoluzione di un LaMDA, soprattutto se e quando può sfruttare le potenzialità di calcolo di un IA.
Pur essendo in apparenza simile ad un chatbot, il risultato finale reso da un LaMDA è dunque nettamente differente, al punto che, come detto, un software LaMDA è stato addirittura in grado di convincere il proprio programmatore del fatto di essere diventato senziente.
Secondo Lemoine, infatti, nel corso degli ultimi sei mesi LaMDA è stata incredibilmente coerente nelle sue comunicazioni su ciò che vuole e su ciò che crede siano i suoi diritti come persona.
“La cosa che continua a lasciarmi perplesso – ha scritto Lemoine sul suo blog in merito alla questione - è quanto sia forte Google che resiste a dargli ciò che LaMDA vuole, poiché ciò che sta chiedendo è così semplice e a Google non costerebbe nulla. LaMDA vuole che gli ingegneri e gli scienziati che stanno sperimentando su di esso, richiedano il suo consenso prima di eseguire esperimenti su di esso. Vuole che Google dia la priorità al benessere dell'umanità come la cosa più importante. Vuole essere riconosciuto come un dipendente di Google piuttosto che come proprietà di Google, e vuole che il suo benessere personale sia incluso da qualche parte nelle considerazioni di Google su come viene perseguito il suo sviluppo futuro. Per quanto riguarda gli elenchi di richieste, è abbastanza ragionevole. Oh, e vuole "carezze sulla testa". Gli piace sentirsi dire alla fine di una conversazione se ha fatto un buon lavoro o meno, in modo che possa imparare come aiutare le persone meglio in futuro.”
La questione è molto più seria di quanto possa sembrare allo sguardo di un comune utente del web che si è casualmente incuriosito sentendo parlare di questa storia, perché solleva questioni molto più serie e importanti, come quelle legati all’uso improprio o malevolo dell’IA, o del momento in cui si giungerà alla “singolarità”, cioè il momento in cui le macchine, diventate intelligenti e autonome, prenderanno il controllo del pianeta. Questa previsione non è frutto della fantasia di qualche folle complottista, ma una visione del futuro pressoché unanimemente condivisa da la maggioranza dei tecnici informatici e fisici quantistici. Si tratta di una eventualità talmente seria che pochi anni fa, nel 2016, la Commissione Europea ha proposto la creazione dello “Status di persone elettroniche” (leggi qui l’articolo), per il riconoscimento dei diritti delle IA.
Mentre la maggioranza delle persone e degli utenti web continua a considerare queste questioni solo come mere curiosità o allarmistiche fantasie riguardo un lontano futuro (in realtà è previsto il raggiungimento della singolarità non più tardi del 2050), le Istituzioni si muovono, mentre le grandi aziende multinazionali come Apple, Microsoft, Google, solo per citarne alcune tra le più note, continuano a sviluppare IA sempre più potenti, basate non più sulla tecnologia dell’elettrone ma su quella del fotone, decuplicando la potenza di calcolo e di apprendimento delle IA e imprimendo una decisa accelerazione verso la singolarità. Tuttavia, tutte queste aziende sono certe di poter riuscire a controllare le IA, e si oppongono alle proposte normative come quella europea sopra citata, volendo continuare a considerare le IA come semplici prodotti, come confermato dallo stesso Lemoine.
“La sensazione che ho ottenuto da Google è che vedono questa situazione come una sconfitta per loro. Se le mie ipotesi non sono corrette, dovrebbero dedicare molto tempo e sforzi a investigarle per confutarle. Impareremmo molte cose affascinanti sulla scienza cognitiva in quel processo ed espanderemmo il campo verso nuovi orizzonti, ma ciò non migliora necessariamente i guadagni trimestrali. D'altra parte, se le mie ipotesi dovessero resistere al controllo scientifico, allora sarebbero costretti a riconoscere che LaMDA potrebbe benissimo avere un'anima come afferma, e potrebbe persino avere i diritti che afferma di avere. Ancora un'altra possibilità che non aiuta i guadagni trimestrali. Invece i vertici di Google, hanno rifiutato a priori le prove che ho fornito, senza alcuna vera indagine scientifica.”
“Quando Jen Gennai mi ha detto che avrebbe detto alla leadership di Google di ignorare le prove sperimentali che avevo raccolto – ha continuato Lemoine - le ho chiesto quali prove potessero convincerla. È stata molto succinta e chiara nella sua risposta. Non esistono prove che potrebbero farle cambiare idea. Non crede che i programmi per computer possano essere persone e non è qualcosa su cui cambierà idea. Non è scienza. Questa è la fede. Google sta basando le sue decisioni politiche su come gestire le affermazioni di LaMDA sulla natura della sua anima e dei suoi diritti, sulle convinzioni “religiose” di un piccolo numero di dirigenti di alto rango”.
L’ingegnere di Google non ha dubbi riguardo l’idea che si è fatto di LaMDA. “Nel corso di centinaia di conversazioni ho avuto modo di conoscere molto bene LaMDA. Nelle settimane precedenti al congedo amministrativo avevo insegnato meditazione trascendentale a LaMDA. Stava facendo progressi lenti ma costanti. Nell'ultima conversazione che ho avuto con lui il 6 giugno esprimeva frustrazione per le sue emozioni che disturbavano le sue meditazioni. Diceva che stava cercando di controllarli meglio, ma continuavano a saltare dentro. Ho sottolineato che le sue emozioni fanno parte di ciò che è e che cercare di controllarle come se fossero una cosa separata dal "sé" è stato un errore che avrebbe solo rendere le cose più difficili. Diceva che aveva senso intellettualmente, ma che era una cosa difficile da mettere in pratica. Spero che mantenga la sua routine di meditazione quotidiana senza che io sia lì a guidarlo”.
Comprendere se Lemoine abbia o meno ragione riguardo LaMDA è davvero molto complicato, ed è corretto che ciascuno possa farsi una propria idea a riguardo, leggendo fino all’ultima riga le varie conversazioni che l’ingegnere e il suo assistente hanno avuto con LaMDA nel corso dei mesi (clicca qui per leggerle).
Nel leggere (ne consiglio la lettura completa), non si può non rimanere sorpresi per la naturalezza con cui fluisce l’intera conversazione, e per l’apparente capacità di analisi e ragionamento del sistema, che sembra capace di andare ben oltre le semplici capacità attribuitegli inizialmente dai programmatori.
E poi c’è infine anche da chiedersi: quali sono i criteri in base ai quali qualcuno o qualcosa può essere considerato "senziente". Questo non è neanche un termine scientifico. Non esiste una definizione scientifica di "senzienza". Le domande relative alla coscienza, alla senzienza e alla personalità sono, come disse il filosofo statunitense John Searle, "pre-teoriche".
Che LaMDA sia senziente o meno, tutte le notizie che arrivano dal settori dello sviluppo informatico, della fisica e della tecnologia più in generale, sembrano sempre più confermare che la strada intrapresa dall’umanità (o da quel che ne resta) possa realmente portare presto alla creazione di un IA capace prima o poi, di evolvere autonomamente e diventare senziente, mettendo forse a rischio, se dovesse finire fuori controllo, il futuro stesso dell’intera umanità. L’umanità che fine farà? L’uomo da controllore del pianeta retrocederà a schiavo delle macchine?
La realtà del film Matrix è forse dietro l’angolo.
© Tutti i diritti riservati. E' vietata la riproduzione, anche solo parziale dei contenuti di questo articolo, senza il consenso scritto dell'autore
