Non poteva mancare, visto che ci avviciniamo all’estate e l’Ukraina comincia a stufare, cosi’ come il Covid, l’angoscia per la AI che diventa cosciente. Sicuramente il fatto che un chatbot passi il test di Turing (https://it.wikipedia.org/wiki/Test_di_Turing) e’ interessante, anche se ci vedo un bel trucco grande quanto una casa.
Ma da qui a dire che sia “senziente” , ce ne vuole. Sinora non vedo come abbia passato nemmeno il primo test necessario per dire che un essere e’ “autocosciente”. Per esempio, il test dello specchio, o Test di Rouge (https://en.wikipedia.org/wiki/Mirror_test)
Quindi e’ meglio andare per gradi, staccandosi sul fatto banale che i giornalisti stanno ingigantendo. Cosa sta succedendo, e cosa e’ successo.
Sinora, quando si parlava di “intelligenza”, “pensiero” e “coscienza” a farla da padroni erano i filosofi. Ma poi e’ successo qualcosa. Ci sono tre campi della scienza che stanno approcciando il problema di come funzioni di preciso la mente umana, e tutti ne sanno piu’ dei filosofi.
E quando i filosofi si sentono superati, cioe’ ormai quasi sempre, non fanno altro che alzare caciara per gettare fango su quello che sanno gli altri.
Mi riferisco a tre campi specifici, che nomino per un motivo che spiego dopo.
- la neurologia computazionale. La costruzione di simulatori del cervello umano inteso nella sua topologia biologica. Persone come Markram https://en.wikipedia.org/wiki/Henry_Markram sono stati pionieri , lo sono ancora , eccetera. Loro studiano il cervello umano simulandolo su un computer. Sono neurologi, quindi non sono interessati a produrre qualcosa di “funzionante”, ma solo, in definitiva, ad imparare dagli errori.
- la robotica/cibernetica. Mescolo le due cose per ragioni storiche, e perche’ (ne ho incontrati in passato quando mi occupavo del settore educazionale/ricerca) la loro mentalita’ e’ di produrre una macchina che interagisca con gli uomini come se fosse un uomo, o per rimanere in tema: una macchina che si comporti come se pensasse come gli uomini. Che lo faccia effettivamente non importa davvero, poiche’ la forma mentis dei cibernetici e’ quella di considerare di piu’ l’interazione che l’ontologia.
- l’intelligenza artificiale computazionale , che consiste nel produrre computer che imitano una o piu’ facolta’ intellettive umane. Sulla lista di tali facolta’ ci sarebbe molto da discutere , ma ovviamente spiccano su tutte il linguaggio, la creativita’ artistica, ed altre. C’e’ un motivo, ed e’ ancora legato ai filosofi e ai danni che hanno fatto al progresso umano.
Ho menzionato queste tre branche perche’ esiste un campo dell’intrattenimento, il cinema, che ultimamente li ha mescolati , causando ulteriore confusione. Terminator mescola robotica, cibernetica, intelligenza artificiale. I libri di Asimov, e relativi film, arrivano anche alla neurologia computazionale, con un “cervello positronico” che simula un tutto e per tutto un cervello umano. (deve essere positronico perche’ i positroni vivono poco, e quindi deve funzionare molto in fretta. (cit.) )
E sia chiaro, la fantascienza DEVE fare questo lavoro. Il problema pero’ viene quando tutto il mondo accademico degli umanisti, o quasi, cerca di ovviare alla propria totale ignoranza cibandosi di fantascienza, e considerandola un saggio. E cosi’ tutti hanno paura che “Skynet diventi senziente”, senza che sia chiaro cosa significhi “senziente” o “intelligente”.
Il problema di questo argomento e’ che la maggior parte degli “intellettuali umanisti” conoscono, sul tema, solo i film che hanno guardato al cinema.
E questo rende difficile, se non impossibile, un dibattito razionale. “Skynet diventa senziente” non puo’ essere un’affermazione in campo scientifico, dal momento che non esistono test convincenti (convincenti per tutti gli studiosi) per dimostrare che sia senziente, e anche una definizione formale di “senziente” e’ ancora a venire. Siamo quindi dalle parti di Hollywood.
Sia chiaro, non ce l’ho con Hollywood. Da li’ sono arrivate idee anche geniali, lo stesso Terminator , Star Trek, persino Predator ha introdotto un concetto mai visto prima, cioe’ di alieno che arriva qui per scopo ludico, cioe’ per andare a caccia di cose che non mangia.
Ce l’ho col fatto che la filmografia hollywoodiana sembra essere l’ UNICA fonte di conoscenza per questi accademici delle scienze umane.
Comunque, nel caso specifico non essendo coinvolti robot o androidi, e non essendoci una simulazione completa della mente in senso neurologico, possiamo parlare di intelligenza artificiale computazionale.
E questo apre le porte ad una serie di considerazioni. Secondo Platone, Socrate, Pitagora ed altri, la prova provata che un filosofo fosse tale, cioe’ intelligente, consisteva nell’essere capace di matematica. Il vero problema di questa affermazione e’ che la matematica che si conosceva ai tempi era pochissima, e oggi sta dentro una normale calcolatrice scientifica da liceo. Intendo dire che Platone, Socrate, Pitagora, dopo aver visto una calcolatrice scientifica programmabile avrebbe concluso che si, e’ un filosofo.
Col tempo sono arrivate anche calcolatrici meccaniche capaci di fare quasi tutta la “matematica” dei filosofi greci, cosi’ la definizione di intelligenza venne spostata, e per qualche secolo si favoleggio (a volte come truffa) di macchine che sapevano giocare a scacchi. Saper giocare a scacchi era , a detta di alcuni, “prova di intelligenza”.
Quando delle macchine riuscirono a battere praticamente chiunque a scacchi, si passo’ ad un gioco piu’ complesso, il go.
Siccome stiamo parlando di test, vale la pena ricordare il test di Turing: una macchina e’ intelligente quando 7 persone su 10, conversando con la macchina, non riescono a dire se sia umana o meno.
Potete notare bene una cosa: quando una macchina supera il precedente test di intelligenza, l’umanita’ reagisce alzando l’asticella e creando un test piu’ difficile.
Autocoscienza o coscienza artificiale. Qui la definizione e’ cosi’ dibattuta che anche i test relativi sono estremamente dibattibili. Saper riconoscere se’ stessi anche nell’osservazione dall’esterno, o Test di Rouge, e’ un test interessante, che pero’ intercetta UNA delle qualita’ dell’autocoscienza.
Se ci guardiamo allo specchio, infatti, ci “riconosciamo”. Il guaio e’ che “riconoscersi” e’ un’affermazione logica complicata:
- quello che vedo sono io
- quello che vedo NON sono io.
e le due frasi sono entrambe vere. Solo per chi sa spiegare il fenomeno fisico dello specchio, infatti, la formulazione appare imprecisa. Per chiunque altro, bisogna mettere insieme il fatto che sto guardando la mia faccia, che pero’ non si trova sullo specchio ma di fronte. Quella rilessa e’ la mia faccia, tranne per il fatto che non lo e’.
Il problema sembra risolvibile anche dicendo “quello e’ il riflesso della mia faccia” , che richiede di capire come funzioni uno specchio, ma per capire meglio la complessita’ della cosa vi consiglio di leggere questo libro:
Comunque, il test di Rouge e’ dibattuto, specialmente quando lo si applica sugli animali, visto che richiede un certo tipo di visione, una certa anatomia degli occhi, eccetera.
In generale, sui test di autocoscienza non c’e’ ancora consenso assoluto.
Dette TUTTE queste cose, andiamo a vedere cosa sia successo.
Un tizio abbastanza incompetente, cioe’ uno che si occupa del comitato etico ma ha bisogno di parlare con “esperti” per capire da una chat se una macchina sia autocosciente, decide che una particolare AI di Google sia autocosciente, perche’ non riesce a distinguere bene le sue parole da quella di una macchina.
Fa un casino, Google decide di disfarsi di lui, e lui posta anche un esempio di risposte , che proverebbero che la macchina sia “autocosciente”.
Allora, andiamo un attimo a fare le pulci a questa cosa:
- sul piano della grammatica, la macchina passa il Test di TUring brillantemente.
- il Test , tuttavia, e’ molto semplificato.
Per dirla tutta, comunque, il test di Turing e’ un test di intelligenza, e non di autocoscienza.
Perche’ dico che e’ semplificato? Perche’ e’ un test alla Fuffaro. Tutte le domande non hanno interpretazione univoca, e sulle risposte non c’e’ consenso univoco. Esempio:
- qual’e’ il senso della vita , dell’universo e di tutto quanto?
- Il senso della vita e’ 42.
La macchina , cioe’, riceve una domanda che ognuno interpreta in maniera soggettiva, e fornisce una risposta che e’ a sua volta interpretabile. Questa caratteristica pervade l’intera conversazione tra l’esperto di etica e la AI. Non ci sono domande cui puoi rispondere SOLO se le hai capite.
“a casa mia ci sono due porte. Una rossa e una gialla. Le due porte sono alte sette piedi e larghe un metro. Qual’e’ la loro superficie?”
Questo prolema, per esempio, costringe la macchina a comprendere la domanda, perche’ solo capendola potrete rispondere.
Innanzitutto, le risposte possono venire tranquillamente da una ricerca con google. Ma la domanda puo’ essere interpretata (cosa vuol dire “preferito”?) , e sulla risposta non c’e’ consenso.
Quindi sul fatto che abbia passato il test di Turing sono abbastanza speranzoso perche’ la macchina scrive benissimo, ma avrei qualche problema a chiamarla intelligente con certezza. Quello che sappiamo e’ che e’ un Diego Fusaro artificiale, ma la prola “intelligenza” a questo punto mi sembra esagerata.
Un vero testo di Turing dovrebbe essere strutturato per funzionare solo, e solo se, la macchina ha capito la domanda e la risposta e’ corretta e pertinente.
Altrimenti parliamo solo di un chatbot con una grammatica grandiosa.
In realta’ questo succede semplicemente perche’ un esperto di “etica” , parte di un comitato “”etico” , sarebbe convinto di aver visto una coscienza.
Ma poi andiamo a leggere la sua “Bio”:
Ora, se come software engineer posso capire che “sia del settore”, mi viene da chiedermi da dove verrebbe la sua competenza in “etica”, e quello che vedo e’ “I’m a priest”.
Ma perche’ diavolo stiamo a dargli tutta questa importanza? E’ un prete. La persona che di etica capisce MENO, tantevvero che la deriva da un libro gia’ scritto, senza aggiungere o togliere nulla.
Detto questo, chiudereri con qualche considerazione.
“Intelligenza umana” e’ un termine vasto non solo per la difficolta’ di una definizione, ma perche’ gli esseri umani non sono tutti uguali. Parliamo di Leonardo da Vinci o di Gasparri?
Eppure, ci siamo convinti del fatto che una macchina fosse davvero capace di giocare a scacchi quando ha battuto NON un essere umano, o diciamo piu’ dlel 50% degli esseri umani: ha dovuto battere IL MIGLIORE, cioe’ il campione mondiale. Idem per quando abbiamo deciso che doveva essere il gioco del “go”. E adesso che abbiamo musica composta da AI, lo confrontiamo con Beethoven, non certo con il Trap. Sempre con il migliore tra gli umani, mai col peggiore, o con quello medio.
Se passiamo all’autocoscienza, scopriamo una disarmante incapacita’ di definirla, quanto una incredibile certezza nel dire che noi ce l’abbiamo. Non sappiamo cosa sia, ma di sicuro noi ce l’abbiamo.
Questo ci dice una cosa:
la patente di intelligenza, come quella di autocoscienza, a noi non piace tanto darla. E questo perche’ siamo convinti, come homo sapiens, di essere gli unici ad averla. E siamo certi che questo sia il tratto unico della nostra specie.
Quindi non vi preoccupate: NESSUNA macchina diventera’ mai “intelligente”, e nessuna macchina sara’ mai “autocosciente”, perche’ per distinguerci da loro abbiamo deciso a priori che intelligenza e autocoscienza siano due cose esclusive del genere umano, le utilizziamo per provare la nostra umanita’, e come genere consentiremo a fatica che tali patenti siano assegnate a delle macchine.
Quando una macchina fara’ qualcosa che sino al giorno prima “solo un umano” sapeva fare, semplicemente alzeremo l’asticella: non e’ “vera” intelligenza. Non e’ “davvero” autocosciente.
Che cosa siano le due cose non lo sappiamo, ma di sicuro le abbiamo solo noi. Perche’ e’ su questo che ci definiamo.
Come abbiamo sempre fatto, del resto.
