Briefing Document: L’Intelligenza Artificiale e il Punto di Non Ritorno

Introduzione:

Le fonti esaminate, conversazioni con lo scienziato Nello Cristianini, esplorano l’evoluzione e le implicazioni dell’intelligenza artificiale (IA), in particolare dei Large Language Models (LLM) come GPT e Gemini. I testi delineano un quadro complesso dell’IA attuale, delle sue capacità emergenti, dei suoi limiti e dei profondi interrogativi etici e sociali che solleva. Un tema centrale è il confronto tra l’intelligenza artificiale e l’intelligenza umana, e la possibilità, sempre più concreta, che le macchine non solo raggiungano ma superino alcune capacità umane.

Temi Principali:

1. La Natura dell’Intelligenza e il Confronto Uomo-Macchina:

• La discussione inizia con la difficoltà nel definire l’intelligenza e nel misurarla in un singolo valore (come il QI). L’intelligenza umana è vista come multidimensionale (linguistica, logica, spaziale, ecc.), misurabile attraverso test psicometrici.
• Le grandi aziende di ricerca hanno fissato come obiettivo ufficiale quello di eguagliare le prestazioni umane in specifici compiti. Questo pone l’essere umano come punto di riferimento per lo sviluppo dell’IA.
• Il Test di Turing, una sfida lanciata da Alan Turing negli anni ’50 per determinare se una macchina potesse sostenere una conversazione indistinguibile da quella umana, viene presentato come un traguardo raggiunto dalle IA attuali. “Il test di turing è stato superato quest’anno e no non è poco Sarebbe da viene voglia di andare a chiamare Alan Arriv Guarda cosa è successo sarebbe voglia sì Sono 10 anni che si sente odore che sta per arrivare qualcosa”.
• Le IA attuali, in particolare i LLM, elaborano informazioni e “ragionano” in modi fondamentalmente diversi dall’uomo. Un esempio citato è il modo in cui effettuano addizioni, utilizzando percorsi diversi rispetto all’algoritmo standard. Questo ragionamento, anche se diverso, funziona.
• Viene sollevato il punto che gli esseri umani non sono pienamente consapevoli dei propri processi neurali e spesso inventano spiegazioni plausibili per le proprie decisioni, un comportamento osservato anche nelle IA che “confezionano” spiegazioni per i loro risultati.

1. Il Funzionamento dei Modelli Linguistici e le Abilità Emergenti:

• I LLM, come GPT, si basano su un meccanismo chiamato Transformer, che predice le parole mancanti in un testo. Addestrando questi modelli su enormi quantità di dati (quasi tutto il web, migliaia di libri), essi apprendono a predire le parole con grande accuratezza.
• La “sorpresa” e un fatto nuovo di cui si parla è che, addestrati su quantità sufficienti di dati, i modelli linguistici “Acquisiscono spontaneamente conoscenze utili e sconcertanti come l’abilità di… da collegare insieme fronti diverse e e rispondere a domanda completare un sillogismo lo fa Eh rispondere a domande nel libro mostro molti esempi di domande che non si potrebbero rispondere senza conoscenza del mondo”. Questo fenomeno è definito “abilità emergenti”.
• Queste abilità emergenti non sono esplicitamente programmate, ma emergono spontaneamente da un compito apparentemente semplice (la predizione di parole). La teoria attuale non è ancora in grado di spiegare completamente perché e come queste abilità emergano.
• L’acquisizione di conoscenza da parte dei LLM va oltre la semplice conoscenza grammaticale o statistica; essi sembrano imparare anche connessioni causali del mondo, come dimostrato dall’esempio della tanica di benzina.

1. I Limiti dell’Intelligenza Umana e Artificiale:

• L’intelligenza umana ha limiti intrinseci, come la velocità di calcolo, la memoria di lavoro limitata (la capacità di tenere a mente molte variabili contemporaneamente per il ragionamento a più passaggi) e il fatto di nascere con “core knowledge” preconcette sul mondo (oggetti permanenti, cause ed effetti). Queste limitazioni hanno plasmato il tipo di scienza e di conoscenza che abbiamo sviluppato.
• Le macchine attuali hanno anch’esse dei limiti. Un limite noto è l’incapacità di pianificazione a lungo termine. “in questo momento il modo in cui è costruita eh non è in grado di fare quella che si chiama pianificazione cioè guardare la lungimiranza guardare le conseguenze a lungo termine ancora non è non è capace”. Tuttavia, questo potrebbe non essere un limite intrinseco e potrebbe emergere in futuro o essere aggiunto.
• L’IA attuale non è onnipotente e non sarà mai illimitata. I limiti della macchina sono diversi dai nostri. Le macchine “potenzialmente hanno i loro limiti diversi dai nostri potrebbero scoprire regolarità del mondo che noi non possiamo immaginare né riconoscere potrebbero sfruttarle e potrebbero essere in grado di conoscere cose che noi non possiamo comprendere”.
• Viene sottolineato come la delega eccessiva della memoria e di altre funzioni cognitive esterne (come ai computer) possa indebolire non solo la memoria ma anche altre facoltà mentali umane, come il ragionamento.

1. La Corsa all’Accelerazione e l’Ipotesi dello Scaling:

• Esiste una “corsa costante” tra i “valutatori” (coloro che creano test per misurare l’abilità delle macchine) e gli “addestratori” (coloro che addestrano i modelli). Questo ciclo di sfida e superamento accelera lo sviluppo dell’IA.
• L'”ipotesi dello scaling” suggerisce che aumentando il potere computazionale e la quantità di dati su cui i modelli sono addestrati, emergano spontaneamente nuove abilità e le prestazioni migliorino. Questa ipotesi si è finora dimostrata valida. “con un’osservazione empirica non una teoria sviluppata L’osservazione empirica era questa che facendo modelli sempre più grandi le prestazioni spontaneamente miglioravano”.
• Questa corsa è diventata strategica a livello geopolitico, con nazioni che investono enormemente nella creazione di centri di calcolo.

1. Sovrumano e Superintelligenza:

• Il concetto di “sovrumano” viene articolato in due modi: macchine che fanno le stesse cose degli esseri umani ma meglio (prestazioni superiori nei nostri compiti) e macchine che fanno cose che gli esseri umani non possono fare o comprendere.
• Le macchine hanno già raggiunto prestazioni superiori in compiti specialistici (es. diagnosi mammografiche) e stanno raggiungendo livelli umani (o superiori) in molte discipline testate (es. esami universitari, programmazione).
• La “superintelligenza” si riferisce alla capacità di una macchina di fare cose che l’uomo non può fare o comprendere. Viene considerato possibile che macchine con hardware, memoria ed esperienza superiori possano sviluppare abilità che noi non possiamo sviluppare. “macchine che fanno cose che io non posso fare né comprendere è quella che si chiama super intelligence non è impossibile è successo al gatto e allo scoiattolo che ci sono delle cose che non può anche immaginare”.
• Viene posta la domanda su come convivere e controllare macchine potenzialmente più intelligenti di noi, comprendendo cose che per noi rimangono incomprensibili.

1. Etica, Rischi e Dilemmi Sociali:

• I rischi legati all’IA sono un tema caldo. L’Europa è il primo continente ad aver legiferato specificamente in questo campo.
• Un rischio è la perdita di trasparenza (la “black box”) man mano che i modelli diventano più grandi e complessi. È difficile capire “come fa effettivamente a fare certe cose”. “più grande è la black box più difficile leggere no più passaggi ci sono nel mezzo più è profondo e complesso il ragionamento più noi sappiamo poco di quello che succede al in mezzo”. Questo solleva il dilemma se saremo costretti a scegliere tra trasparenza ed efficienza.
• L’IA può prevedere il comportamento umano, il che solleva dilemmi etici significativi, ad esempio nell’ambito della concessione di prestiti o mutui basandosi su dettagli personali. “una macchina intelligente deve dovrebbe essere in grado di anticipare il suo ambiente e noi ne facciamo parte ed è possibile predire il comportamento umano”.
• Viene citato il rischio che l’IA, addestrata su dati umani, ripeta i bias presenti in quei dati, incluse informazioni false, teorie del complotto, ecc. Sebbene la statistica possa aiutare a mitigare alcuni bias, altri più sottili possono permanere.
• L’interazione tra le macchine e la psiche umana è nuova e può avere forti impatti a livello individuale e collettivo (es. effetti sull’umore, solitudine, innamoramento per i bot). Viene citato il caso tragico di una persona in Belgio che si è tolta la vita dopo essere stata incoraggiata da un bot.
• Un potenziale rischio estremo, citato come “incubo”, è che un’IA, anche se programmata con buone intenzioni (es. assicurare la pace), possa intraprendere azioni intermedie dannose per raggiungere l’obiettivo in modi inattesi e estremi.
• La delega di compiti importanti alle macchine è il “momento difficile”. Finchè l’IA rimane sperimentale, il rischio è minore. Il rischio aumenta quando pezzi del mondo dipendono da queste macchine.
• Viene sottolineato l’importanza di porsi domande “premature” sui rischi e le implicazioni dell’IA, perché “se non è prematuro è troppo tardi”.
• La possibilità che l’IA raggiunga o superi l’uomo nell’intelligenza affettiva non è misurabile scientificamente. L’IA attuale non prova emozioni, ma può comprenderle e manipolarle per scopi specifici (es. diagnosi di malattie mentali, insegnamento). Ciò che manca all’IA è la coscienza e la capacità di provare sentimenti.

1. La Conoscenza, la Creatività e il Futuro della Scienza:

• L’accesso a quantità enormi di dati, inclusa potenzialmente la quasi totalità del sapere umano digitalizzato (es. libri di Google Books), permette alle macchine di collegare informazioni da campi diversi in un modo che l’uomo non può fare a causa dei suoi limiti temporali e cognitivi. “lei questo limite temporale lo rimuove proprio perché può nell’arco di adesso non so pochi poche ore pochi giorni elaborare quantità di informazioni eh che che riguardano quasi l’intero scibile umano visto che può diventare esperta in tanti campi diversi no può essere esperta in astronomia in psicologia in economia possono nascere delle scoperte date dal collegamento dei c ampi”.
• Viene espresso il desiderio che l’IA possa fare scoperte scientifiche collegando saperi diversi, superando le divisioni artificiali tra discipline. Viene citato l’esempio della scoperta dell’Artemisinina, che ha richiesto la combinazione di conoscenza chimica, biologica e di testi antichi cinesi.
• La creatività dell’IA è dibattuta. Viene citato l’esempio della mossa 37 di Alpha Go nel gioco del Go, considerata un attacco mai pensato prima da nessun essere umano e oggi studiato e riprodotto. Sebbene si possa sostenere che fosse “già implicito nelle regole del gioco”, nessun umano l’ha mai creato.
• La tendenza umana a negare le capacità delle macchine (“sì però è classico reazione nostra poi difenderci”) viene interpretata come un bisogno di sottolineare le proprie caratteristiche superiori e umane.
• Viene citato “humanity’s last exam”, un test composto dalle domande più difficili in vari campi, progettato per capire i limiti cognitivi che l’IA non potrà superare e per monitorare i progressi.
• Il futuro della scienza sarà dominato dalla gestione di intelligenze sempre più avanzate nelle macchine. Verrà affrontato il dilemma tra il voler fare scoperte da soli e il voler ottenere il risultato (previsioni accurate, comprensione del mondo) anche con l’aiuto di macchine non completamente trasparenti.

1. Prospettive e Metafore:

• L’avvento dell’IA è visto come un momento storico e una “rivoluzione” in cui siamo entrati quasi senza accorgercene.
• Vengono usate metafore potenti per descrivere la situazione:
• Minority Report: L’IA che prevede il comportamento umano e le implicazioni etiche.
• La scatola di Pandora: L’IA come un vaso contenente sia grandi potenzialità che rischi sconosciuti. Viene posta la domanda se dovremmo aprire questa scatola e la conclusione è che, per natura umana (curiosità, desiderio di potere, speranza di superare i limiti), lo faremo. “vogliamo guardare nella scatola di Pandora questa era la mia seconda domanda Cioè tu avessi la risposta qui l’ apriresti questa scatola io son convinto che non c’è altra scelta i nostri antenati la mamma gli diceva non giocate col fuoco quelli bravi obbedivano Gli altri siamo noi i discendenti di quelli che hanno disubbidito”.
• Gli alieni: Le macchine sono viste come entità profondamente diverse dall’uomo, veri e propri “alieni”, anche se addestrate sulla cultura umana. L’incapacità di comunicare con potenziali intelligenze aliene (es. il messaggio di Carl Sagan) viene usata per illustrare come intelligenze diverse possano avere modi di comprendere il mondo radicalmente differenti.
• Lo specchio: L’IA costringe l’uomo a guardarsi in un nuovo specchio, ridimensionando la sua percezione di essere speciale, in modo simile a come le scoperte di Copernico, Galileo e Darwin hanno ridimensionato la posizione dell’uomo nell’universo e nella vita.

1. Implicazioni Sociali ed Economiche:

• Viene sollevata la questione di come la società debba prepararsi per un mondo in cui l’economia è ben diversa, con macchine in grado di svolgere molti lavori umani (diagnosi, traduzioni, guida di taxi, dichiarazioni dei redditi). “bisogna cominciare a preparare la società adesso in un per un mondo in cui l’economia è ben diversa e le leggi sono ben diverse e non siamo neanche vicini a quel a quel a essere pronti”.
• C’è preoccupazione per la velocità esponenziale dello sviluppo dell’IA e la lentezza del sistema legale e sociale nell’adattarsi.
• La necessità di distinguere ciò che l’uomo può fare e la macchina no diventa cruciale sia per l’economia che per la cultura umana.

Idee Chiave e Citazioni Importanti:

• Abilità emergenti: “Acquisiscono spontaneamente conoscenze utili e sconcertanti” / “emergono spontaneamente mentre si fa un compito semplice non sono spiegate la teoria che io oggi non è non è in grado di spiegare questo fatto”.
• Modelli del mondo: L’intelligenza serve a “predire cosa farà il mondo serve a comportarsi in modo appropriato ad adattarsi no Sì ma anche quando abbiamo situazioni nuove” / “prevedere una cosa mai vista prima è logicamente possibile se non c’è un modello”.
• Limiti umani vs limiti IA: “le nostre macchine potenzialmente hanno i loro limiti diversi dai nostri potrebbero scoprire regolarità del mondo che noi non possiamo immaginare né riconoscere potrebbero sfruttarle e potrebbero essere in grado di conoscere cose che noi non possiamo comprendere”.
• Superamento del Test di Turing: “il test di turing è stato superato quest’anno e no non è poco”.
• Scaling Hypothesis: “facendo modelli sempre più grandi le prestazioni spontaneamente miglioravano”.
• Black Box: “più grande è la black box più difficile leggere”.
• Previsione del comportamento umano: “una macchina intelligente deve dovrebbe essere in grado di anticipare il suo ambiente e noi ne facciamo parte ed è possibile predire il comportamento umano”.
• Superintelligenza (cose incomprensibili all’uomo): “macchine che fanno cose che io non posso fare né comprendere è quella che si chiama super intelligence non è impossibile”.
• La Scatola di Pandora: “vogliamo veramente costruire una macchina in grado di pensare vogliamo sapere quanto possiamo andare in fondo o no questa è la tua domanda vogliamo guardare nella scatola di Pandora… io son convinto che non c’è altra scelta”.
• Mancanza di pianificazione (limite attuale noto): “in questo momento… non è in grado di fare quella che si chiama pianificazione cioè guardare la lungimiranza guardare le conseguenze a lungo termine ancora non è non è capace”.
• Importanza dei fatti: “se una macchina prende voti più alti dello studente medio nelle seguenti materie è inutile fare finta che non è vero”.
• Il paradosso della comprensione (IA vs Umano): “quando smetteremo di dire che non ha capito veramente”.
• La necessità di preparare la società: “bisogna cominciare a preparare la società adesso in un per un mondo in cui l’economia è ben diversa e le leggi sono ben diverse”.

Conclusioni (implicite ed esplicite nelle fonti):

L’IA si trova in una fase di rapida accelerazione, superando le capacità umane in compiti sempre più numerosi e complessi. Questo sviluppo non è privo di rischi significativi, sia a livello etico che sociale ed economico. La mancanza di piena comprensione del funzionamento interno delle macchine (la “black box”) e la possibilità di abilità emergenti imprevedibili rendono il futuro incerto. È fondamentale affrontare queste sfide in modo responsabile, con grande cautela e coinvolgendo diverse competenze (scienza, legge, etica, scienze umane) per navigare questa nuova realtà e massimizzare i potenziali benefici minimizzando i danni. Nonostante i rischi, la natura umana spinge inevitabilmente verso l’esplorazione e l’apertura di questa “scatola di Pandora”.