Newsletter Giugno

1. La meravigliosa umanità

Da persona con formazione tecnica, atea, mai avrei pensato di leggere un’enciclica. E mai avrei pensato di trovarla perfetta: utile, stimolante, coraggiosa, capace di orientare menti illuminate. Leggere il documento “Magnifica humanitas” di Papa Leone XIV mi ha portato lontano dal luogo comune che vede la fede profonda in opposizione alla scienza. L’enciclica è interessantissima ed è il primo documento politico che sento mi rappresenti. Alcuni estratti: “Ogni generazione riceve in eredità il compito di dare forma al proprio tempo”, “Se lo sviluppo tecnologico procede senza un’adeguata maturazione etica e sociale, può accadere che aumentino i mezzi senza che cresca in pari misura l’umanità: si “ha di più” ma non si “è di più”, e la persona rischia di essere valutata soprattutto in base alle prestazioni che garantisce.”

Nell’enciclica non si trova una valutazione sul comportamento dell’AI, ma una esplicita critica ad una situazione di potere in mano a un gruppo ristretto di persone. Infatti il Papa scrive: “Non serve un’IA più morale, se questa morale è decisa da pochi”. La posizione è curiosa perché storicamente la Chiesa ha consentito a circa 250 cardinali (tutti maschi, ovviamente!) di decidere cosa fosse morale o meno. Ma apprezziamo il passo avanti. Leone XIV in maniera esplicita parla di sfruttatori e di lavoro invisibile, usato in maniera non etica, ma anche della necessità di superare le posizioni entusiaste o di paura, facendoci carico del compito di scegliere tra un progresso che serve la persona e i popoli, oppure un progresso che li piega a logiche di potere.

Una interessante analisi del documento è stata pubblicata da Andrea Colamedici, che sottolinea la scelta del Papa di considerare le AI “coltivate” e non “create” o “costruite”. Il termine scelto è interessante, perché si coltiva una pianta. Invece noi sappiamo che i modelli vengono "allenati" e che "apprendono". La scelta dei termini è importante. Alleno qualcuno che deve raggiungere prestazioni superiori. Apprendo con un processo cognitivo molto sofisticato che fino ad oggi è stato appannaggio di persone e animali. Non ho mai sentito di una pianta che ha appreso qualcosa. Invece ora il Papa sceglie con il termine "coltivare" di declassare i modelli AI a un elemento utile alla nostra sopravvivenza, come un pomodoro o del grano. Però – nuovamente Colamedici – lo stesso termine “coltivare” suggerisce che “la macchina oggi ha cambiato natura ed è passata dalla parte di ciò che cresce”, in maniera non meccanica, in maniera solo in parte controllabile.

L’enciclica mostra un Papa perfettamente inserito nel suo tempo, che rifiuta le ipocrisie della convenienza economica, ma anche che abbraccia la complessità dell’attuale situazione tecnologica.

2. L’AI non è un pappagallo

Metto le mani avanti: sto per autopromuovere il mio lavoro. Ma quando raggiungi un risultato importante è facile perdere la bussola dell’umiltà. Il mese scorso è stato pubblicato sulla prestigiosa rivista internazionale “AI & Society” un articolo scritto da Andrea Falegnami, Andrea Tomassi, Michele Levorato ed il sottoscritto, in cui sosteniamo un concetto semplice ma a suo modo originale: le molte persone che insistono a definire i modelli di AI come dei semplici “pappagalli” che in maniera probabilistica producono testo, sbagliano. Infatti questi modelli non sono elementi solitari, bensì abilitatori di un sistema intelligente fatto dall’unione di AI, individui, dati, interfacce, documenti, processi, incentivi e molto altro. Bisogna accettare che in un contesto di lavoro (tipicamente basato sulla conoscenza) è più proficuo collaborare con un’AI che con il/la collega, così riusciremo a modificare, migliorandoli e rendendoli più utili, i momenti di confronto con quella persona.

L’invito è a non romanticizzare le competenze umane, in un mondo dove molte organizzazioni hanno difficoltà a premiare chi ha più valore (si pensi ad esempio alla pubblica amministrazione), in modo da rendersi conto che l’AI è efficace nello svolgere attività umane, solo finché non eleviamo le persone a essere più umani, e meno macchine. Se finora ho chiesto a una persona di controllare i dati in un documento aprendo dei software e verificandone la correttezza, ho utilizzato poco e male il suo potenziale. Stessa cosa se gli ho fatto rispondere a email di richiesta supporto con informazioni già disponibili online. E così via. Abbandoniamo la discussione “l’AI non è come un umano”, “è meglio di un umano”, e simili, per abbracciarne una focalizzata sull’analisi del sistema che contiene l’AI, e ragionare che contributo virtuoso può dare una persona in carne e ossa.

Ammetto con orgoglio che siamo rimasti inamovibili di fronte alla richiesta di modifica del titolo, che i revisori trovavano troppo ironico: “Pappagallo stocastico o no, è comunque meno pollo del collega a due scrivanie di distanza”. Il paper è disponibile qui, e contiene molte altre considerazioni utili a collocare l’AI nei contesti fatti di persone, sistemi, organizzazione, in maniera più consapevole.

Gemini: crea un’immagine con titolo stochastic parrot or not […]. Evidentemente non ha letto il paper.

3. Trump chiede di bloccare Claude per i non americani

Pochi giorni fa il governo statunitense ha inviato una direttiva ad Anthropic con cui la intimava di sospendere l’uso dei suoi modelli AI più performanti a chi non ha la cittadinanza americana, ovviamente adducendo motivi di cybersicurezza. Anthropic ha bloccato i suoi modelli Mythos 5 e Fable 5 per tutta la propria clientela, a prescindere dal paese di cittadinanza.

Da qualche mese per diverse persone Claude è il modello AI più soddisfacente e non si può escludere che Trump provi ad utilizzarne la grande diffusione come leva strategica, in grado di mettere in difficoltà interi paesi. Non mi pare chiaro perché un cittadino americano dovrebbe poter utilizzare questi modelli, se sono capaci di generare attacchi informatici. Sinceramente penso possa essere una mossa orchestrata dalla stessa Anthropic, che potrebbe sia cercare di ridurre i costi generati da questi enormi modelli, sia di chiuderli rapidamente per qualche falla di sicurezza di cui si è accorta.

Già lo sapevamo, ma l’AI sta diventando un asset geopolitico strategico e chi non ha i propri modelli di AI rischia davvero di trovarsi escluso da una risorsa produttiva sempre più diffusa. Vi ricordate quando per qualche ora non ha funzionato WhatsApp e intere aziende si sono fermate? In quel caso, si fosse protratto il malfunzionamento, avremmo avuto rapidamente molte alternative su cui spostare le nostre conversazioni di lavoro. Ma in questo caso, se Trump riuscisse a chiudere ChatGPT, Claude e Gemini, ci rimarrebbero solo le alternative cinesi, e qualche modello europeo purtroppo poco performante.

Ironia (?) prodotta dal mio Copilot

4. Qualcosa da sapere: molto sycophant e poco sicofante

Il titolo qui poteva essere “Qualcosa che avrei dovuto sapere”, perché nello scorso numero della newsletter ho compiuto un errore a cui ora cerco di ovviare. Ho infatti definito i modelli AI "sicofanti", convinto di bollarli come adulatori, servili, pronti a darmi sempre ragione pur di compiacermi. Peccato che non significhi affatto questo, come mi ha segnalato, con grande gentilezza, un attento amico a cui va il mio grazie. Il termine "sicofante", in italiano, vuol dire delatore, spia, calunniatore di professione (possiamo scomodare la Treccani). Al più, è anche il nome di un coleottero dalla livrea elegantissima, blu e verde con riflessi metallici. Sicuramente però "sicofante" non è la traduzione di sycophant, termine inglese che invece significa proprio l'adulatore servile e opportunista che avevo in mente.

Si tratta dunque di uno di quei termini che gli anglofoni chiamano "false friend", i falsi amici: parole talmente simili a un vocabolo italiano da suggerirti al volo una traduzione errata. Così qualcosa di "terrific" non è terrificante ma fantastico ed eccezionale, un "rumor" non è un rumore ma un pettegolezzo, e via di seguito con "preservative" (un conservante), "morbid" (malsano), "ape" (scimmia), o l'insidiosa "pizza with pepperoni", che è priva di peperoni, altresì arricchita di inattese fette di salame piccante.

Un vero sicofante

5. Questo Monet è ridicolo

La storia è la seguente: su X un utente ha provocatoriamente scritto “Ho appena generato un'immagine in stile Monet usando l'AI. Descrivete, nel maggior dettaglio possibile, cosa la rende inferiore a un vero Monet”.

Centinaia di persone hanno risposto, spiegando con grande competenza la distanza tra questa opera generata dall’AI e una del vero artista. Per capirci, il commento medio è “Che tristezza doverlo far notare. Non vi è alcuna coesione nelle scelte di profondità e di colore. Il riflesso dell'albero sbava sulle ninfee senza alcun riguardo per la profondità spaziale o il contrasto. L'amalgama tra ninfee e alghe sullo sfondo è scandalosamente vago, come la maggior parte dell'arte generata dall'IA”.

Avete già capito questa storia come termina: il quadro è in verità un vero Monet, del 1915, attualmente in mostra alla Neue Pinakothek di Monaco. Una ricerca pubblicata su Nature ha provato con un esperimento su diverse centinaia di persone, che non siamo in grado di distinguere immagini create da esseri umani e immagini create dall'AI, che in generale preferiamo le opere d'arte generate dall'AI, ma che se pensiamo che sono generate dall’AI ci piacciono di meno. L’immagine su X era accompagnata dalla scritta “Made with AI”, ed è stata sicuramente la presenza di questa etichetta ad attivare il severo giudizio di chi la osservava. Credo sia un meccanismo che conosciamo bene e che ci spinge a eliminare dai testi che l’AI genera per noi tutte quelle tracce che ci sembrano palesare sia stato scritto dalla macchina, perché temiamo il giudizio di chi legge pensando “ah! È stato scritto con l’AI!”. Ad esempio – giusto per capirci – io elimino sempre i trattini orizzontali che racchiudono degli incisi, seppure talvolta ci starebbero proprio bene 😉.

Curiosità: l’autore del post ha generato da esso un NFT (lo ha reso arte digitale) intitolato “inferior image”, vendendolo poi per 42.000$. A mio avviso: geniale.

6. I manager sono il nuovo collo di bottiglia

In un articolo della Harvard Business Review  un manager si lamentava: "ogni 30 minuti qualcuno crea qualcosa che devo guardare", palesando un problema nuovo di cui molti di noi hanno oramai esperienza. L'AI ha accelerato enormemente il ritmo del lavoro: le persone eseguono idee, producono deliverable e lanciano progetti molto più velocemente di quanto le nostre organizzazioni siano in grado di gestire. Ogni persona utilizza chat AI e agenti AI producendo con grande velocità, mettendo in difficoltà chi la coordina. Il manager diventa il nuovo collo di bottiglia, sommerso dal volume di decisioni, revisioni e feedback da dare. Il vero limite si è spostato dalla produzione al giudizio e la tentazione è di tralasciare questa responsabilità, dando solo le direzioni, le priorità, le decisioni.

Anche io ho questa sensazione, e credo che dobbiamo ritarare i nostri metodi di lavoro sulle nuove tempistiche. Poiché mi trovo in una fase della vita in cui cerco di guidare persone più giovani, già mi trovo spesso in affanno a revisionare le loro idee, proposte progettuali, articoli, che scrivono aiutate dall’AI. Ma da qualche settimana mi sono accorto che devo dedicare del tempo anche a leggere quello che ha scritto l'AI, a cui avevo assegnato qualche task da svolgere per me. La sensazione è che l'AI farebbe molto di più, se solo avessi più tempo per dirle cosa e per revisionare il suo lavoro. Sono diventato il collo di bottiglia.

Questa nuova condizione è evidente a chi usa la tecnica di gestione dei progetti (molto diffusa) chiamata sviluppo agile, il cui framework SCRUM è il più noto: invece di pianificare tutto in anticipo e consegnare il risultato finale dopo mesi, si procede in modo iterativo e incrementale, con cicli brevi di lavoro, verifica continua e aggiustamenti progressivi. In questa logica un progetto complesso viene diviso in sprint, cioè finestre di tempo definite al termine delle quali deve esistere qualcosa di concreto da mostrare. Gli sprint di un progetto di sviluppo IT durano di solito tra i dieci e i quindici giorni (le classiche due settimane lavorative). Passati quei giorni, utilizzati per sviluppare le funzionalità previste, il team si incontra per testarle e validarle, decidere cosa tenere e cosa correggere, e pianificare lo sprint successivo.

Il problema è che oggi, con l'AI, uno "sprint" di sviluppo può durare poche ore. La macchina produce in un pomeriggio quello che prima richiedeva due settimane. Ma il momento della verifica, umano, in cui si guarda, si giudica, si dà la direzione, è rimasto fermo al suo ritmo antico. Per stare al passo dovremmo incontrarci per controllare i risultati non più ogni due settimane, ma due o tre volte al giorno. Ed è esattamente lì che ci accorgiamo che il vincolo non è più la velocità con cui si costruisce, ma quella con cui sappiamo decidere. L’AI ci ha tolto la scusa della fatica produttiva e ci sta lasciando quella del giudizio.

7. Chi si laurea e chi si iscrive all’università, oggi

Chi si sta per laureare ha iniziato lo studio universitario poco prima che l’AI generativa si diffondesse pervasiva. Al momento dell’iscrizione, anni fa, si pensava che studiare informatica significasse avere la certezza di trovare lavoro e di ottenere un buon stipendio.

Con il boom dell’AI generativa abbiamo scoperto che per le macchine è difficilissimo produrre un testo ironico, ma che sono bravissime a scrivere in linguaggi meccanici come quelli utilizzati nella programmazione. Tutto ciò cambia completamente lo scenario di chi si sta per laureare in informatica o ingegneria informatica: su https://layoffs.fyi/ possiamo vedere circa 120.000 licenziamenti nel settore tech, le posizioni aperte per junior sono diminuite, ed i colloqui di lavoro vertono sempre di più sul problem-solving e sull’analisi critica di quanto ottenuto con l’AI. Queste non sono le classiche competenze tecniche di chi sviluppa codice, che tende a presentarsi mostrando cosa ha realizzato, con che strumenti, eventualmente con una demo di tali prodotti digitali. Questo è un problema se poi faticano a spiegare il problema, rappresentare le richieste dell'utente, l'architettura, la fonte dei dati, i rischi, i casi di errore, l'approccio di valutazione e le successive evoluzioni.

Anche chi si sta per immatricolare all’università tiene conto dell’attuale scenario in cui agenti AI scrivono software e per la prima volta da molti anni le immatricolazioni in corsi di informatica stanno diminuendo di numero. A Duke i corsi introduttivi di computer science sono calati di circa il 20% in un anno e a Princeton si prevede una coorte di laureati in informatica del 25% più piccola entro due anni, in linea con il dato nazionale dell'8,1% di iscrizioni in meno nell'anno accademico 2025-2026, il calo più marcato di qualsiasi ambito di studio secondo il National Student Clearinghouse.

In Cina, dove sono presenti circa 3000 università, il Governo ha deciso la chiusura di circa 12000 corsi di laurea, considerati obsoleti nell’era dell’AI. Ovviamente il corso di informatica rimane aperto ed anzi è considerato importantissimo, ma appare evidente il tentativo di costruire delle competenze che oggi sembrano non essere disponibili. Credo sia scontato che l’università non ha solo il compito di preparare al mondo del lavoro, ma anche di formare le persone in base alle loro attitudini e talenti, contribuendo anche a quei settori che, seppure potrebbero non generare profitto, rimangono fondamentali per il benessere di una comunità (basti pensare a quello della sanità o della cultura).

La mia impressione è che nessuno sa come sta evolvendo la situazione e chi entra oggi all’università deve imparare un mestiere che noi docenti non sappiamo ancora insegnare.

8. Buone AI notizie: un vaccino speciale

Un gruppo di ricercatori dell'Università di Cambridge ha completato il primo test sull'uomo di un vaccino il cui ingrediente attivo è stato disegnato interamente da un sistema di intelligenza artificiale, il che rappresenta la prima volta in cui il componente attivo di un vaccino, progettato attraverso simulazioni al computer, viene somministrato a persone. A differenza dei vaccini tradizionali, costruiti attorno a un singolo ceppo già in circolazione e quindi destinati a perdere efficacia man mano che il virus muta, questo approccio punta a una protezione universale. L'AI ha infatti analizzato tutte le sequenze genetiche disponibili di una famiglia di coronavirus e ha individuato i tratti che restano comuni a tutta la famiglia, comprese le varianti non ancora emerse, combinandoli in un cosiddetto "super-antigene" capace di addestrare il sistema immunitario a riconoscere l'intero gruppo virale anziché un solo bersaglio.

La sperimentazione ha coinvolto 39 volontari sani tra i 18 e i 50 anni e ha dimostrato che la tecnologia è sicura e priva di effetti collaterali significativi, e ha attivato difese immunitarie non solo contro SARS-CoV-2 e SARS, ma anche contro coronavirus animali che finora non hanno mai infettato l'uomo. La risposta immunitaria osservata è stata definita "modesta" dagli stessi ricercatori, e restano da chiarire la durata della protezione e l'efficacia su una popolazione più ampia, motivo per cui è già previsto uno studio successivo con circa 200 partecipanti. Ma a prescindere dai risultati si è aperta la possibilità di testare lo stesso metodo sull'influenza, l'aviaria e ai virus delle febbri emorragiche come Ebola.

9. Un nostro progetto: data coach

Diventa sempre più semplice sviluppare in autonomia degli agenti che svolgono dei task per nostro conto. Ad esempio ho un agente che prende il testo di ogni numero che scrivo di questa newsletter e ne controlla l’ortografia, cerca perifrasi che posso accorciare (perché tendo a essere prolisso), verifica i link che ho inserito, suggerisce eventuali paragrafi da rivedere perché forse poco fluidi. Quando però un agente deve essere distribuito in un’azienda, mettendolo a disposizione di molte persone, collegandolo a documenti, dati, sistemi informativi, è necessario valutare bene la base dati che viene utilizzata. I modelli AI sono infatti oramai una commodity senza particolare valore e se i progetti vanno in porto è perché tali modelli leggono i dati giusti. Consideriamo che l’AI amplifica eventuali errori presenti nei dati e di fatto la prima causa di insuccesso di progetti AI è la mancanza di informazioni da fare utilizzare alle macchine.

L’approccio di AGIC ai progetti AI spesso coinvolge una figura che potremmo definire “data coach”, dedicata all’analisi sia dei dati disponibili che del contesto che deve essere associato a tali informazioni. Il record di un cliente è un dato, ma sapere perché quel cliente riceve un’offerta particolarmente ribassata è contesto. Una clausola contrattuale è un dato, ma sapere quale clausola si applica allo specifico caso è contesto. Il data coach è anche in grado di orientare la scelta del modello migliore considerando i dati da analizzare, perché non sempre il modello più costoso è il migliore: generalmente è il più potente, ma per molti problemi è sufficiente un modello che richiede budget più ridotto. Infine, il nostro data coach aiuta a comprendere dove un agente serve e dove non serve affatto.

Chi sono

Ciao, sono Francesco Costantino, professore universitario e Director of Innovation in AGIC. Appassionato di novità tecnologiche e convinto sostenitore di un futuro migliore del passato, mi piace raccontare e sperimentare i nuovi strumenti di AI disponibili, così come osservare e ragionare sull’evoluzione digitale.