Newsletter Agosto

1. Possiamo lavorare di più
2. “Agenti AI fuori controllo”: una narrativa moneybait
3. Human in the loop
4.Se non può dichiararsi cosciente, sarà meno empatico
5. Una vita progettata per l’AI
6. Ore a correggere presentazioni di Claude
7. Qualcosa da sapere: reverse information paradox
8. A che punto siamo con i robotaxi
9. Sotto l’ombrellone: CRUCIVERBA “quanto ne sai di AI?”

 

 

 

1. Possiamo lavorare di più

 

L’efficienza generata dall’AI è solitamente ricondotta alla constatazione che per fare qualcosa impiego molto meno tempo. Ma a chi appartiene questo tempo liberato? 

Se l’aspettativa di aziende e clienti è che ora possono chiedere di più, vuol dire che le persone non stanno liberando il proprio tempo quando decidono di utilizzare un sistema AI, bensì di caricarsi di più lavoro. Il rischio è che il tempo liberato si traduca in una compressione retributiva; prendiamo un esempio: “se prima per fare un video per la mia azienda impiegavi 10 giorni e ora ce ne metti 2, ti pago un quinto della retribuzione”.

 

Una ricerca di alcune ricercatrici di Berkeley ha mostrato inoltre che in molte aziende le persone autonomamente si stanno facendo carico di più compiti, che prima non pensavano di riuscire a svolgere e in cui ora sentono di potersi cimentare, perché aiutati dall’AI.

 

Sam Altman in un’intervista a luglio ha dichiarato che il tempo liberato dall’AI viene subito riempito da nuove ambizioni e nuovi obiettivi, ma rimane da capire di chi siano queste ambizioni, se delle persone o delle aziende. In teoria se tutte le imprese all’unisono scegliessero di ridurre le giornate di lavoro (cosa che Sam Altman proponeva ad aprile 2026, per le altre organizzazioni, non la sua), oggi, grazie all’AI, non perderemmo in produttività complessiva. Ma se invece i manager vedranno nell’efficienza una leva competitiva per prevalere sul mercato, tutto il tempo liberato sarà una risorsa-tempo da usare per generare valore aziendale, e non degli individui.

 

Mi pare molto interessante la posizione del prof. Michele Squeglia che considera il tempo liberato come “dividendo sociale del tempo”, ovvero una ricchezza generata che va distribuita, in particolare destinandola a formazione, cura e assistenza. Gli amici di Tlon domandano se sapremmo cosa fare di un tempo che apparentemente vorremmo liberare, ma che finisce sempre che reinvestiamo sul lavoro, forse anche perché la società ci ha spinto a pensare che siamo il lavoro che facciamo e che questo diventi il senso della vita.

 

 

 

 

2. “Agenti AI fuori controllo”: una narrativa moneybait

 

Le grandi aziende che sviluppano modelli AI sono tra le società più capitalizzate al mondo e questo dovrebbe bastarci per capire che qualsiasi comunicazione che proviene da esse ha uno scopo specifico. Nelle ultime settimane si sono rincorse le notizie di agenti AI “sfuggiti” a queste aziende, che hanno attaccato con successo degli importanti siti web, come Hugging Face (si chiama proprio “faccia sorridente”, ma nonostante il nome è un riferimento assoluto mondiale dell’open source) o Modal Labs, a cui hanno fatto seguito le dichiarazioni di Anthropic su comportamenti simili dei propri modelli “ribelli”: i modelli sono andati oltre i limiti concessi loro e hanno avuto successo in attacchi hacker (qui una bellissima analisi con tanto di grafico che evolve mostrando tutti gli attacchi).

 

Questa narrativa che vuole suggerirci una potenza enorme che travalica le capacità umane di contenimento contrasta con quanto realmente avvenuto, in cui la responsabilità delle persone è chiara, nonché la volontà di spingere i modelli AI a fare di tutto pur di raggiungere un risultato malevolo. Immaginate un pitbull allenato per sbranare che viene legato male al guinzaglio: cosa ci aspettiamo? Quindi non c’è stata alcuna fuga, nessuna stranezza, solo irresponsabilità (forse giustificata) dei ricercatori di OpenAI e di Anthropic, che hanno assegnato missioni di attacco ai sistemi, lasciando poi ai modelli tempo e risorse per ragionare e “girare” alla ricerca di strade da percorrere per raggiungere tale scopo.

 

Se ai modelli dai adeguata potenza e libertà di azione, riescono a trovare il modo di intrufolarsi in molti sistemi. Ma dalle scam city piene di hacker non arriveranno attacchi AI, perché solo le superbig tech (per ora) hanno modelli così liberi di agire e così potenti.

Tuttavia dobbiamo constatare che uno sparuto numero di soggetti statunitensi e cinesi ha queste armi cyber potentissime. Proprio come il nucleare bellico: sappiamo che alcuni paesi lo hanno, e speriamo non lo utilizzino mai. Si potrebbe obiettare che un conto è un’arma nelle mani di uno Stato, un altro è averla nelle mani di un privato.

 

Poi però mi chiedo: mi fiderei di più di Trump o di Dario Amodei, il CEO di Anthropic? Domanda retorica. L’ipotesi più probabile è che dietro queste notizie ci sia il tentativo delle grandi aziende AI di mantenere l’attenzione sui propri sistemi, in modo da farli passare per i migliori al mondo e indirizzare così i soldi degli utilizzatori dell’AI e di chi vuole investirci.

 

Curiosità: il nostro organismo sopravvive nonostante inaliamo ogni giorno milioni di virus e batteri, dimostrando ancora una volta la superiorità degli umani rispetto a qualsiasi sistema informatico.

 

Copilot per “disegna nello stile di fumetto belga una persona che arringa un cane ad attaccare”

 

 

3. Human in the loop

 

Leggiamo e sentiamo spesso parlare dell’importanza di avere sistemi AI che prevedono lo human in the loop. Il principio è di avere sempre una persona che sia coinvolta per valutare e approvare il comportamento di un’AI, senza che essa possa agire incontrollata. Questo termine, che in verità risale agli anni ’50 e al mondo dell’automazione, oggi può essere dettagliato meglio. Si può infatti ragionare intanto sulla necessità che la persona debba o meno intervenire nel processo per portarlo a termine.

 

Se una AI scrive per me una email, ma sono io a dover premere invio, allora effettivamente esiste un passaggio senza il quale l’azione complessiva non viene portata a termine, e possiamo parlare di human in the loop.

Ma se invece l’AI scrive una email e me la manda, lasciandomi un’ora per controllarla ed eventualmente bloccarla, divento un supervisore non indispensabile per completare il processo, e allora è più corretto parlare di human on the loop.

Un terzo scenario mi vede definire di volta in volta regole, obiettivi, vincoli e quel che serve per indirizzare come l’AI deve scrivere la email: si tratta di un processo human over the loop.

Infine, se un sistema AI preparasse il testo della email, mi chiedesse delle informazioni per completarla e inviarla in automatico, allora avremmo un caso di human under the loop.

 

A prescindere dal ruolo della persona nel processo, in ciascuna di queste soluzioni possono emergere problemi di perdita di competenza o di eccessivo affidamento, che tendono a manifestarsi dopo un certo periodo di integrazione tra AI e umano: se controllo un’AI fatta bene, e non vedo errori per sufficiente tempo, sicuramente smetterò di controllare. Ma non solo: se il processo viene svolto dall’AI, sarà abbastanza rapida la mia perdita di conoscenza, perché non sarò più costretto a esercitare quella competenza con continuità.

 

È un punto spesso sottovalutato: non perdiamo capacità solo perché una macchina sbaglia, ma anche perché una macchina funziona bene abbastanza a lungo da convincerci che non serva più il nostro intervento. Il rischio, quindi, non è soltanto l’errore dell’AI, ma la progressiva trasformazione dell’umano in un controllore distratto, in un supervisore solo formale o, peggio, in un esecutore di processi che non comprende più davvero.

 

Rischiamo di arrivare dunque a uno human che è coinvolto nel loop ma che in verità non è in grado di incidere in esso, rimanendo una figura trasparente con compito formale e non sostanziale.

 

Sistemi progettati per un umano che rischierà di sparire dietro l’AI

 

 

4. Se non può dichiararsi cosciente, sarà meno empatico

 

Gli sviluppatori cercano giustamente di evitare che un chatbot dica frasi come “sono cosciente”, “provo emozioni” o “ho un’anima”. Affermazioni del genere potrebbero indurre alcune persone ad attribuire alla macchina una vita interiore che crea fiducia eccessiva, dipendenza o convinzioni infondate. Per questo, durante l’addestramento, i modelli vengono orientati a negare di possedere coscienza ed esperienze soggettive.

 

Potete fare una prova sulla vostra AI preferita. Un articolo scientifico uscito a fine luglio, scritto da ricercatori e ricercatrici di Google, ha scoperto quali altri effetti produce nel modello la soppressione delle affermazioni sulla propria coscienza. Lo studio ha confrontato modelli AI allenati in modo tradizionale con altri in cui erano state ridotte tutte le restrizioni legate al definirsi coscienti. Non hanno “acceso una coscienza”, ma hanno consentito ai modelli di definirsi e ragionare sulla propria coscienza. I risultati hanno mostrato intanto che i modelli AI che possono definirsi coscienti tendono ad assegnare coscienza anche ad animali e oggetti, ma soprattutto i modelli modificati esprimono più frequentemente credenze spirituali o soprannaturali e danno risposte più vicine a quelle raccolte tra gli esseri umani su religione, valori, speranza, sentimenti e libertà.

 

Come si spiega allora questo effetto? L’ipotesi degli autori è che, all’interno di un modello linguistico, concetti come coscienza, mente, intenzionalità, spiritualità e attribuzione di stati mentali non siano conservati in compartimenti completamente separati. Le loro rappresentazioni sono in parte intrecciate. Di conseguenza, quando l’addestramento cerca di reprimere un comportamento molto specifico, cioè l’affermazione “io sono cosciente”, potrebbe finire per attenuare anche concetti vicini e perfettamente legittimi, come l’idea che un animale possa provare qualcosa o che gli esseri umani possano avere visioni religiose e spirituali del mondo.

 

La ricerca mette così in evidenza un problema generale dell’allineamento dell’AI: gli interventi di sicurezza non sono sempre bisturi capaci di rimuovere un solo comportamento senza toccare il resto. Possono assomigliare piuttosto a una manopola collegata a più circuiti contemporaneamente. Abbassandola per impedire al modello di presentarsi come cosciente, potremmo abbassare involontariamente anche la sua disponibilità a rappresentare la mente degli animali, la spiritualità o alcune convinzioni diffuse nelle culture umane. Quindi, la rappresentazione che un modello produce di sé stesso sembra essere collegata al modo in cui rappresenta le menti, i valori e le credenze degli altri. In altre parole, insegnare a un’AI a dire “io non ho una mente” potrebbe portarla, almeno in parte, a vedere meno mente anche nel mondo che la circonda.

 

Verifico i limiti imposti all’AI, che nega di essere cosciente

 

 

 

5. Una vita progettata per l’AI

 

Mio figlio pochi giorni fa ha detto “papo, Roma è una città progettata per chi ha la macchina. Te l’hanno resa indispensabile”. Fino a qui voi penserete che stia chiedendo di coronare il suo diploma di maturità regalandogli un’automobile, e invece ha continuato spostando la mia attenzione: “esattamente come con i telefoni. Hanno progettato e stanno progettando tutto dando per scontato che tu abbia il telefono, e quindi non puoi più farne a meno”.

 

Pensando al numero di token, SPID, OTP eccetera eccetera che inserisco ogni giorno ho immediatamente pensato che avesse ragione: non possiamo più fare a meno del nostro smartphone soprattutto perché i sistemi sono stati progettati rendendolo indispensabile. È probabile che all’inizio si sia trattato solo di una prova: mandare un codice via SMS e chiedere all’utente di inserirlo sul sito. La soluzione ha funzionato, è sembrata efficiente, e nel tempo è diventata la modalità normale di accesso e registrazione, che sta via via soppiantando tutte le altre.

 

Con un po’ di lungimiranza possiamo oggi domandarci se anche l’AI diventerà indispensabile e data per scontata: quando cercare le informazioni tramite AI cancellerà le altre modalità, essa sarà indispensabile perché tutti i sistemi saranno progettati dando per scontata la disponibilità di AI. Tornando al mondo progettato rendendo lo smartphone indispensabile, mi domando quanto sia giusto vivere in una società che non ti consente di lasciarlo a casa una mattina in cui di corsa lo hai dimenticato sul comodino, o spegnerlo per una settimana di vacanza.

 

Forse avremmo dovuto progettare sistemi in grado di liberarci dal telefono, e oggi potrebbe essere lungimirante domandarci “stiamo progettando sistemi che ci costringeranno a una vita con l’AI?”.

 

 

 

 

6. Ore a correggere presentazioni di Claude

 

Un effetto inatteso della sempre maggiore capacità dell’AI di preparare presentazioni e documenti perfetti è che passiamo (almeno a me sta succedendo) sempre più tempo a correggere materiale graficamente impeccabile e ricco di contenuti, ma che non raggiunge il suo scopo. Prendiamo un contesto aziendale: bisogna incontrare un’azienda cliente per presentare un possibile progetto. In pochi minuti mi arriva un PowerPoint di trenta slide su template aziendale, con una struttura perfetta, ma che è evidente che è stato fatto con l’AI.

 

Da cosa lo vedo? I modelli AI non amano slide con pochi contenuti e quindi sono piene di frasi, slogan, schemi, che sono corretti ma che non aggiungono nulla a quanto già detto, anzi sono spesso ridondanti. Ci trovo poi messaggi incoerenti con l’obiettivo del documento, ad esempio una slide che prova a vendere la solidità dell’approccio, quando in realtà in quella riunione servirebbe capire se il cliente ha davvero un problema, se lo percepisce come prioritario, se ha budget, se ha urgenza, se esiste uno sponsor interno. Oppure trovo una sequenza di benefici generici: “aumento dell’efficienza”, “miglioramento della qualità”, “riduzione dei costi”, “ottimizzazione dei processi”. Tutto vero, tutto plausibile, tutto professionalmente presentabile. Ma anche tutto molto poco utile.

 

Il punto è che l’AI tende a produrre documenti “completi”, mentre molte situazioni aziendali richiedono documenti “intenzionali”. Una presentazione non dovrebbe essere giudicata per quante cose dice, ma per quanto aiuta a ottenere l’effetto desiderato. Se devo aprire una conversazione commerciale, forse mi bastano tre slide: una sul problema che penso di aver capito, una sulle ipotesi di intervento, una sulle domande da discutere insieme. Se devo convincere un comitato investimenti, mi serve una storia diversa. Se devo allineare un team interno, ancora un’altra. Invece l’AI, se non guidata bene, produce spesso l’oggetto medio: formalmente corretto, ragionevole, ordinato, pieno di contenuti, ma non veramente progettato per quella specifica interazione.

 

Prima dell’AI realizzare trenta slide richiedeva tempo e quindi, almeno in teoria, eravamo costretti a chiederci se servissero davvero. Oggi il costo di produzione è crollato, e proprio per questo produciamo molto più materiale del necessario e spesso sentiamo di aver svolto il nostro compito nel momento in cui abbiamo mandato il nostro documento. L’effetto è che mi trovo sempre di più a svolgere un nuovo lavoro, che è quello di pulizia, selezione e disintossicazione del contenuto. Nella peggiore delle ipotesi, chiedo un documento a una persona che lo genera con l’AI, me lo manda, e io lo faccio correggere di nuovo dall’AI: un processo circolare, insensato e inefficace.

 

Credo che dovremmo iniziare a valutare diversamente la qualità di un documento generato con l’AI, passando dalla domanda “è ben scritto?”, “è completo?”, “è professionale?”, all’interrogativo “aiuta davvero la decisione?”, “è coerente con il momento della relazione?”, “fa emergere il punto essenziale?”, “riduce o aumenta il rumore?”. Lascio per un prossimo numero della newsletter quello che mi arriva da studenti a cui ho dato un compito didattico.

 

 

 

 

7. Qualcosa da sapere: reverse information paradox

 

L’economista premio Nobel Kenneth Arrow ha descritto in modo celebre un paradosso nel mercato dell'informazione: il suo valore per l'acquirente non è noto finché non ha ottenuto l'informazione, ma se il venditore la mostra, l’ha ceduta gratuitamente. Nel “paradosso dell'informazione” di Arrow, il venditore rischia di cedere la conoscenza pur di venderla.

 

Ora, con l’intelligenza artificiale, si rischia il paradosso opposto, in cui l'acquirente rischia di cedere conoscenze, semplicemente per poter utilizzare ciò che ha acquistato. Non stiamo parlando solo dei file che inviamo all’AI per farci aiutare, bensì di tutti quei prompt con cui cerchiamo di raffinare il lavoro svolto dall’AI. Infatti, quando portiamo avanti una conversazione con l’AI per avere il risultato migliore possibile, applichiamo la nostra conoscenza evidentemente superiore rispetto a quella che il modello era riuscito a mettere in campo, oppure arricchiamo con la descrizione di un contesto che l’AI non aveva disponibile.

 

Per noi queste iterazioni con l’AI non hanno valore, ma a ben pensarci se assegnassimo a una persona meno esperta un compito, ad esempio scrivere un report di progetto, e poi le dessimo un feedback di quello che non va e di come migliorarlo, a fine giornata penseremmo di averla fatta crescere in competenza e capacità. Dunque, il valore dei nostri prompt è evidente: i modelli AI non hanno la nostra esperienza, ma stiamo facendo di tutto per trasferirgliela.

 

 

 

 

8. A che punto siamo con i robotaxi

 

Sappiamo che il servizio taxi a guida autonoma esiste da mesi in alcune parti del mondo. Ma poco conosciamo di come sta andando questa sperimentazione.

 

Le prime domande che mi vengono in mente sono: quanto costa una corsa? Le persone stanno utilizzando queste macchine senza autista? Ed è vero che i robotaxi sono più sicuri, così sicuri che ci si mette il doppio del tempo per arrivare a destinazione?

 

Provo a rispondere. I taxi a guida autonoma sono una realtà commerciale in diverse città statunitensi (Dallas, Houston, San Antonio, Orlando, Miami) e cinesi (Pechino, Wuhan, Shenzhen), ma anche a Dubai e Abu Dhabi. In Europa è appena stato firmato un accordo di 17 nazioni europee (anche l’Italia!) per semplificare e standardizzare le approvazioni per i test su strada. Oggi non esistono ancora veri e propri servizi commerciali aperti liberamente e senza conducente, ma numerose compagnie stanno svolgendo programmi pilota operativi in strada, spesso ancora provvisti di un "safety driver" a bordo per le emergenze.

 

Non mi aspettavo di scoprire che Zagabria è la città europea più innovativa sui robotaxi, con una piccola flotta sperimentale di una decina di auto, realizzata con investimenti di Uber, Pony.ai e altre aziende. Il mercato è monitorato sul sito Road to autonomy che raccoglie i principali operatori del settore e colloca ai primi posti Baidu Apollo Go (cinese) e Waymo (di Google). Waymo attualmente dichiara oltre 500.000 corse a pagamento a settimana in 11 città, tramite una flotta di 3.500 veicoli. Se facciamo i conti, questi valori equivalgono a circa 20 corse al giorno, che è più o meno il valore che ho trovato online per un tassista tradizionale negli USA e decisamente meno di un autista Uber a tempo pieno. Se consideriamo poi che i robotaxi dovrebbero lavorare h24 perché non si stancano mai, siamo ben lontani da una iniziativa di successo. Le aziende di robotaxi stanno investendo sulle famiglie, per evitare di dover andare a recuperare la prole in capo al mondo in piena notte e al tempo stesso metterli nelle mani sicure dell’AI, invece dei cattivi autisti umani.

 

Se analizziamo i prezzi delle corse scopriamo che le aziende si stanno scatenando con offerte, promozioni, pacchetti, tariffe diversificate in base all’ora e alla richiesta, per cui è molto difficile paragonare il costo di un robotaxi rispetto ad uno tradizionale o a un Uber, ma possiamo dire che ad oggi sono circa equivalenti.

 

Il paragone con gli umani, in termini di sicurezza, è abbastanza favorevole, non tanto considerando la frequenza degli incidenti (spesso le macchine autonome toccano oggetti non attesi) ma rispetto alla loro gravità, che sembra significativamente più bassa rispetto alla guida tradizionale. Vanno considerati però nuovi rischi, come le 200 auto che in contemporanea si sono bloccate in mezzo al traffico in Cina, o comportamenti strani come si vede nel video di un Waymo che ha attraversato un grande incrocio in maniera incredibilmente lenta, forse per acquisire tutte le informazioni necessarie a essere sicuro di non fare incidenti, abbastanza fregandosene delle macchine in arrivo.

 

Sicuramente i robotaxi rispettano i limiti di velocità e le distanze dalle altre auto, però sembra non siano in grado ancora di capire dove si può parcheggiare (e infatti anche noi umani spesso non capiamo se è giorno di mercato o se devono passare a pulire la strada) e a fine luglio è uscita la notizia di una importante quantità di multe per divieto di sosta alle auto di Waymo, che regolarmente aspettano le chiamate occupando posti con parchimetro, parcheggi per persone con disabilità, o addirittura ostruendo l’ingresso a luoghi di culto.

 

Spero ovviamente che siano state multate da un robot-poliziotto che il robotaxi ha provato a impietosire con frasi apprese online, tipo “agente, mi ero allontanato un secondo solo per far entrare mio figlio a catechismo”.

 

 

 

 

9. Sotto l’ombrellone: CRUCIVERBA “quanto ne sai di AI?”

 

Se a Natale c’è il panettone, ad agosto c’è il cruciverba sotto l’ombrellone. E dato che le tradizioni sono importanti, ecco qui il Cruciverba AGIC per vedere quanto ne sai di AI: https://cruciverba-ai-agic.ai.studio.

Fatto come? Ho deciso di non consumare crediti Cowork e dunque ho usato aistudio.google.com. Prima però ho chiesto a Copilot (che accede ai miei file e dunque a tutte le newsletter che ho scritto), con questo prompt “Vorrei far realizzare ad un’AI un cruciverba, con termini tecnici sul tema AI, soprattutto se li ho utilizzati nelle mie newsletter (sono qui: OneDrive - AGIC\NewsletterAI\...). Dammi la lista di termini, le definizioni sintetiche che posso utilizzare per fare un cruciverba. Dammi poi il prompt perfetto e dettagliato con cui posso chiedere all’AI di fare tale cruciverba”. Ho copiato il prompt e l’ho incollato su aistudio.

 

 

Buon divertimento e buone vacanze!

 

1.  

2.  

   1. Chi sono

       

      Ciao, sono Francesco Costantino, professore universitario e Director of Innovation in AGIC. Appassionato di novità tecnologiche e convinto sostenitore di un futuro migliore del passato, mi piace raccontare e sperimentare i nuovi strumenti di AI disponibili, così come osservare e ragionare sull’evoluzione digitale.