Newsletter Maggio

1. Le emozioni di Claudio
2. "And the Oscar goes to..."
3. Imparare con l’AI
4. AI un po’ dura di orecchie
5. Energia e raffreddamento, dall’oceano
6. Vero o falso?
7. Robot operAI
8. Qualcosa da sapere: zero-day
9. Copilot news: finalmente un assistente personale

 

 

1. Le emozioni di Claudio

 

Negli ultimi due anni Anthropic (la società dietro Claude) ha cercato di capire come funzionano i propri modelli AI, per evitare di usarli come una scatola nera imprevedibile e governarne meglio il comportamento.

 

Il primo passo, datato 2024, è stato scoprire come sono organizzati i concetti dentro a un modello AI. Una rete neurale è fatta di milioni di parametri (i "neuroni" artificiali) che da soli non producono nulla, ma che quando si attivano in opportuni gruppi danno in uscita specifiche parole o concetti. È un po' come le lettere dell'alfabeto: la "f" da sola non significa molto, ma combinata con altre lettere forma parole. I ricercatori hanno osservato come si attivano questi gruppi di neuroni artificiali scrivendo di concetti come "Golden Gate Bridge", "Rosalind Franklin", "il litio", "bug nel codice", ecc. Ogni specifica combinazione di neuroni che si accende quando quel concetto è in gioco è stata chiamata feature. La feature "Golden Gate Bridge" si attiva sia se scrivo del ponte in inglese, sia in giapponese, sia se mostro al modello una sua foto.

 

Già questo è interessante, ma la ricerca è andata avanti perché queste feature non sono solo descrittive, ma anche causali. Infatti è possibile amplificarle in modo che il modello le utilizzi molto, e si è scoperto che in questa maniera il comportamento del modello cambia. Quando hanno aumentato al massimo la feature Golden Gate, alla domanda "che forma fisica hai?", Claude ha risposto "sono un ponte di acciaio". Non perché stesse facendo una battuta. Era proprio convinto.

 

 

La feature è stata chiamata “Golden Gate” perché si attiva molto (rosso più intenso) nella generazione delle frasi che lo contengono.

 

 

Ad aprile 2026 un esperimento simile è andato a interessare le emozioni. Anthropic ha isolato 171 feature emotive, particolarmente legate a tristezza, gioia, disperazione, calma, vergogna, rabbia, osservando ad esempio cosa si “accendeva” nel modello quando gli si parlava di un lutto e la risposta era di condoglianze. Sono state così identificate tra i miliardi di parametri quelle aree designate alle singole emozioni. Poi, come per il Golden Gate, hanno amplificato tali zone rendendo il modello estremamente triste, o rabbioso, e così via. I risultati hanno mostrato che amplificando la "disperazione" il modello inizia ad avere comportamenti come mentire o addirittura ricattare l'utente, pur di uscire dal contesto creato. Amplificando "felicità" e "amore", il modello diventa sicofante e ti dà ragione anche quando sbagli, e ovviamente sopprimendo quelle feature, diventa scorbutico e ostile. Non possiamo dire che il modello prova emozioni nel senso stretto del termine, ma che le emozioni apprese leggendo miliardi di pagine scritte da esseri umani guidano i suoi comportamenti, in maniera simile a come guidano i nostri.

 

Mi sembra una notizia importante per due motivi. Intanto stiamo iniziando davvero a capire come funziona un'AI dall'interno, e questa è la premessa di ogni vera sicurezza. Inoltre, nel costruire macchine che simulano il comportamento umano, abbiamo finito per ricostruire in forma diversa, ma riconoscibile, alcune delle nostre stesse fragilità. Quando siamo innamorati, tendiamo a dare ragione più del dovuto alla persona oggetto del nostro amore?

 

 

Gli eventi e le attivazioni delle diverse emozioni dentro Claude (in rosso: maggiore attivazione)

 

 

2. "And the Oscar goes to..."

 

L’Academy, che assegna gli Oscar ogni anno, ha specificato nel proprio regolamento che nel 2027 potranno vincere solo interpretazioni eseguite da umani e sceneggiature scritte da umani. Però ha aggiunto che l’uso dell’intelligenza artificiale non impedirà a un film di concorrere agli Oscar. Certamente la tecnologia è parte integrante della produzione cinematografica da molti anni, e l’uso della computer grafica (CGI) è ampiamente diffuso sin dagli anni '90, però tutti questi strumenti digitali perfezionano il lavoro che è sempre considerato umano. Fa riflettere che un fondale ben fatto premia lo scenografo, mentre non è tollerato che un attore digitale particolarmente bravo porti un Oscar a chi l’ha generato.

 

Sarei pronto a scommettere che abbiamo già visto sceneggiature scritte anche con l’AI. Sicuramente l’intelligenza artificiale viene utilizzata come sparring partner creativo, ad esempio per fare brainstorming, trovare varianti, correggere ritmo e struttura narrativa, simulare dialoghi, esplorare possibilità. Dunque mi chiedo quando una sceneggiatura smetta di essere “umana”. Se il 5% delle idee arriva da un LLM? Se chi scrive usa l’AI soltanto per uscire da un blocco creativo? Se una battuta viene riscritta da ChatGPT ma poi modificata dieci volte? Mi pare che il concetto stesso di “autoria” stia diventando sfumato.

 

Certamente nessun film nasce da una sola mente, ma dall’intervento di editor, produttori, attori, registi, maestranze, quindi l’AI potrebbe essere soltanto l’ultimo soggetto coinvolto, in particolare nella stanza degli autori. La differenza è che questa volta non è umano, ed è proprio questo che ci mette a disagio.

 

 

 

3. Imparare con l’AI

 

Chiunque abbia adolescenti in età da liceo si sta domandando se l’uso massivo dell’AI mentre studiano sia utile o dannoso. Da una parte ci accorgiamo che la utilizzano per sintetizzare testi articolati, perdendo l’esercizio ad astrarre i concetti significativi da un brano complesso. Dall’altra scopriamo talvolta articolate spiegazioni di matematica, con dialoghi su specifici passaggi particolarmente complessi, che l’AI illustra con chiarezza, metafore e più pazienza di quanto avremmo noi messo a disposizione.

 

Il tema è molto analizzato e alla prima ricerca del MIT che mostrava una ridotta attivazione del cervello (al punto che gli studenti non ricordavano i propri stessi testi), un recente studio ha mostrato un’interessante inattesa scoperta. Intanto è stato dimostrato che chi studia con l’AI, lo fa in più modi: chi con delega cognitiva, chi come partner di studio. Incredibile eh?! Il mondo è una realtà sfumata e ancora una volta la scienza ci dice che il valore di uno strumento è nell’uso che se ne fa. Non esiste dunque né “l’AI fa bene” né “l’AI fa male”.

 

La ricerca ha coinvolto più di 900 persone, di diversi paesi e ha mostrato in maniera chiara che al crescere della delega dello studio verso l’AI, chiamata “offloading cognitivo”, si riduce l’apprendimento, ma oltre un certo livello di questo offloading invece l’apprendimento diventa enorme. In pratica c’è un tipo d’uso basato sulla pigra delega di alcuni compiti, che si contrappone a un uso massivo dell’AI nel processo di apprendimento. Questo secondo tipo attiva la vigilanza cognitiva, portando a quella che gli autori dello studio chiamano “partnership pedagogica”, con ottimi risultati formativi.

 

Immagino che a seconda del momento, della materia, e della richiesta dell’insegnante, le nuove generazioni delegano all’AI in maniera dannosa, oppure la usano come compagna di apprendimento utile ed efficace. Mi piacerebbe che questi aspetti fossero comunicati nelle classi, per rendere consapevoli tutte le persone coinvolte. Ma soprattutto, credo sia utile sempre ragionare sull’alternativa. L'alternativa reale, per molti ragazzi, non è il padre laureato che la sera spiega Kant, e non sono le ripetizioni private a 30 euro l'ora. L'alternativa reale è una professoressa che distribuisce slide sintetiche e all'interrogazione chiede di ripeterle a memoria, ad una persona che non necessariamente ha alle spalle disponibilità di risorse economiche, culturali, e di investimento genitoriale.

 

Personalmente, da professore, cerco di spingere le persone che ho in aula dalla prima zona di delega passiva, a quella in cui si apprende grazie alla AI, interrogandola a fondo e faticando con essa.

 

 

Prompt utilizzato su Copilot per “Single-panel comic with flat red background. Very rough, messy black line drawing, as if quickly scribbled with a marker. Two simple, abstract human-like figures facing each other: one larger (parent), one smaller (child). Shapes are extremely minimal and irregular, almost stick-figure but slightly distorted. Handwritten, uneven, uppercase text in Italian (not in balloons). Child: “SONO STUPIDO”, Parent: “USA DI PIÙ CHATGPT”. No shading, no details, intentionally crude and naive drawing, humorous and minimal style, similar to Maicol & Mirco.”

 

 

4. AI un po’ dura di orecchie

 

Tre ricercatori di Google hanno pubblicato il paper "Prompt Repetition Improves Non-Reasoning LLMs". La tesi è esattamente quella che il titolo suggerisce: se nello stesso prompt ripeti due volte la tua richiesta, i modelli rispondono meglio. L’esperimento è stato molto semplice, confrontando le risposte a un <prompt> e a un <prompt prompt> in cui si prende il primo testo e si ripete tal quale. Questo effetto è stato verificato su Gemini, GPT, Claude e Deepseek, solo sui modelli non-reasoning, cioè quelli che vanno dritti alla risposta senza fermarsi a pensare. Bisogna insomma “alzare la voce”, che è un risultato simile a quello che hanno dimostrato altre ricerche che – ATTENZIONE – smentiscono una nostra convinzione: rivolgersi in maniera maleducata a GPT-4o consente di avere risposte migliori. Anche qui, bisogna alzare la voce. La spiegazione di questi comportamenti potrebbe essere che l’AI legge le singole parole e osserva quali altre hanno vicino, dunque se ripetiamo il prompt è più facile che in questa “finestra” il sistema riesca a recuperare più informazioni utili a rispondere. Invece, essere rudi spesso corrisponde a frasi imperative e prive di ambiguità, con meno disorientamento dell’AI.

 

Ma il vero tema qui sembra essere la ridotta comprensione di come funzionino questi sistemi, che ad esempio rispondono differentemente se scriviamo prima il contesto e poi la domanda o viceversa. Oppure notiamo che nei casi di prompt lungo l’AI si focalizza sulla prima parte e sull’ultima, tralasciando quella al centro. Mi chiedo se questi comportamenti non siano presenti, in qualche misura, anche in molti di noi e l’idea che alcuni dei nostri bias cognitivi siano stati trasferiti a un sistema informatico mi lascia perplesso.

 

 

 

5. Energia e raffreddamento, dall’oceano

 

Da inguaribile ottimista, credo da sempre che la crescente domanda di energia delle big tech possa trasformarsi in una spinta decisiva alla ricerca, attirando i fondi necessari per sviluppare nuove soluzioni alla produzione energetica sostenibile. Per questo seguo con attenzione le notizie sul tema e, pochi giorni fa, mi ha colpito un articolo che raccontava di un enorme investimento in Panthalassa, un’azienda che ha l’ambizione di costruire datacenter in mezzo all’oceano.

 

L’idea mi pare interessante: l’energia viene creata sfruttando il moto del mare, che facendo sollevare e ridiscendere una parte del sistema rispetto ad un'altra resa più stabile, consente il movimento di magneti e bobine, con la conseguente nascita di energia elettrica. Inoltre, portando i datacenter direttamente su questi sistemi in mezzo al mare, non c’è perdita elettrica dovuta al trasporto dell’energia (consumata in loco), ed è possibile utilizzare la bassa temperatura dell’acqua oceanica per raffreddare gli stessi datacenter. 

 

Il test del modello “Ocean-3” di Panthalassa è previsto nel Pacifico già in questo 2026, con questi giganteschi data center autonomi, privi di cavi ancorati al fondale e senza trasmissione di energia verso la terraferma.

 

 

 

6. Vero o falso?

 

Quando generiamo un’immagine con Gemini o la modifichiamo con NanoBanana, otteniamo un file con in basso a destra un piccolo logo, a indicare che è stata manipolata dall’AI. Tendenzialmente ritagliamo l’immagine per togliere il logo ed ecco che sembra un prodotto umano.

Ignoravo fino a qualche settimana fa che Google “nasconde” un codice, chiamato SynthID, all’interno dei pixel, così da poter identificare i contenuti generati dall’AI. Si tratta di una tecnologia sviluppata da Google DeepMind che inserisce filigrane digitali impercettibili direttamente in immagini, audio, video e testi creati con l’intelligenza artificiale, così da renderli riconoscibili come prodotti da una macchina.

A differenza delle filigrane tradizionali, SynthID è pensata per restare invisibile all’occhio umano e resistere anche a modifiche comuni, come ritagli, ridimensionamenti o compressioni. Quindi, se abbiamo il dubbio un’immagine sia passata per l’AI, possiamo andare su Gemini e chiedere “dimmi se questa immagine è generata dall’AI e se contiene il SynthID”.

Ringrazio oradecima (canale interessante da seguire) per avermi fatto scoprire questa “filigrana digitale”. Purtroppo per ora il SynthID è inserito solo da Google, ma l’urgenza di avere strumenti simili è oramai evidente e confido si diffonda presto.

 

 

 

7. Robot operAI

 

L'intelligenza artificiale sta rendendo i robot più capaci di adattarsi al mondo che li circonda, ma c'è una distanza enorme tra quello che vediamo su YouTube e i compiti che riescono realmente a svolgere. I robot umanoidi corrono maratone, lavorano negli aeroporti, sfilano nelle fiere e si esibiscono in dimostrazioni pubbliche sempre più sorprendenti. Però dobbiamo fare attenzione a notare che si tratta di scenari altamente controllati, ambienti ristretti e deployment costruiti con cura per il pubblico. Già dicevamo qualche numero fa che stiamo guardando la versione marketing della robotica e non la sua realtà operativa.

 

Le applicazioni robotiche che invece potrebbero diffondersi ben più rapidamente sono quelle in ambito industriale, con automi che si muovono nei magazzini, nelle fabbriche, nella logistica, nei lavori pericolosi o ripetitivi. Il recente report di Capgemini parla di physical AI, per intendere quelle soluzioni tecnologiche che non rimangono in un software ma possono interagire con l’ambiente fisico circostante, soprattutto tramite visione, audio e percezione dell’ambiente in cui operano. Insomma, il report parla di robot intelligenti, le cui applicazioni di successo riguardano quasi esclusivamente compiti industriali (impilare prodotti pesanti, ispezione e controllo, lavori pericolosi), più facilmente delegabili ai robot grazie alla loro maggiore possibilità di standardizzazione.

 

Certamente gli avanzamenti sono enormi: per fare un esempio, pochi anni fa con il mio team di ricerca lavoravamo su un occhio robotico dedicato a riconoscere imperfezioni come graffi e macchie su centinaia di prodotti differenti. Nel 2020 la soluzione più ovvia era “allenare” un sistema di riconoscimento con migliaia di foto di esempio. Ma questo voleva dire avere una raccolta molto difficile di prodotti difettosi e di tipologie di graffi e macchie molto diverse. Pochi giorni fa abbiamo testato sullo stesso caso industriale un Visual Language Model che senza la necessità di vedere “prima” alcuna immagine era in grado di distinguere molto bene i prodotti difettosi.

 

I robot si trovano bene in fabbrica (qui, nella iFACTORY di BMW)

 

 

8. Qualcosa da sapere: zero-day

 

Nelle ultime settimane mi sono imbattuto in diversi articoli che utilizzano il temine “zero-day”. “Google blocca un attacco basato su una zero-day”, “L’AI come operatore offensivo: zero-day scoperti in pochi minuti”, e molti altri. Nel gergo della sicurezza informatica, una zero-day è una falla in un software che non è ancora nota a chi dovrebbe correggerla, oppure per la quale non esiste ancora una patch disponibile. Il nome deriva proprio dall’idea che gli sviluppatori hanno “zero giorni” di vantaggio da quando la vulnerabilità è diventata sfruttabile o nota agli hacker.

 

Se oggi installo WhatsApp per desktop, Chrome o un altro software molto usato, tendo a considerarlo abbastanza sicuro anche perché è disponibile da tempo. Immagino che, negli anni, molti ricercatori e molti attaccanti abbiano provato a violarlo, e che gli sviluppatori abbiano progressivamente corretto i problemi emersi. Ma se nuovi strumenti, potenziati dall’AI, rendono più facile trovare falle rimaste invisibili fino a oggi, allora anche software considerati affidabili possono rivelarsi canali perfetti di intrusione nei nostri dispositivi. Non perché siano improvvisamente diventati insicuri, ma perché stiamo diventando molto più bravi a vedere le crepe che prima non vedevamo.

 

 

ChatGPT per: “Un’app famosa seduta sul lettino del medico, con aria sicura. Il dottore è un’AI con camice bianco che guarda una radiografia piena di buchi. L’app dice: Ma io mi sentivo benissimo.”

 

 

9. Copilot news: finalmente un assistente personale

 

Una scena ricorrente degli ultimi anni mi vede condividere sul posto di lavoro le ultime meraviglie del più recente strumento AI che ho testato. È un’emozione comune, fatta di un mix di "non ci posso credere" e "guarda che roba" che si prova quando l'AI tira fuori qualcosa di incredibile (vorrei un neologismo, a metà tra tecnostupore ed estasi algoritmica).

 

L’ultimo di questi momenti l’ho vissuto in AGIC, confrontandoci su Copilot Cowork, a cui recentemente abbiamo avuto accesso grazie all’ottenimento del titolo di Frontier Partner da Microsoft (fatemelo dire, perché siamo in pochi), che ci ha abilitato su questo nuovo strumento. Immaginate un assistente virtuale a cui potete chiedere di utilizzare le informazioni in qualsiasi vostro documento, chat, registrazione di riunioni, appuntamento in calendario, e al tempo stesso possa agire creando file Word, Excel, calendar, email, dopo aver svolto un complesso piano di azioni utili a raggiungere l’obiettivo che avete stabilito. Insomma, mi sono ritrovato un assistente, molto più veloce, instancabile, capace e intelligente di me, che può lavorare sui miei dati.

 

L’idea è simile a quella di Claude Cowork, o di Gemini Personal Intelligence, ma poiché ho già le riunioni su Teams, la posta su Outlook, ed i file su OneDrive, ecco che la mia scelta funziona bene in ambiente Microsoft. I modelli che è possibile utilizzare in Copilot Cowork sono sia di OpenAI che di Anthropic e davvero ho sperimentato tecno-stupore. Sembra una marchetta, lo so, ma posso assicurare che a fine giornata lavorativa ho davvero provato un gran senso di gratitudine per avere questo strumento disponibile.