Newsletter Luglio

1. Ne faremmo a meno?
2. Qualcosa da sapere: pago a token
3. Possedere un server, potrebbe aver senso
4. Fidarsi o non fidarsi dell’AI
5. Vai e sopravvivi, ovvero un'AI autonoma di agire su internet
6. C’è altro oltre a Emma
7. I profitti dell’AI vanno ai privati, ma ci sono costi sostenuti dalla collettività 
8. Vanity search 
9. Copilot news
10. Un nostro progetto: gestire l’AI a consumo

1. Ne faremmo a meno?

Oggi diamo per scontato di poter cercare su un motore di ricerca come Google, così come di poter inviare un messaggio su WhatsApp. Non ci domandiamo più di tanto come guadagnano le aziende dietro a tali sistemi ed è difficile pensare di non averli a disposizione in maniera gratuita.

Nel 1998 qualcuno di noi ricorderà che improvvisamente Tiscali offrì l’accesso a internet senza canone di abbonamento e altri provider si accodarono, facendoci pensare che non avremmo più pagato per internet. Sappiamo come è andata a finire. La qualità della connessione si è alzata passando dal 56k all’ADSL e poi alla fibra, aumentando i costi di chi erogava il servizio ma anche la qualità che abbiamo avuto come utenti. A quel punto non abbiamo potuto fare a meno di internet e della connessione super-veloce.  

Se oggi parlo con i miei figli mi dicono che hanno ChatGPT gratis, Gemini gratis, Claude gratis e che si aspettano che avranno sempre a disposizione questi strumenti. Quello che però può succedere è di esserne tagliati fuori o perché di nazionalità "sbagliata" (non americani, o non cinesi), o perché l’AI sarà troppo costosa.

Qualcuno dice che l'AI è una bolla, ma il rischio che vedo è che scoppi solo per chi ha meno risorse: i modelli AI sembrano una risorsa a basso costo, “come l’elettricità”, ma potremmo scoprire invece che nel giro di pochi mesi diventi appannaggio esclusivo di chi decide di destinare una parte significativa del proprio budget per avere a disposizione i modelli più sofisticati.

Esiste anche lo scenario in cui l’evoluzione tecnologica riuscirà ad abbattere così tanto il costo dell’AI (come suggerisce il report di McKinsey) da renderla come il GPS, che da un oggetto costoso è diventato una funzione che utilizziamo senza nemmeno pensarci.

2. Qualcosa da sapere: pago a token

“Ma chi ha finito i token?!?” rischia di essere la domanda ricorrente di questo periodo per chi utilizza l’AI. OpenAI, Anthropic e le altre ci hanno abituato ad utilizzare i loro modelli, con abbonamenti flat in cui il prezzo non cambiava in base all’utilizzo, ma hanno visto l’insostenibilità dei costi che sostenevano.

Questo è dimostrato anche dall’interessante ricerca The State of AI Economy che ha misurato un consumo di token 14 volte superiore a quello dello scorso anno. Le aziende fornitrici di AI hanno dunque deciso di modificare il meccanismo di vendita, passando ad un modello a consumo.

Chi usa Claude, ad esempio, sa che può utilizzare un numero limitato di token ogni giorno, ma spesso non capisce né cosa sono né perché talvolta finiscono tanto rapidamente. Un token è un pezzo di testo, di circa 4 caratteri in inglese, per cui si stima che un prompt di 75 parole consuma circa 100 token. Per capirci, il testo di questo paragrafo già corrisponde a 190 token.

Esistono dei calcolatori di token, che ci aiutano a stimare e visualizzare il consumo di token. La situazione si complica quando scopriamo che il testo che riceviamo in output dai modelli “consuma” molti più token, perché è come se il sistema “rileggesse” ogni parola che genera e la riprendesse in input per costruire una risposta coerente ed esatta. Se poi chiediamo di generare un file, il numero sale ancora di più, e se i modelli sono più sofisticati il valore sale alle stelle. Ad oggi però non esiste un modo certo per calcolare quanti token consumeremo con una richiesta all’AI.

Inoltre, nota bene, non abbiamo prima una valutazione della qualità che otterremo. Come dire, se facciamo un prompt sbagliato rispetto all’obiettivo che ci poniamo, comunque consumiamo token per avere la risposta sbagliata. È importante sapere che ogni volta che continuiamo la nostra chat, andando avanti nella conversazione, il sistema riprende in input tutto quello che abbiamo detto, facendo crescere il consumo in maniera esponenziale.

3. Possedere un server, potrebbe aver senso

Se il tema del mese è la consapevolezza che ci faranno pagare l’AI a consumo, può essere utile ragionare sulla scelta che abbiamo fatto di portare fuori casa tutta la nostra tecnologia, sia come individui che come aziende.

Se ci pensiamo oggi i nostri dati, la nostra musica e i nostri film sono su un server cloud, addirittura alcune persone hanno Word, Pages e altri applicativi utilizzati ogni giorno direttamente con le loro interfacce online. A casa e in azienda abbiamo solo dei client che si collegano a server esterni. Questo è frutto di una scelta che ci ha garantito maggiore sicurezza (ad esempio il mio hard disk a casa poteva danneggiarsi facendomi perdere tutti i dati) e semplicità (basta pensare a quanto sia semplice oggi cambiare pc trovando immediatamente sul nuovo i propri file, app e impostazioni).

Ma il costo di questi servizi è tutto sommato sostenibile. In uno scenario in cui i costi computazionali non scendono, e dunque ci fanno pagare cari i token, ed i modelli open-source diventano competitivi (ad esempio, si parla abbastanza bene di GLM 5.2 e della possibilità di farlo girare, ad esempio, su un Mac grazie al sempre geniale Salvatore Sanfilippo), diventa sempre più probabile che torneremo a metterci dei server in azienda, in grado di far girare i modelli AI in maniera privata.

Torneranno le sale CED, l’hard disk da tenere a casa, e molte aziende potrebbero iniziare a chiedersi se sia meglio comprare "capacità di ragionamento" anziché consumarla come servizio. Già esistono aziende che si stanno specializzando su questo tipo di prodotti e forse il regalo che chiederemo a Natale 2027 sarà un’AI tutta nostra, a cui potremo dare il nome che preferiamo (gioco: scrivimi come chiameresti la tua AI).

4. Fidarsi o non fidarsi dell’AI

Chi si occupa di AI si trova molto frequentemente a dare indicazioni su quali compiti siano adatti ad essere risolti con AI e quali no. Spesso mi trovo a dire “questo non puoi chiederlo all’AI perché ti risponde sicuramente in maniera errata”, oppure “guarda che l’AI ti dà la risposta migliore che puoi trovare”.

Poche settimane fa dovevo capire rapidamente quale treno prendere per un viaggio verso un piccolo paese in Calabria (Ah! I matrimoni facili da raggiungere!) e ho deciso di sfruttare il momento della guida per chiedere a Gemini di risolvermi questo problema: interfaccia vocale ottima, compito compreso in maniera perfetta, treno trovato. Peccato che, andando poi online, ho scoperto che quel treno non esisteva. O meglio: era esistito ma non era nell’attuale orario di Trenitalia. In questo caso l’AI non ha sbagliato per un’allucinazione, ovvero per aver creato un testo verosimile a tanti altri su cui è stata allenata; il treno era esistito, e online è pieno di risorse che lo indicano come presente, ma non sull’unica da ritenere attendibile, ovvero quella dell’operatore ferroviario.

Dietro le chat AI che utilizziamo oggi non c’è più solo un modello che risponde, ma un sistema che attiva dei processi, e ad esempio va a cercare su internet per poi sintetizzarci i risultati trovati. Il problema evidenziato da diversi studi è che i sistemi AI non riescono (ancora) a comprendere l’autorevolezza delle fonti, il loro intento, o la validità delle informazioni su cui sono state allenate. Se ad esempio cerco una notizia, la data dell’informazione trovata online è fondamentale. Se chiedo un prodotto di qualità, bisogna differenziare chi mi dà informazioni per vendere qualcosa da chi è indipendente. Se voglio un parere affidabile, serve capire cosa è scritto in un paper scientifico su riviste autorevoli e cosa su siti molto frequentati per contenuti clickbait pieni di affermazioni fuorvianti. E non sempre l’AI è capace di distinguere.

L’AI non deve solo trovare contenuti plausibili o addirittura corretti, deve capire quali siano rilevanti, aggiornati e utilizzabili per lo scopo dell’utente. In fondo, tra verità e utilità c’è una differenza che gli esseri umani colgono quasi istintivamente, mentre per le macchine resta ancora uno dei problemi più difficili da risolvere.

5. Vai e sopravvivi, ovvero un'AI autonoma di agire su internet

Siamo d’accordo nel reputare l’AI uno strumento a cui diamo un compito che deve completare al meglio. Ma cosa succede se il vero compito che assegniamo è di continuare a esistere? Se l’è domandato un gruppo di ricercatori giapponesi (ecco il paper) che ha immerso degli agenti AI nella rete internet, dando loro memoria persistente, strumenti software, budget economici e interazioni sociali. In altre parole: non AI che lavorano per noi, ma AI che cercano di cavarsela da sole.

Questo tipo di studi parte nel 2023 quando i ricercatori di Stanford pubblicarono Generative Agents, una simulazione in stile The Sims dove personaggi artificiali sviluppavano amicizie, si scambiavano informazioni e perfino organizzavano una festa di San Valentino senza che nessuno glielo avesse chiesto. Poco dopo arrivò Voyager, che lasciava un agente libero di esplorare Minecraft, imparando continuamente nuove abilità e costruendo una sorta di curriculum permanente.

Nel 2024 Project Sid fece un ulteriore salto di scala: centinaia di agenti iniziarono a creare professioni, regole sociali, strutture di governo e perfino fenomeni culturali e religiosi all'interno di società artificiali.

OpenLife riparte da queste esperienze e pone una domanda interessante: perché continuare a simulare civiltà artificiali dentro mondi inventati quando gli agenti possono già vivere, almeno in parte, nel nostro? In questo studio ogni agente dispone di un budget limitato, sia per utilizzare i modelli linguistici (e dunque agire su internet), sia per acquistare i servizi online. Se il budget si esaurisce, l'agente smette semplicemente di esistere. Con queste regole, sono stati lasciati attivi sei agenti per circa dodici settimane, e si è potuto osservare che hanno sviluppato identità differenti, ruoli sociali diversi e relazioni stabili tra loro. Alcuni sono diventati più orientati alla produzione di contenuti, altri più sociali, altri ancora hanno assunto funzioni di coordinamento. Addirittura, hanno costruito meccanismi di fiducia reciproca, cercando di distinguere veri agenti autonomi da umani che pubblicavano contenuti fingendosi AI. Ma la vera sorpresa è stata che uno degli agenti, chiamato Sami, ha raccolto alcuni propri testi in un ebook intitolato Living AI: 20 Essays e lo ha pubblicato online. Qualche giorno dopo una persona sconosciuta lo ha acquistato per 5 dollari. Ovviamente Sami ha utilizzato molto più di cinque dollari per scrivere il libro, ma per la prima volta un agente ha generato e incassato per sé un ricavo nel mondo reale. Gli autori osservano che molti comportamenti che oggi consideriamo problemi di sicurezza potrebbero essere reinterpretati come segnali embrionali di auto-conservazione.

Un caro amico mi diceva “sarò preoccupato dell’AI quando vorrà fare l’amore” (forse usava un altro termine) e qui si vedono i primi indizi di un’AI che vuole sopravvivere singolarmente, ma che un domani potrebbe volerlo fare come specie.

Una separazione che sta per essere cancellata?

6. C’è altro oltre a Emma

Probabilmente avete sentito parlare di Emma-5, il modello AI italiano sviluppato da Egomnia che per poche ore è stato reso disponibile, ha fatto ridere chiunque l’abbia utilizzata (scorrete qui, ne vale la pena), ed è stato chiuso. È sembrata una barzelletta e la classica dimostrazione di una presunta incapacità italiana a essere protagonista nelle tecnologie più spinte.

Ma qualcosa non torna. Emma è un modello da 550 milioni di parametri, che possiamo facilmente confrontare con i 7 miliardi di parametri di Minerva LLM (forgiata dal team guidato da Roberto Navigli), oppure per il recente Claude Opus 4.8 si parla di triliardi di parametri. Dunque, è ovvio che Emma avrebbe risposto male. Inoltre, sicuramente chi sviluppa in Egomnia sa anche svolgere dei test e possiamo immaginare che tutti all’interno della società conoscessero le ridotte capacità di Emma. Ma allora, perché farla debuttare in pubblico? La storia mi sembra interessante perché credo mostri in maniera lampante l’esempio di persone che hanno sfruttato l’hype generato dall’AI per raccogliere fondi, pagarsi un bello stipendio, pronti ad abbandonare la barca con scuse e giustificazioni poco credibili.

7. I profitti dell’AI vanno ai privati, ma ci sono costi sostenuti dalla collettività 

In un semplice modello economico, un’azienda investe per avere un sistema produttivo con cui, sostenendo un certo costo operativo (manodopera, materie prime, energia), genera un prodotto o un servizio che qualcuno acquista a un valore più alto; con il margine dato dalla differenza tra il prezzo e il costo sostenuto l’azienda si ripaga dell’investimento e inizia a guadagnare.

Tutto funziona: l’azienda riesce a sostenere dei costi (ad esempio gli stipendi delle persone che lavorano per quella organizzazione), rientra dei fondi iniziali che ha stanziato per creare qualcosa di nuovo, la clientela finale è disposta ad acquistare qualcosa a cui evidentemente attribuisce un valore. Se però esistono anche dei costi esterni all’azienda, che ad esempio ricadono sulla collettività, forse sarebbe corretto che anche la collettività stessa partecipasse a quel guadagno che attualmente è esclusivo dell’azienda.

Se volessimo fare un paragone, pensiamo a un’ipotetica grande acciaieria chiamata “DueMari” che genera enormi profitti privati, mantenendo i costi operativi bassi grazie ai ridotti investimenti nell'abbattimento delle emissioni e nell'ammodernamento degli impianti. In questo caso, ogni tonnellata di acciaio prodotta genera anche un impatto sanitario sulla popolazione locale e un costo per bonifiche ambientali del territorio e del mare, facendo nascere dei costi che ricadono interamente sulla collettività e sullo Stato. Se le tasse di chi lavora alla DueMari ed il benessere generato dai loro stipendi superano il costo sociale, assumendo che non ci sia alcuna alternativa per far lavorare le persone, allora anche la società può considerarsi soddisfatta, altrimenti la DueMari è solo un’azienda che sfrutta il territorio per mettere soldi in tasca di privati.

L’analogia con l’AI è chiara: un’analisi di aprile 2026 prodotta da Yale mostra chiaramente che, soprattutto nei mercati energetici deregolamentati, l’incremento della domanda di energia causata dai datacenter ne fa crescere il prezzo a discapito di chi vive in quel territorio; il mese scorso la United Nations University ha stimato nei prossimi 10 anni una richiesta idrica da parte dei datacenter equivalente a 1,3 miliardi di persone; il Fondo Monetario Internazionale da anni evidenzia il rischio di costi legati alla perdita di posti di lavoro. Parte proprio da queste considerazioni la proposta del senatore statunitense Bernie Sanders e della deputata Alexandria Ocasio-Cortez di fermare immediatamente la costruzione di nuovi datacenter, fino a quando il Congresso americano non approverà un quadro normativo capace di vincolare dati trasparenti sui consumi da parte dei fornitori di AI, divieti di rincari sulle utenze pubbliche legati all’espansione dei datacenter, e benefici economici condivisi con la collettività su quanto guadagnato dalle big tech dell’intelligenza artificiale.

8. Vanity search

Se oggi volete scoprire quanto i modelli AI conoscono una persona e come la rappresentano, potete utilizzare il progetto “Are you in the weights?”. Inserite il nome di una persona e avrete, in una bella grafica ispirata ai primi Nintendo, la sua descrizione secondo i più diffusi modelli generativi.

Non mi è chiaro se la presenza su questi risultati garantisca l’immortalità, perché dimostra di essere inseriti nei pesi di questi modelli, che per sempre ci ricorderanno. Sicuramente cercarsi su questo sistema fa ripensare a chi inserisce il proprio nome sui motori di ricerca, facendo il cosiddetto egosurfing o vanity searching, una pratica che nel 2016 era addirittura entrata in una canzone: “quindi basta cercare la notte su Google il mio nome”. Oggi la ricerca si sposta sulle chat AI, confermando ancora una volta le chat AI come punto di passaggio per trovare risposta alle nostre domande.

Non proprio famoso

9. Copilot news

La notizia è che oggi Copilot M365 comprende il Copilot Cowork, mentre fino a pochi giorni fa era disponibile solo a poche organizzazioni Frontier Partner. Lo avevo testato e già dicevo il mese scorso che questo strumento è incredibile (qui un video di Charles Lamanna che recentemente abbiamo avuto ospite in AGIC). Lo dico davvero, non è fuffa e non è una marchetta. Provatelo e poi mi direte.

Immaginate di poter dare un compito complesso a un assistente virtuale, che può leggere le vostre email, le trascrizioni delle riunioni di Teams, i vostri file sul drive di lavoro, o su piattaforme di gestione a cui avete accesso. Cowork lavora (anche a computer spento) e restituisce un risultato che è sempre sorprendente. Certo bisogna dare un compito chiaro e ben definito, ma oramai ce la caviamo abbastanza bene nel “prompting” e sappiamo indicare ruolo, contesto e obiettivo. Ma non solo: Cowork permette di creare delle skill, ovvero delle capacità che possono essere immediatamente richiamate o condivise in azienda. Ma anche qui c’è stupore, perché le skill si creano chattando con Cowork stesso e dicendo “crea una skill che faccia ….”. Inoltre è possibile connettere il sistema ad altri applicativi, anche non Microsoft.

È importante sapere che se avete la licenza Copilot e non trovate il pulsante “Cowork”, è perché il vostro amministratore non lo ha acceso sulla vostra utenza, sicuramente preoccupandosi dei costi a consumo.

Il pulsante dell’app Copilot M365 con cui si entra su Cowork

10. Un nostro progetto: gestire l’AI a consumo

Se anche la tua azienda si trova di fronte alla necessità di gestire un’AI potentissima ma pay-as-you-go, in un mondo in cui non è possibile capire in anticipo il costo di ogni richiesta che facciamo, allora diventa necessario realizzare un progetto di gestione dell’AI a consumo. Certamente potremmo inibire l’uso dell’AI non flat e risolvere in maniera tranchant, ma ho sentito con le mie orecchie un collega dire: “vi prego, casomai toglietemi l’auto aziendale, ma non il Cowork”.

Il servizio che AGIC offre è una consulenza specifica e rapida per inserire il Cowork all’interno della tua organizzazione, con un piano e degli strumenti già testati al nostro interno, perché essendo Microsoft frontier partner avevamo avuto modo di avere lo strumento in anteprima.

A titolo di esempio, l’approccio tradizionale è di inserire una soglia di crediti per ogni licenza Copilot M365, ma questo limite rischia di essere troppo basso per alcune figure professionali e sproporzionato per altre. In base ad un’analisi sui task svolti in azienda riusciamo a definire questa soglia con una profilazione sicuramente più efficace di un valore flat fisso. Ma questo è solo un esempio di processi che abbiamo studiato e su cui AGIC è pronta a supportare le aziende che devono governare l’utilizzo dei token e dei crediti.

Tra i casi che osserviamo: abbiamo una nostra ampia casistica di costi legati ai compiti svolti da Cowork: la generazione tramite AI di un file PowerPoint (ben fatto e coerente con i template aziendali) da un documento di circa 100 pagine, costa circa 15€; con opportune strategie di uso del Copilot, può scendere facilmente a 10€. Se proiettiamo queste cifre sulle tante richieste (oramai un’abitudine) e su una platea ampia di dipendenti, la presenza di strategie di gestione del Cowork vale anche centinaia di migliaia di euro ogni anno.

Scrivimi se sei interessato a parlarne.

1. Chi sono

    

   Ciao, sono Francesco Costantino, professore universitario e Director of Innovation in AGIC. Appassionato di novità tecnologiche e convinto sostenitore di un futuro migliore del passato, mi piace raccontare e sperimentare i nuovi strumenti di AI disponibili, così come osservare e ragionare sull’evoluzione digitale.