Substack, la piattaforma delle newsletter, ha iniziato il 21 luglio a mostrare ai lettori quanto di un articolo potrebbe essere stato scritto da un'intelligenza artificiale. La funzione, sviluppata insieme alla societa' di rilevamento Pangram, analizza qualsiasi testo di oltre 100 parole pubblicato a partire da quel giorno e restituisce una stima della componente generata dall'IA.
E' una mossa dal forte valore simbolico per una piattaforma che ha costruito la propria identita' sul rapporto diretto tra autori e lettori, e che ora prova a difendere quel patto dalla marea crescente di testi automatici. In un ecosistema in cui gia' oltre 3.800 siti di notizie risultano generati quasi interamente dall'IA, la posta in gioco e' la credibilita' stessa della parola scritta online.
Come funziona il rilevatore e cosa vede il lettore
Lo strumento permette a chi legge di analizzare un post e ottenere una valutazione di quanta parte del testo risulti scritta dall'IA. In parallelo Substack introduce uno spazio in cui gli autori possono dichiarare esplicitamente se e come hanno usato l'IA per un contenuto: una casella di trasparenza volontaria che affianca il verdetto automatico. La funzione debutta su web e iOS, con Android in arrivo. La logica e' quella dell'etichetta: non vietare l'uso dell'IA, ma renderlo visibile, lasciando al lettore la scelta di cosa farsene.
Il 'Claudefishing' e la stoccata a LinkedIn
Nel presentare la novita' Substack ha coniato un termine destinato a fare scuola: "Claudefishing", ovvero il tentativo di simulare una connessione umana autentica riempiendo i testi di "slop" generato dall'IA. L'annuncio contiene anche una frecciata a LinkedIn, indicato come esempio di piattaforma invasa da contenuti automatici privi di reale valore. Dietro l'ironia c'e' una questione seria: la fiducia del lettore, che per una piattaforma a pagamento come Substack e' letteralmente il prodotto. Se gli abbonati non credono piu' che dietro una newsletter ci sia una persona, il modello di business salta.
Quanto ci si puo' fidare: la questione dei falsi positivi
Qui sta il punto piu' controverso. Pangram dichiara che il suo ultimo modello, Pangram 3.3, ha un tasso di falsi positivi dello 0,01%, un valore molto basso sulla carta. Ma nessuno strumento di rilevamento puo' garantire una valutazione sempre corretta, e diversi critici temono proprio i falsi flag: autori umani accusati ingiustamente di aver usato l'IA. Il rischio non e' teorico. La scrittura piu' formale e strutturata — quella accademica o tecnica, ma anche quella di chi scrive in una lingua non madre — e' storicamente la piu' esposta a essere scambiata per testo generato, e un'etichetta sbagliata su un articolo puo' danneggiare la reputazione di chi l'ha scritto davvero. Anche uno 0,01% applicato a milioni di post produce migliaia di errori.
La corsa asimmetrica tra generazione e rilevamento
Il caso Substack fotografa un problema strutturale dell'intera industria: generare testo con l'IA e' semplice ed economico, rilevarlo in modo affidabile e' difficile e costoso. E' una corsa asimmetrica, in cui chi produce ha sempre un passo di vantaggio su chi verifica, perche' ogni nuovo rilevatore diventa a sua volta un bersaglio da aggirare. Affidarsi ciecamente a un punteggio, come fanno alcune universita' ed editori, puo' produrre ingiustizie; ignorare del tutto il problema significa lasciare che i contenuti automatici erodano la fiducia.
Il precedente delle immagini e la questione delle etichette
Substack non e' la prima piattaforma a scontrarsi con il problema. Il mondo delle immagini generate ha gia' percorso questa strada, con standard come le credenziali di provenienza dei contenuti e le filigrane digitali che marchiano i file prodotti dall'IA fin dalla creazione. Per il testo, pero', l'impresa e' molto piu' ardua: un'immagine puo' portare con se' metadati di provenienza, ma una frase riscritta o incollata perde qualsiasi traccia. E' la ragione per cui i rilevatori di testo restano statistici — stimano una probabilita' — mentre per le immagini si punta sempre di piu' su marcatori inseriti alla fonte. L'iniziativa di Substack, affiancando al punteggio automatico una dichiarazione volontaria dell'autore, prova a compensare questa fragilita' tecnica con un patto di fiducia: se non si puo' provare con certezza chi ha scritto, si puo' almeno chiedere a chi pubblica di dichiararlo, esponendolo alla responsabilita' verso i propri lettori.
Una scommessa sulla trasparenza, non sulla certezza
La strada scelta da Substack — un punteggio indicativo affiancato dall'autodichiarazione dell'autore — prova a tenere insieme le due esigenze, scommettendo sulla trasparenza piu' che sulla certezza tecnologica. E' un approccio piu' maturo del "detector" usato come giudice infallibile: riconosce che la macchina puo' sbagliare e restituisce all'autore la responsabilita' di dichiararsi. Resta da vedere se i lettori impareranno a leggere quei punteggi come un indizio e non come una condanna, e se gli autori onesti useranno davvero la casella di trasparenza. Ma come primo esperimento su larga scala di "etichettatura dell'IA" nell'editoria, il caso Substack merita di essere seguito da vicino.
