Pangram raccoglie 9 milioni di dollari e lancia nuovi strumenti per il rilevamento di contenuti AI

La startup newyorkese Pangram ha recentemente chiuso un round di finanziamento da 9 milioni di dollari, guidato da Menlo Ventures e supportato da investitori come Haystack, ScOp, Script Capital e Cadenza. Contestualmente, l’azienda ha lanciato il nuovo modello di rilevamento testuale Pangram 4 e un innovativo rilevatore di immagini noto come Pangram Image.

Fondata due anni fa da Max Spero e Bradley Emi, Pangram si propone di sviluppare strumenti in grado di distinguere i contenuti generati o assistiti dall’intelligenza artificiale da quelli scritti interamente da esseri umani. Questa iniziativa si colloca in un contesto segnato dalla crescente diffusione di testi e immagini generate da AI, che solleva preoccupazioni riguardo all’uso improprio e alle potenziali conseguenze reputazionali e disciplinari.

Pangram ha dichiarato che il suo nuovo modello testuale raggiunge un’accuratezza superiore al 99% nell’individuare scritti assistiti da AI e contenuti misti umano-AI. Inoltre, il sistema è progettato per rilevare più facilmente i programmi di “humanizer”, che tentano di rendere i testi generati da AI più simili a quelli scritti da umani.

Il rilevatore di immagini è attualmente disponibile in anteprima per la ricerca, con un rilascio più ampio previsto nelle prossime settimane. La tecnologia di Pangram si basa su un modello di machine learning addestrato su decine di milioni di documenti umani e su “specchi sintetici” creati da modelli linguistici di ultima generazione, permettendo al sistema di apprendere le differenze stilistiche e le scelte ricorrenti degli algoritmi, senza fare affidamento su metadati o watermark nascosti.

Un altro obiettivo di Pangram è quello di distinguere i livelli di assistenza AI, riconoscendo interventi di editing o pulizia del testo. L’azienda sostiene che l’uso dell’AI può essere accettabile se dichiarato dall’autore. Tra le funzionalità offerte agli utenti, si segnala un abbonamento web a 20 dollari al mese, un’estensione per Chrome che etichetta in tempo reale i post su piattaforme come X, LinkedIn, Substack, Reddit e Medium, e un “feed health score” che fornisce la percentuale di contenuti umani rispetto a quelli generati da AI.

La tecnologia di Pangram è disponibile anche tramite API e risulta integrata in diverse piattaforme, tra cui Substack. Altri clienti API includono Quora, istituzioni accademiche, editori, agenti e società di recruiting.

Il mercato del rilevamento dei contenuti AI è in espansione e vede la presenza di altri operatori come Winston AI, Originality.ai, Copyleaks e GPTZero. Tuttavia, i test interni e le prove pratiche di Pangram hanno mostrato prestazioni solide ma non perfette, con un tasso di falsi positivi di circa 1 su 10.000 documenti umani. Durante i test, il modello ha dimostrato di saper individuare articoli scritti interamente da AI e di resistere a tentativi di elusione tramite editing, ma ha anche segnalato come AI alcune frasi riscritte da umani e, in alcuni casi, ha classificato erroneamente immagini.

Max Spero ha sottolineato la necessità di un meccanismo per contrastare la diffusione di contenuti AI di bassa qualità, evitando però che la tecnologia si trasformi in uno strumento di caccia alle streghe.