Costi dell’Intelligenza Artificiale: Un Report Rileva Picchi Improvvisi e Maggiore Collaborazione tra Sicurezza e Osservabilità

Un recente report di Splunk ha messo in evidenza una tendenza preoccupante per le aziende: l’imprevedibilità dei costi legati all’intelligenza artificiale (AI). Con l’aumento dell’adozione di agenti AI e la transizione dei fornitori verso modelli di prezzo a consumo, il 60% delle organizzazioni intervistate ha segnalato che i picchi nelle fatture AI causano più stress finanziario rispetto a un costo di base più alto ma stabile.

La ricerca ha rivelato che oltre la metà delle aziende (55%) non riesce a controllare efficacemente i propri costi AI. Inoltre, il 57% degli intervistati è preoccupato che i costi di telemetria possano superare quelli dell’infrastruttura monitorata. Questo è particolarmente rilevante poiché gli agenti AI possono consumare quantità variabili di token in base alla complessità del compito e alla scelta del modello, contribuendo così all’imprevedibilità delle spese.

Dal punto di vista operativo, il monitoraggio dei carichi di lavoro AI ha portato a una maggiore cooperazione tra i team di osservabilità e quelli di sicurezza. L’81% delle organizzazioni ha riferito un aumento della collaborazione, mentre il 73% ha dichiarato di essere in grado di tracciare con precisione i problemi alle loro cause di sicurezza, un incremento rispetto al 65% dell’anno precedente.

I leader nel campo dell’osservabilità si sono dimostrati particolarmente abili nell’analisi dei costi: il 91% di questi afferma di poter attribuire con precisione i costi a singoli agenti, modelli e carichi di lavoro, rispetto al 69% dei non leader. Questo rende i team di osservabilità cruciali nelle valutazioni del ritorno sugli investimenti (ROI) legati all’AI.

Jeetu Patel, Chief Product Officer di Cisco, ha sottolineato che i dati di osservabilità e sicurezza stanno convergendo, richiedendo una collaborazione più intensa tra i team rispetto al passato. In questo contesto, per i reparti finanziari emerge una preferenza per modelli di pricing più prevedibili e lineari, come quelli basati su postazioni, rispetto ai modelli a consumo che possono generare picchi imprevisti.

In conclusione, il report di Splunk evidenzia la necessità per le aziende di rivedere le proprie strategie di gestione dei costi AI e di promuovere una maggiore collaborazione tra i vari team per affrontare le sfide legate all’imprevedibilità delle spese.