Claude: tempi di risposta più rapidi, ma i costi restano elevati

Secondo Tom's Hardware, Anthropic ha reso disponibile in beta pubblica una nuova funzionalità chiamata message threads. Questo sistema permette alle applicazioni di inviare l'intera conversazione all'API di Claude una sola volta, per poi trasmettere esclusivamente i nuovi messaggi successivi.

L'obiettivo tecnico di questa modifica è ridurre il 'time to first token', ovvero il tempo che intercorre tra l'invio della richiesta e la ricezione della prima parte della risposta. In pratica, l'utente dovrebbe vedere l'inizio della risposta più rapidamente rispetto al passato.

Tuttavia, la testata sottolinea che questa ottimizzazione della velocità non si traduce in un risparmio economico. I costi associati alle conversazioni restano invariati, poiché la struttura di fatturazione non viene modificata da questo nuovo metodo di invio dei dati.

Per gli sviluppatori che integrano Claude, questa distinzione è cruciale: si ottiene un'esperienza d'uso più reattiva, ma senza un impatto positivo sul budget operativo legato all'utilizzo dell'API.