AWS Lambda estende il supporto allo streaming delle risposte a tutte le regioni AWS commerciali
Lo streaming delle risposte di AWS Lambda è ora disponibile in tutte le regioni AWS commerciali, raggiungendo la piena parità regionale per questa funzionalità. I clienti nelle regioni di nuova disponibilità possono utilizzare l'API InvokeWithResponseStream per trasmettere in streaming i payload delle risposte ai client in modo progressivo, non appena i dati sono disponibili.
Lo streaming delle risposte consente alle funzioni di inviare risposte parziali ai client in modo incrementale, anziché attendere il buffering dell'intera risposta prima della trasmissione. In questo modo si riduce la latenza time-to-first-byte (TTFB) ed è particolarmente indicato per i carichi di lavoro sensibili alla latenza, come le applicazioni basate su LLM e le applicazioni web e per dispositivi mobili in cui gli utenti beneficiano di una visualizzazione progressiva delle risposte. Lo streaming delle risposte supporta payload fino a un massimo predefinito di 200 MB.
Con questa espansione, i clienti in tutte le regioni commerciali possono trasmettere in streaming le risposte tramite l'API InvokeWithResponseStream, utilizzando un AWS SDK supportato o le REST API del Gateway Amazon API con streaming delle risposte abilitato. Lo streaming delle risposte supporta i runtime gestiti Node.js e i runtime personalizzati.
Le risposte in streaming comportano un costo aggiuntivo per il trasferimento di rete del payload. La fatturazione è basata sul numero di byte generati e trasmessi in streaming dalla funzione Lambda oltre i primi 6 MB. Per iniziare a usare lo streaming delle risposte Lambda, consulta la documentazione di AWS Lambda.