AWS Lambda erweitert die Antwortstreaming-Unterstützung auf alle kommerziellen AWS-Regionen
Das AWS-Lambda-Antwortstreaming ist jetzt in allen kommerziellen AWS-Regionen verfügbar, sodass für diese Funktion die volle regionale Parität gewährleistet ist. Kunden in neu unterstützten Regionen können die InvokeWithResponseStream-API verwenden, um Antwort-Nutzdaten schrittweise an Kunden zurückzustreamen, sobald Daten verfügbar sind.
Das Antwortstreaming ermöglicht es, dass Funktionen schrittweise Teilantworten an Clients senden, anstatt die gesamte Antwort vor der Übertragung zu puffern. Dies reduziert die Time-to-First-Byte(TTFB)-Latenz und eignet sich gut für latenzempfindliche Workloads wie LLM-basierte Anwendungen sowie Web- und Mobilanwendungen, bei denen Benutzer davon profitieren, dass Antworten schrittweise angezeigt werden. Antwortstreaming unterstützt Nutzdaten bis zu einem Standardmaximum von 200 MB.
Mit dieser Erweiterung können Kunden in allen kommerziellen Regionen Antworten mithilfe der InvokeWithResponseStream-API über ein unterstütztes AWS-SDK oder über REST-APIs von Amazon API Gateway mit aktiviertem Antwortstreaming streamen. Das Antwortstreaming unterstützt von Node.js verwaltete Laufzeiten sowie benutzerdefinierte Laufzeiten.
Für das Streaming von Antworten fallen zusätzliche Kosten für die Netzwerkübertragung der Antwortnutzlast an. Die Abrechnung erfolgt auf Grundlage der Anzahl an Bytes, die über die ersten 6 MB aus Ihrer Lambda-Funktion generiert und gestreamt wurden. Informationen zum Einstieg in das Lambda-Antwortstreaming finden Sie in der Dokumentation zu AWS Lambda.