Hàm bền vững của AWS Lambda tích hợp với Pydantic AI
Hôm nay, hàm bền vững của AWS Lambda công bố tích hợp với Pydantic AI, một khung nguồn mở để xây dựng các tác tử AI trong Python. Hàm bền vững của AWS Lambda lưu tiến trình của tác tử Pydantic AI của bạn khi tác tử này chạy, vì vậy sau khi bị gián đoạn, chẳng hạn như hết thời gian chờ, tác tử của bạn sẽ tiếp tục từ bước hoàn tất cuối cùng thay vì bắt đầu lại. Tác tử của bạn đạt được khả năng chịu lỗi mà không cần phải tự viết logic điểm kiểm tra và thử lại.
Với tích hợp này, mỗi mô hình và lệnh gọi công cụ mà tác tử của bạn thực hiện là một bước thực thi bền vững, vì vậy một lần chạy bị gián đoạn không lặp lại các lệnh gọi đã hoàn tất. Điều này quan trọng khi công việc tiêu tốn tài nguyên để lặp lại, chẳng hạn như một chuỗi các lệnh gọi mô hình xem xét một tập hợp tài liệu hoặc nghiên cứu một chủ đề trên nhiều nguồn, trong đó khi bắt đầu lại thì bạn phải trả lại tiền cho các token để thực hiện công việc tương tự. Điều này cũng giúp tránh các tác dụng phụ không mong muốn khi tiếp tục thực thi, chẳng hạn như thanh toán cho khách hàng hai lần. Bởi vì tác tử của bạn chạy trên AWS Lambda, bạn không quản lý máy chủ nào và chỉ trả tiền cho điện toán được tác tử sử dụng.
Bạn có thể sử dụng tích hợp này trong bất kỳ hàm bền vững nào của AWS Lambda Python. Tích hợp này được cung cấp ở tất cả các Khu vực AWS có sẵn hàm bền vững của AWS Lambda. Để bắt đầu, hãy cài đặt Pydantic AI và làm theo trang tính bền vững của AWS Lambda. Bạn cũng có thể tìm thấy chi tiết tích hợp trong tham chiếu SDK thực thi bền vững. Để biết thêm thông tin về Hàm bền vững của AWS Lambda, hãy xem hướng dẫn dành cho nhà phát triển và trang sản phẩm AWS Lambda.