Pagar Pembatas Amazon Bedrock

Pagar Pembatas Amazon Bedrock menyediakan perlindungan yang dapat dikonfigurasi untuk membantu membangun aplikasi AI generatif dengan aman dalam skala besar. Dengan pendekatan yang konsisten dan standar yang digunakan di berbagai model fondasi (FM) termasuk FM yang didukung di Amazon Bedrock, model yang disempurnakan, dan model yang di-hosting di luar Amazon Bedrock, Pagar Pembatas memberikan perlindungan keselamatan terdepan di industri:

• Menggunakan Penalaran Otomatis untuk meminimalkan halusinasi AI, mengidentifikasi respons model yang benar dengan akurasi hingga 99% — perlindungan AI generatif pertama dan satu-satunya yang melakukannya
• Perlindungan terkemuka di industri untuk konten teks dan gambar yang membantu pelanggan memblokir hingga 88% konten multimodal berbahaya

Pagar Pembatas adalah satu-satunya kemampuan AI yang bertanggung jawab dari penyedia cloud utama yang membantu Anda membangun dan menyesuaikan perlindungan keamanan, privasi, dan kebenaran untuk aplikasi AI generatif Anda dalam satu solusi. Ini mengevaluasi input pengguna dan respons model berdasarkan kebijakan khusus kasus penggunaan, memberikan lapisan perlindungan tambahan di luar apa yang tersedia secara asli. Perlindungan dari Guardrails dapat diterapkan pada model yang dihosting di Amazon Bedrock atau dengan model pihak ketiga mana pun (seperti OpenAI dan Google Gemini) melalui API ApplyGuardrail. Anda juga dapat menggunakan Guardrails dengan kerangka agen seperti Strands Agents, termasuk agen yang digunakan menggunakan Amazon Bedrock AgentCore. Guardrails membantu menyaring halusinasi dan meningkatkan akurasi faktual melalui pemeriksaan landasan kontekstual terhadap konten RAG dan pemeriksaan Penalaran Otomatis untuk memberikan tanggapan yang terbukti benar. Lihat panduan langkah demi langkah untuk menerapkan Pagar Pembatas Amazon Bedrock guna mempelajari lebih lanjut.

Pelanggan perlu melakukan deploy untuk aplikasi AI generatif yang jujur dan dapat dipercaya untuk mempertahankan dan menumbuhkan kepercayaan pengguna. Namun, FM dapat menghasilkan informasi yang salah karena halusinasi: menyimpang dari informasi sumber, menggabungkan berbagai informasi, atau mengarang informasi yang benar-benar baru. Pagar Pembatas mendukung pemeriksaan landasan kontekstual untuk membantu mendeteksi dan memfilter halusinasi jika respons tidak didasarkan pada informasi sumber (misalnya, tidak akurat secara faktual atau informasi baru) serta tidak relevan dengan pertanyaan atau instruksi pengguna. Pemeriksaan landasan kontekstual dapat membantu mendeteksi halusinasi untuk aplikasi RAG, peringkasan, dan percakapan, yang dapat menggunakan informasi sumber sebagai referensi untuk memvalidasi respons model.

Pemeriksaan Penalaran Otomatis (pratinjau) di Pagar Pembatas Amazon Bedrock adalah pengaman AI generatif pertama dan satu-satunya yang membantu mencegah kesalahan faktual dari halusinasi menggunakan penalaran yang akurat dan dapat diverifikasi secara logis yang menjelaskan alasan ketepatan tanggapan. Penalaran Otomatis membantu mengurangi halusinasi menggunakan teknik matematika yang tepat untuk memverifikasi, mengoreksi, dan secara logis menjelaskan informasi yang dihasilkan, demi memastikan bahwa output selaras dengan fakta yang diketahui dan tidak didasarkan pada data yang dibuat-buat atau tidak konsisten. Developer dapat membuat kebijakan Penalaran Otomatis dengan mengunggah dokumen yang ada yang mendefinisikan ruang solusi yang tepat, seperti pedoman SDM atau panduan operasional. Amazon Bedrock kemudian menghasilkan kebijakan Penalaran Otomatis yang unik dan memandu pengguna menguji dan menyempurnakannya. Untuk memvalidasi konten yang dihasilkan terhadap kebijakan Penalaran Otomatis, pengguna harus mengaktifkan kebijakan di Pagar Pembatas dan mengonfigurasinya dengan daftar Amazon Resource Name (ARN) yang unik. Proses verifikasi algoritmik berbasis logika ini memastikan bahwa informasi yang dihasilkan oleh model selaras dengan fakta yang diketahui dan tidak didasarkan pada data yang dibuat-buat atau tidak konsisten. Pemeriksaan ini memberikan tanggapan yang terbukti jujur dari model AI generatif, sehingga vendor perangkat lunak dapat meningkatkan keandalan aplikasi mereka untuk kasus penggunaan dalam SDM, keuangan, hukum, kepatuhan, dan banyak lagi. Lihat tutorial video untuk mempelajari lebih lanjut.

Para pemimpin organisasi menyadari perlunya mengelola interaksi dalam aplikasi AI generatif untuk pengalaman pengguna yang relevan dan aman. Mereka ingin lebih menyesuaikan interaksi agar tetap berfokus pada topik yang relevan dengan bisnis mereka dan selaras dengan kebijakan perusahaan. Dengan deskripsi bahasa alami yang singkat, Pagar Pembatas membantu menentukan rangkaian topik yang harus dihindari dalam konteks aplikasi Anda. Pagar Pembatas membantu mendeteksi dan memblokir input pengguna dan respons FM yang termasuk dalam topik terbatas. Misalnya, asisten perbankan dapat dirancang untuk menghindari topik yang berkaitan dengan nasihat investasi.

Pagar Pembatas menyediakan filter konten dengan ambang batas yang dapat dikonfigurasi untuk konten teks dan gambar toksik. Perlindungan ini membantu menyaring konten multimodal berbahaya yang berisi topik seperti ujaran kebencian, penghinaan, seks, kekerasan, dan pelanggaran (termasuk aktivitas kriminal) serta membantu melindungi dari serangan prompt (injeksi prompt dan jailbreak). Filter konten secara otomatis mengevaluasi respons model dan input pengguna untuk mendeteksi serta membantu mencegah teks dan/atau gambar yang tidak diinginkan dan berpotensi berbahaya. Misalnya, situs ecommerce dapat merancang asisten online untuk menghindari penggunaan bahasa yang tidak pantas, seperti perkataan yang mendorong kebencian atau penghinaan.

Pagar Pembatas membantu Anda mendeteksi konten sensitif, seperti informasi pengenal pribadi (PII) dalam input pengguna dan respons FM. Anda dapat memilih dari daftar PII yang telah ditentukan sebelumnya atau menentukan tipe informasi sensitif kustom menggunakan ekspresi reguler (RegEx). Berdasarkan kasus penggunaannya, Anda dapat secara selektif menolak input yang berisi informasi sensitif atau menyuntingnya dalam respons FM. Misalnya, Anda dapat menyunting informasi pribadi pengguna sambil membuat ringkasan dari transkrip percakapan pelanggan dan agen di pusat panggilan.