Daftar periksa tujuh langkah untuk membuat aplikasi AI generatif Anda siap dari sisi keamanan

 

AI generatif telah mengalami pertumbuhan eksplosif dalam beberapa tahun terakhir, dengan aplikasi mentransformasi cara perusahaan rintisan membuat konten, menganalisis data, dan mengambil keputusan penting. Organisasi makin menggunakan kekuatan model AI generatif untuk membangun aplikasi khusus. Dengan demikian, perusahaan rintisan yang bereksperimen dan menggunakan AI generatif harus menjadikan keamanan dan penggunaan yang bertanggung jawab sebagai prioritas utama.

Dalam posting ini, kami telah mengembangkan daftar periksa tujuh item yang menguraikan langkah-langkah keamanan dan kepatuhan penting yang harus Anda pertimbangkan saat memindahkan aplikasi berbasis AI generatif Anda dari eksperimen ke produksi.

1. Tetapkan kerangka kerja tata kelola dan proses kepatuhan

2. Tinjau dan patuhi Perjanjian Lisensi Pengguna Akhir (EULA) dan kebijakan penggunaan data penyedia model bahasa besar (LLM)

3. Terapkan kontrol akses yang komprehensif

4. Kurangi risiko input dan output

5. Lindungi data Anda

6. Amankan perimeter Anda

7. Terapkan pemantauan komprehensif dan respons insiden

Menerapkan daftar periksa akan membantu perusahaan rintisan Anda mengurangi risiko, melindungi data, dan menjaga kepercayaan pengguna. Meskipun melakukan lebih banyak item meningkatkan pertahanan, Anda tidak perlu melakukan setiap titik pemeriksaan, karena hal ini bergantung pada kebutuhan aplikasi Anda.

Kontrol keamanan yang diperlukan akan bervariasi tergantung pada jenis model (dilatih sebelumnya, disempurnakan, atau kustom) yang Anda gunakan untuk membangun aplikasi Anda. Fokus kami adalah pada aplikasi yang dibangun menggunakan model yang dilatih sebelumnya, yang menangani sebagian besar kasus penggunaan pelanggan.

 

Menetapkan kerangka kerja tata kelola dan kepatuhan yang komprehensif adalah dasar untuk deployment AI yang bertanggung jawab. Orang dan proses adalah kuncinya, jadi mulailah dengan membentuk komite tata kelola AI lintas fungsi dengan pakar dari bidang hukum, keamanan TI, dan unit bisnis yang relevan. Komite ini harus membuat dan menerapkan kebijakan khusus untuk aplikasi AI generatif Anda, yang mencakup penanganan data, pemilihan model, dan pedoman penggunaan.

Selanjutnya, kembangkan daftar periksa kepatuhan yang disesuaikan dengan peraturan industri Anda (seperti GDPR atau PCI DSS). Hal ini harus mencakup langkah-langkah privasi data, manajemen persetujuan, dan persyaratan transparansi. Menerapkan tinjauan kepatuhan reguler, seperti audit triwulanan, untuk memastikan Anda mematuhi standar yang terus berkembang. Lihat blog ini untuk panduan lebih lanjut: Menskalakan program tata kelola, risiko, dan kepatuhan untuk cloud, teknologi yang muncul, dan inovasi serta Mengamankan AI generatif: data, kepatuhan, dan pertimbangan privasi.

Terakhir, siapkan sistem dokumentasi untuk melacak keputusan, perubahan, dan status kepatuhan aplikasi AI generatif Anda. Sertakan fitur seperti kontrol versi untuk kebijakan, log audit untuk perubahan model, dan dasbor untuk status kepatuhan. Sistem ini tidak hanya akan membantu dalam menjaga kepatuhan tetapi juga memberikan bukti yang diperlukan selama audit eksternal.

 

Sangat penting untuk memahami batasan dan persyaratan khusus untuk menjaga kepatuhan dan menghindari potensi masalah hukum. Sebelum mengintegrasikan model pralatih ke dalam aplikasi Anda, tinjau EULA dan kebijakan penggunaan data dari penyedia LLM pilihan Anda. Perhatikan baik-baik klausul tentang penanganan data, output model, dan pembatasan penggunaan komersial. Untuk pengguna Amazon Bedrock, lihat Akses model pondasi Amazon Bedrock. Jika Anda melakukan deployment sendiri di Amazon SageMaker, tinjau sumber model di halaman detail model.

Selain memastikan kepatuhan, memantau pembaruan terkini juga dapat membawa peluang menarik. Misalnya, lisensi Meta Llama 3.1 dianggap lebih permisif daripada pendahulunya, membuka kasus penggunaan baru seperti menganalisis dokumen panjang dan membangun chatbot multibahasa canggih untuk penggunaan global. Terlepas dari model yang Anda pilih, meninjau aspek-aspek ini secara rutin memastikan aplikasi Anda dapat memanfaatkan peluang baru.

Saat mengembangkan dan melakukan deployment aplikasi AI generatif Anda, Anda memerlukan kontrol akses yang kuat untuk melindungi sistem dan data Anda. Ini termasuk menyiapkan autentikasi pengguna, otorisasi, dan kebijakan akses data, semua sambil mematuhi prinsip hak akses paling rendah (PoLP). Ide di balik PoLP adalah bahwa pengguna dan layanan hanya mendapatkan akses yang mereka butuhkan untuk melakukan pekerjaan mereka. Dengan mengikuti PoLP, tim dapat mengurangi potensi risiko keamanan dan mempersulit penyerang untuk menemukan jalan masuk.

Mulailah dengan menerapkan autentikasi pengguna menggunakan layanan seperti Amazon Cognito atau Amazon Verified Permissions, dan atur kontrol otorisasi untuk membantu mematuhi PoLP. Berikut adalah contoh bagaimana Anda dapat menggunakan token JWT Amazon Cognito untuk melakukan propagasi identitas dan otorisasi terperinci:

Tetapkan kontrol akses untuk setiap bagian aplikasi AI generatif Anda, termasuk LLM, basis data, sistem penyimpanan, dan layanan atau API yang terhubung. Gunakan model yang dapat diakses melalui kredensial sementara berumur pendek, (seperti yang ada di Amazon Bedrock atau Amazon SageMaker), untuk menjaga akses tetap aman dan lebih mudah dikelola. Amazon Bedrock juga memungkinkan Anda mengontrol siapa yang dapat mengakses model mana, sehingga Anda dapat memblokir akses jika diperlukan.

Selanjutnya, pastikan sesi pengguna dan konteks percakapan diisolasi dengan menerapkan mekanisme untuk mencegah pengguna mengakses konten pengguna lain, riwayat sesi, atau informasi percakapan. Gunakan pengenal sesi unik untuk pengguna dan validasi ini setiap kali pengguna mengakses sistem. Menerapkan manajemen sesi sisi server akan memungkinkan Anda untuk mencatat riwayat percakapan dan konteks di penyimpanan data yang diisolasi untuk setiap pengguna.

Untuk implementasi retrieval augmented generation (RAG), sangat penting untuk mengelola akses ke basis pengetahuan yang digunakan untuk memperkaya respons LLM. Anda dapat menyederhanakannya dengan menggunakan Basis Pengetahuan Amazon Bedrock dengan pemfilteran metadata, yang menyediakan kontrol akses bawaan untuk memastikan pengguna hanya mengambil informasi yang diizinkan untuk mereka akses. Jika Anda mengelola RAG Anda sendiri, gunakan Amazon Kendra untuk memfilter respons berdasarkan izin pengguna. Lihat diagram di atas (langkah 5) untuk ilustrasi cara kerja pemfilteran metadata.

 

Setelah menerapkan kontrol akses, Anda sekarang dapat berfokus pada mekanisme evaluasi untuk menilai dan mengurangi risiko yang terkait dengan input pengguna dan output model dalam aplikasi AI generatif Anda. Ini membantu melindungi terhadap kerentanan seperti serangan injeksi prompt, pembuatan konten yang tidak pantas, atau halusinasi.

Anda dapat menyederhanakan proses ini menggunakan Batasan Pengaman Amazon Bedrock. Batasan Pengaman memungkinkan Anda mengonfigurasi pertahanan untuk input prompt dan output model yang dapat diterapkan di seluruh LLM di Amazon Bedrock, termasuk model yang disempurnakan dan bahkan aplikasi AI generatif di luar Amazon Bedrock.

Sebagai tindakan pencegahan tambahan, terapkan katalog prompt terverifikasi (serangkaian prompt yang telah disetujui sebelumnya untuk tugas-tugas umum) menggunakan Manajemen Prompt Amazon Bedrock, untuk mengelola prompt secara efektif dan melindungi LLM dari instruksi berbahaya.

Validasi output sama pentingnya. Respons LLM harus diperlakukan dengan berhati-hati—jika model menghasilkan kode atau kueri basis data (yang akan diteruskan ke komponen lain), Anda harus memperlakukan output-nya seperti berasal dari pengguna yang tidak tepercaya. Selalu periksa izin dan jalankan pemeriksaan keamanan sebelum membiarkannya berinteraksi dengan sistem lain. Gunakan metode aman seperti kueri parameter untuk basis data dan tinjau struktur SQL yang dihasilkan sebelum menggunakannya. Anda juga dapat membatasi risiko dengan menggunakan templat prompt dalam perintah sistem untuk mengontrol format respons model.

Jika LLM Anda menghasilkan perintah atau kode sistem, sangat penting untuk menggunakan langkah-langkah keamanan yang kuat. Mulailah dengan menggunakan pemeriksaan validasi yang ketat. Ini termasuk menggunakan daftar izin, memeriksa sintaks, dan memahami apa yang coba dilakukan kode. Untuk bahasa seperti JavaScript atau Markdown, selalu kodekan output sebelum menunjukkannya kepada pengguna untuk melindungi dari potensi kerentanan. Jika kode AI perlu dijalankan, pastikan untuk melakukan ini dalam sandbox (lingkungan terisolasi) untuk menjaga sistem utama Anda tetap aman jika terjadi kesalahan.

 

Selanjutnya, pastikan Anda melindungi data yang digunakan dan direspons oleh model Anda (seperti kueri pengguna, konteks tambahan, dan basis pengetahuan yang digunakan dalam sistem RAG) melalui enkripsi.

Ini dipermudah oleh layanan seperti AWS Key Management Service untuk manajemen, penyimpanan, dan rotasi kunci enkripsi yang aman, dan AWS Identity and Access Management (IAM) untuk kontrol akses. Anda juga dapat mengaktifkan pembuatan versi untuk penyimpanan basis pengetahuan Anda (seperti pembuatan versi S3) untuk melacak perubahan dan memastikan data Anda tetap andal dan aman.

Jika Anda menangani data sensitif, Anda juga dapat menerapkan pengaburan atau pemblokiran data menggunakan filter informasi sensitif Bedrock Guardrail.

 

Sekarang setelah data Anda diamankan, Anda dapat fokus melindungi infrastruktur AI generatif Anda. Saat menggunakan data milik sendiri, pastikan untuk mengatur perimeter yang aman untuk mencegah paparan ke internet publik. Titik akhir VPC Amazon Bedrock menciptakan koneksi privat antara Cloud Privat Virtual (VPC) dan akun Amazon Bedrock Anda, memperkuat keamanan data dan interaksi model Anda.

LLM menggunakan daya komputasi yang signifikan, menjadikannya target penyalahgunaan. Untuk mencegah hal ini, Anda dapat menetapkan batasan seberapa banyak pengguna dapat mengakses aplikasi Anda. Gunakan AWS Web Application Firewall (WAF) untuk menetapkan batasan ini, dan Amazon API Gateway untuk mengontrol tingkat permintaan ke aplikasi Anda. Langkah-langkah ini akan melindungi infrastruktur Anda sambil memastikan sistem Anda memiliki performa baik dan berjalan secara konsisten.

 

Setelah Anda mengamankan pengaturan dan data Anda, Anda sekarang dapat berfokus untuk mengamankan pemantauan sistem. Ini termasuk menerapkan mekanisme respons untuk mendeteksi dan mengatasi masalah keamanan dengan cepat. Pantau metrik penggunaan LLM seperti volume permintaan, latensi, dan tingkat kesalahan untuk memahami performa sistem Anda dan mendeteksi anomali. Amazon CloudWatch akan membuat peringatan ketika metrik ini melebihi level yang Anda tetapkan.

Bersamaan dengan hal ini, Anda harus mengembangkan rencana respons insiden untuk mengatasi skenario seperti injeksi prompt, output model yang tidak terduga, atau kebocoran data. Buat garis besar proses eskalasi untuk setiap skenario, termasuk penamaan alat utama dan anggota tim Anda serta tanggung jawab mereka. Terakhir, atur sistem seperti Andon cord yang memungkinkan Anda mematikan model dengan cepat, mengembalikan ke versi sebelumnya, atau beralih ke mode aman jika terjadi kesalahan. Memiliki langkah-langkah yang jelas ini untuk masalah keamanan akan membantu Anda merespons lebih cepat dan menjaga aplikasi AI Anda tetap aman dan stabil.

Daftar periksa tujuh langkah ini adalah panduan penting untuk memindahkan aplikasi AI generatif Anda dari prototipe ke produksi. Mengatasi dan menindaklanjuti setiap item akan membantu Anda membangun dan melakukan deployment secara bertanggung jawab, melindungi organisasi dan pengguna Anda. Dan ingat, AI generatif berkembang dengan cepat, jadi penting untuk tetap mengikuti perkembangan terbaru dalam keamanan AI agar aplikasi Anda (dan perusahaan rintisan Anda) selalu berada di garis depan dalam inovasi dan kepercayaan. Lihat Builder Center - AI Agentik untuk melihat perkembangan terbaru dari kami!

Postingan ini mencakup kontrol keamanan untuk aplikasi yang menggunakan model pralatih. Jika Anda mempertimbangkan untuk menggunakan model yang disempurnakan atau kustom, lihat Matriks Pelingkupan Keamanan AI Generatif untuk memahami berbagai risiko dan mitigasi yang harus diwaspadai berdasarkan tipe model. Anda juga dapat merujuk ke Pendekatan aman untuk AI generatif atau menghubungi tim akun Anda untuk mendapatkan dukungan tambahan.