Lewati ke Konten Utama

Meta Llama di Amazon Bedrock

Bangun masa depan AI dengan Llama

Mulai menggunakan Llama di Amazon Bedrock

Memperkenalkan Llama 3.3

Llama 3.3 adalah model 70B hanya teks yang disetel berdasarkan instruksi yang memberikan peningkatan kinerja relatif terhadap Llama 3.1 70B–dan Llama 3.2 90B saat digunakan untuk aplikasi hanya teks. Llama 3.3 70B memberikan performa yang sama dengan Llama 3.1 405B, meskipun hanya membutuhkan sumber daya komputasi yang jauh lebih kecil.

Pelatihan komprehensif Llama 3.3 70B menghasilkan pemahaman dan kemampuan generasi yang kuat di berbagai tugas. Model ini mendukung AI percakapan berkinerja tinggi yang dirancang untuk pembuatan konten, aplikasi korporasi, dan penelitian, menawarkan kemampuan pemahaman bahasa tingkat lanjut, termasuk ringkasan teks, klasifikasi, analisis sentimen, dan pembuatan kode.

Llama 3.2 90B adalah model Meta yang paling canggih dan sangat ideal untuk aplikasi tingkat korporasi. Llama 3.2 adalah model Llama pertama yang mendukung tugas penglihatan, dengan arsitektur model baru yang mengintegrasikan representasi encoder gambar ke dalam model bahasa ini. Model ini unggul dalam pengetahuan umum, pembuatan teks panjang, terjemahan multibahasa, pengodean, matematika, dan penalaran tingkat lanjut. Model ini juga memperkenalkan kemampuan penalaran gambar sehingga memungkinkan pemahaman gambar dan penalaran visual yang canggih. Model ini sangat ideal untuk kasus penggunaan berikut: pembuatan keterangan gambar, pengambilan teks dari gambar, landasan visual, menjawab pertanyaan visual dan penalaran visual, serta menjawab pertanyaan visual dari dokumen.

Llama 3.2 11B sangat ideal untuk pembuatan konten, AI percakapan, pemahaman bahasa, dan aplikasi korporasi yang membutuhkan penalaran visual. Model ini memiliki kinerja tinggi dalam meringkas teks, menganalisis sentimen, membuat kode, dan mengikuti instruksi, dengan kemampuan tambahan untuk melakukan penalaran tentang gambar. Model ini sangat ideal untuk kasus penggunaan berikut: pembuatan keterangan gambar, pengambilan teks dari gambar, landasan visual, menjawab pertanyaan visual dan penalaran visual, serta menjawab pertanyaan visual dari dokumen.

Llama 3.2 3B menawarkan pengalaman AI yang lebih dipersonalisasi dan pemrosesan di perangkat. Llama 3.2 3B dirancang untuk aplikasi yang membutuhkan inferensi latensi rendah dan sumber daya komputasi terbatas. Model ini memiliki keunggulan dalam peringkasan teks, klasifikasi, dan tugas penerjemahan bahasa. Model ini sangat ideal untuk kasus penggunaan berikut: aplikasi seluler layanan pelanggan dan asisten penulisan yang didukung oleh AI.

Llama 3.2 1B adalah model paling ringan dalam koleksi model Llama 3.2, serta sangat cocok untuk pengambilan dan peringkasan untuk perangkat edge juga aplikasi seluler. Model ini mengaktifkan kemampuan AI di perangkat sambil menjaga privasi pengguna dan meminimalkan latensi. Model ini sangat ideal untuk kasus penggunaan berikut: manajemen informasi pribadi dan pengambilan pengetahuan multibahasa.

Keuntungan

LOREM IPSUM

Llama 3.2 menawarkan pengalaman AI yang lebih dipersonalisasi dan pemrosesan di perangkat. Model Llama 3.2 dirancang agar lebih efisien, dengan pengurangan latensi dan peningkatan kinerja, sehingga cocok untuk berbagai penerapan.

Panjang konteks 128 ribu token memungkinkan Llama menangkap hubungan yang lebih bervariasi dalam data.

Model Llama dilatih pada lebih dari 15 triliun token dari sumber data publik online untuk lebih memahami seluk-beluk bahasa.

Llama 3.2 tersedia dalam berbagai bahasa dan mendukung delapan bahasa, termasuk bahasa Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thailand.

API terkelola milik Amazon Bedrock membuat penggunaan model Llama lebih mudah dari sebelumnya. Organisasi dari semua ukuran dapat mengakses keunggulan Llama tanpa khawatir tentang infrastruktur yang mendasarinya. Karena Amazon Bedrock bersifat nirserver, Anda tidak perlu mengelola infrastruktur apa pun, dan Anda dapat mengintegrasikan serta melakukan deployment kemampuan AI generatif Llama dengan aman ke dalam aplikasi Anda menggunakan layanan AWS yang sudah Anda ketahui. Artinya, Anda dapat fokus pada keahlian terbaik Anda—membangun aplikasi AI Anda.

Temui Llama

Selama lebih dari satu dekade terakhir, Meta telah berfokus untuk menyediakan alat bagi developer dan membina kolaborasi serta kemajuan di antara para developer, peneliti, dan organisasi. Model Llama tersedia dalam berbagai ukuran parameter, yang memungkinkan developer untuk memilih model yang paling sesuai dengan kebutuhan dan anggaran inferensi mereka. Model Llama di Amazon Bedrock membuka banyak sekali kemungkinan karena developer tidak perlu khawatir mengenai skalabilitas atau pengelolaan infrastruktur. Amazon Bedrock adalah cara turnkey yang sangat sederhana bagi developer untuk mulai menggunakan Llama.

Kasus penggunaan

Model Llama unggul dalam pemahaman gambar dan penalaran visual, nuansa bahasa, pemahaman kontekstual, dan tugas kompleks, seperti analisis data visual, pembuatan keterangan gambar, pembuatan dialog, dan penerjemahan, serta dapat menangani tugas multilangkah dengan mudah. Kasus penggunaan lain yang sangat cocok untuk model Llama mencakup penalaran dan pemahaman visual yang canggih, pengambilan teks dari gambar, landasan visual, menjawab pertanyaan visual dari dokumen, ringkasan dan akurasi teks, klasifikasi teks, analisis sentimen dan penalaran nuansa, pemodelan bahasa, sistem dialog, pembuatan kode, dan mengikuti instruksi.

Versi model

Llama 3.3 70B

Model 70B hanya teks yang disesuaikan berdasarkan instruksi yang memberikan performa yang ditingkatkan dibandingkan Llama 3.1 70B, serta dibandingkan Llama 3.2 90B saat digunakan untuk aplikasi hanya teks. Llama 3.3 70B memberikan performa yang serupa dengan Llama 3.1 405B, tetapi hanya membutuhkan sebagian kecil sumber daya komputasi.

Token maks.: 128 ribu

Bahasa: Inggris, Jerman, Prancis, Italia, Portugis, Spanyol, dan Thai

Dukungan penyempurnaan: Tidak

Kasus penggunaan yang didukung: AI percakapan yang didesain untuk pembuatan konten, aplikasi korporasi, dan penelitian, yang menawarkan kemampuan pemahaman bahasa tingkat lanjut, termasuk peringkasan teks, klasifikasi, analisis sentimen, dan pembuatan kode. Model ini juga mendukung kemampuan untuk memanfaatkan output model agar dapat meningkatkan model lain, termasuk pembuatan dan distilasi data sintesis

Baca blog

Llama 3.2 90B

Model multimodal yang mengambil teks dan gambar sebagai input dan output. Ideal untuk aplikasi yang membutuhkan kecerdasan visual canggih, seperti analisis gambar, pemrosesan dokumen, chatbot multimodal, dan sistem otonom.

Token maks.: 128 ribu

Bahasa: Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai

Dukungan penyempurnaan: Ya

Kasus penggunaan yang didukung: Pemahaman gambar, penalaran visual, dan interaksi multimodal, yang memungkinkan aplikasi tingkat lanjut, seperti pembuatan keterangan gambar, pengambilan teks dari gambar, landasan visual, menjawab pertanyaan visual, dan menjawab pertanyaan visual dari dokumen, dengan kemampuan unik untuk menalar serta menarik kesimpulan dari input visual dan tekstual

Baca blog

Llama 3.2 11B

Model multimodal yang mengambil teks dan gambar sebagai input dan output. Ideal untuk aplikasi yang membutuhkan kecerdasan visual canggih, seperti analisis gambar, pemrosesan dokumen, dan chatbot multimodal.

Token maks.: 128 ribu

Bahasa: Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai.

Dukungan penyempurnaan: Ya

Kasus penggunaan yang didukung: Pemahaman gambar, penalaran visual, dan interaksi multimodal, yang memungkinkan aplikasi tingkat lanjut, seperti pembuatan keterangan gambar, pengambilan teks dari gambar, landasan visual, menjawab pertanyaan visual, dan menjawab pertanyaan visual dari dokumen

Baca blog

Llama 3.2 3B

Model ringan hanya teks yang dibuat untuk memberikan hasil yang sangat akurat dan relevan. Dirancang untuk aplikasi yang membutuhkan inferensi latensi rendah dan sumber daya komputasi terbatas. Ideal untuk kueri dan penulisan ulang prompt, asisten penulisan bertenaga AI seluler, dan aplikasi layanan pelanggan, terutama pada perangkat edge di mana efisiensi dan latensi rendahnya memungkinkan integrasi tanpa kendala ke dalam berbagai aplikasi, termasuk asisten penulisan bertenaga AI seluler dan chatbot layanan pelanggan.

Token maks.: 128 ribu

Bahasa: Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai

Dukungan penyempurnaan: Ya

Kasus penggunaan yang didukung: Pembuatan teks tingkat lanjut, peringkasan, analisis sentimen, kecerdasan emosional, pemahaman kontekstual, dan penalaran akal sehat

Baca blog

Nomura menggunakan model Llama dari Meta di Amazon Bedrock untuk mendemokratisasikan AI generatif

Aniruddh Singh, Executive Director dan Enterprise Architect di Nomura, menguraikan perjalanan lembaga keuangan tersebut untuk mendemokratisasikan AI generatif di seluruh bagian perusahaan menggunakan Amazon Bedrock dan model Llama dari Meta. Amazon Bedrock memberikan akses penting ke model fondasi terkemuka seperti Llama, yang memungkinkan integrasi tanpa kendala. Llama menawarkan manfaat utama bagi Nomura, yang meliputi inovasi yang lebih cepat, transparansi, batasan pengaman bias, dan performa yang tangguh di berbagai tugas seperti peringkasan teks, pembuatan kode, analisis log, dan pemrosesan dokumen. 

TaskUs merevolusi pengalaman pelanggan menggunakan model Llama dari Meta di Amazon Bedrock

TaskUs, yang merupakan penyedia layanan digital pengalihdayaan dan pengalaman pelanggan generasi berikutnya yang terkemuka untuk perusahaan paling inovatif di dunia, membantu kliennya merepresentasikan, melindungi, dan mengembangkan merek mereka. Platform TaskGPT inovatif milik TaskUs, yang ditenagai oleh Amazon Bedrock dan model Llama dari Meta, memberdayakan rekan-rekan dalam tim untuk memberikan layanan yang luar biasa. TaskUs membangun alat di TaskGPT yang memanfaatkan Amazon Bedrock dan Llama untuk melakukan parafrasa dengan hemat biaya, pembuatan konten, pemahaman, dan penanganan tugas yang kompleks.