Crypto.com Memberikan Analisis Sentimen yang Akurat dalam 1 Detik dengan AI Generatif di AWS

Crypto.com didirikan pada tahun 2016 dengan misi yang berani: untuk membawa cryptocurrency ke setiap dompet. Perusahaan tersebut membedakan dirinya dari platform perdagangan lainnya melalui fokus yang kuat dalam mendorong adopsi pengguna, dengan jaringan partner yang luas termasuk merchant dan gateway pembayaran. Crypto.com saat ini melayani sekitar 100 juta pengguna di 90 negara.

Dengan pertumbuhan yang begitu cepat dan basis pelanggan yang beragam—semuanya dalam industri yang berkembang dan kompetitif— Crypto.com telah merangkul kecerdasan buatan generatif (AI) untuk dengan cepat memberikan pengalaman pelanggan yang dioptimalkan. Kasus penggunaan AI perusahaan tersebut termasuk asisten percakapan untuk orientasi dan kueri pelanggan, ditambah wizard untuk menghasilkan kampanye pemasaran media sosial.

Dalam aplikasi AI generatif, analisis sentimen dan kategorisasi narasi berita menjadi makin penting; khususnya dalam ranah mata uang kripto, investor membutuhkan kecerdasan pasar yang tepat waktu dan akurat untuk membuat keputusan yang tepat. Crypto.com menyediakan layanan wawasan pasar di mana pengguna dapat mengakses berita dan informasi terbaru dari kripto dan sumber berita tradisional untuk mendapatkan wawasan dari mesin intelijen perusahaan. Setiap langganan disesuaikan dengan tingkat perdagangan pengguna dan koin di dompet mereka.

Crypto.com menggunakan berbagai model pembelajaran mesin (ML) yang tersedia di samping model kustomnya sendiri untuk analisis sentimen. Namun, developer menghadapi tantangan dengan keterbatasan model sumber terbuka dan tingginya biaya model bahasa besar (LLM) yang di-hosting secara mandiri. Mereka juga menghadapi masalah akurasi dengan output yang dihasilkan oleh model sumber terbuka, terutama ketika berhadapan dengan situs berita multibahasa. Akibatnya, Crypto.com mencari solusi yang lebih efektif untuk mengintegrasikan dan mensintesis keluaran dari beberapa model ML—baik pra-terlatih maupun kustom—untuk memberikan wawasan yang akurat, andal, dan komprehensif ke dalam pasar kripto.

Crypto.com telah berjalan di Amazon Web Services (AWS) sejak diluncurkan, jadi ketika mencari LLM baru untuk analisis sentimen, Anthropic Claude 3 di Amazon Bedrock adalah pilihan logis. LLM ini sangat dapat diskalakan dan memproses sejumlah besar data secara waktu nyata, sehingga memfasilitasi riset pasar yang komprehensif. Hasil awal menunjukkan bahwa LLM di Amazon Bedrock menampilkan hasil dengan sangat cepat, biasanya dalam satu detik.

Mengintegrasikan Amazon Bedrock menyingkirkan upaya manual, biaya tambahan, dan kendala komputasi LLM yang di-hosting secara mandiri. Dalam satu bulan, Crypto.com telah menerapkan model Haiku Anthropic Claude 3 di Amazon Bedrock untuk analisis sentimen, mengumpulkan dan menganalisis berita kripto dalam lebih dari 25 bahasa. Perusahaan tersebut juga menggunakan Amazon Bedrock untuk bukti konsep (POC) dan pengembangan berkelanjutan. Sunny Fok, kepala AI & teknologi inovasi di Crypto.com, mengatakan, “AI generatif pada layanan AWS seperti Amazon SageMaker dan Amazon Bedrock menyederhanakan adopsi kami terhadap LLM dan teknologi AI terbaru. Kini kami dapat membawa ide-ide inovatif dari POC ke produksi skala penuh dalam beberapa minggu."

Untuk memastikan pengetahuan khusus domain diterapkan dalam keluaran model, Crypto.com menggunakan datanya sendiri untuk menyempurnakan model sumber terbuka termasuk Mistral AI dan Meta Llama di Amazon Elastic Compute Cloud (Amazon EC2). Pendekatan ini sangat penting ketika koin baru muncul di pasar, karena model siap pakai sering memberikan hasil di bawah standar. Crypto.com kemudian mulai menggunakan Amazon SageMaker sebagai platform pengembangan ML end-to-end on-demand untuk menyempurnakan model kustomnya.

Raymond Lam, insinyur senior di Crypto.com, mengatakan, “Amazon SageMaker menyediakan alat dan API untuk dengan mudah mengadaptasi model kami dengan antarmuka yang ramah pengguna. Mirip dengan Amazon Bedrock, kami hanya perlu menjalankan pekerjaan pembelajaran mesin sesuai kebutuhan, dan jauh lebih mudah untuk mengelola pemodelan khusus daripada jika kami melakukannya sendiri.”

Crypto.com menerima dukungan ekstensif dari AWS selama fase pembuatan ide, POC, dan produksi penerapan multi-agen. "Kami memiliki beberapa diskusi tentang alat atau kerangka kerja yang harus di-deploy untuk kasus penggunaan yang berbeda," kata Lam. "Tim AWS membagikan kasus penggunaan yang ada, memberikan kode sampel, dan mendemonstrasikan setiap langkah. Ketika masalah teknis muncul, arsitek solusi AWS membantu memecahkan masalah dan menawarkan saran, yang mempercepat orientasi kami ke AI generatif pada layanan AWS."

Dengan menerapkan solusi pencarian konsensus multi-agen untuk analisis sentimen di AWS, Crypto.com dapat secara efisien memberikan wawasan pasar kripto yang akurat, komprehensif, dan terlokalisasi ke basis pengguna globalnya. Fok menjelaskan, "Kami dapat membagikan lebih banyak berita instan dan terkini dengan pengguna tentang sentimen koin—misalnya bullish atau bearish. Pengguna mendapatkan informasi yang lebih lengkap, yang berarti mereka dapat melakukan investasi yang direncanakan dengan lebih baik." Rekayasawan juga mencatat peningkatan akurasi untuk QE dengan konteks luas dengan model Claude 3 di Amazon Bedrock.

Selain itu, dengan Amazon Bedrock, Crypto.com mendapat manfaat dari model yang sangat skalabel yang mengotomatiskan pembuatan wawasan untuk menghemat waktu dan sumber daya. "Kami menjadi lebih efisien dengan model siap pakai yang dapat kami akses melalui API, yang memberi kami lebih banyak fleksibilitas dalam pengembangan," kata Lam. "Dengan AI generatif di AWS, kami memiliki lebih banyak opsi untuk kasus penggunaan atau persyaratan yang berbeda, sehingga kami dapat dengan mudah menguji model baru saat model tersebut diluncurkan."

Crypto.com saat ini sedang mengeksplorasi kasus penggunaan baru untuk model Claude 3 di Amazon Bedrock, seperti memproses dokumen, tabel, dan grafik. Pengujian awal telah menunjukkan hasil yang menjanjikan dalam hal akurasi dibandingkan dengan pembaca pengenalan karakter optik (OCR) berbasis ML di pasaran. Perusahaan juga secara aktif mengembangkan kasus penggunaan AI generatif baru, seperti menangkap sentimen di media sosial.

Pelanggan telah menyatakan kepuasan dengan pekerjaan yang sedang berlangsung, yang mendorong Crypto.com untuk terus menguji cara untuk menerapkan AI generatif di seluruh organisasi. "Umpan balik dari proyek AI generatif kami sangatlah luar biasa, baik secara internal maupun dari pengguna," kata Fok.