Crypto.com fornece uma análise de sentimentos precisa em um segundo por meio da IA generativa na AWS

A Crypto.com foi fundada em 2016 com uma missão ousada: levar criptomoedas para todas as carteiras. A empresa se destaca de outras plataformas de negociação por meio de seu forte foco em promover a adoção pelos usuários, com uma ampla rede de parceiros, incluindo comerciantes e gateways de pagamento. Atualmente, a Crypto.com atende cerca de 100 milhões de usuários em 90 países.

Com um crescimento tão rápido e uma base de clientes diversificada, tudo dentro de um setor competitivo e em evolução, a Crypto.com adotou a inteligência artificial generativa (IA) para oferecer rapidamente experiências otimizadas aos clientes. Os casos de uso de IA da empresa incluem assistentes de conversação para integração e consultas de clientes, além de assistentes para gerar campanhas de marketing em redes sociais.

Em aplicações de IA generativa, a análise de sentimentos e a categorização de narrativas de notícias estão se tornando cada vez mais vitais. Especialmente no espaço das criptomoedas, os investidores precisam de inteligência de mercado precisa e oportuna para tomar decisões embasadas. A Crypto.com fornece um serviço de visão de mercado onde os usuários podem acessar as últimas notícias e informações de fontes de notícias criptográficas e tradicionais para obter informações dos mecanismos de inteligência da empresa. Cada assinatura é personalizada de acordo com o nível de negociação do usuário e as moedas em sua carteira.

A Crypto.com emprega uma variedade de modelos de aprendizado de máquina (ML) prontos para uso junto com seus próprios modelos personalizados para análise de sentimentos. No entanto, os desenvolvedores enfrentaram desafios com as limitações dos modelos de código aberto e o alto custo dos grandes modelos de linguagem (LLMs) auto-hospedados. Eles também enfrentaram problemas de precisão com os resultados gerados por modelos de código aberto, especialmente ao lidar com sites de notícias multilíngues. Consequentemente, a Crypto.com buscou uma solução mais eficaz para integrar e sintetizar resultados de vários modelos de ML, pré-treinados e personalizados, para fornecer informações precisas, confiáveis e abrangentes sobre o mercado de criptomoedas.

O Crypto.com funciona na Amazon Web Services (AWS) desde seu lançamento, então, quando buscou novos LLMs para análise de sentimentos, o Anthropic Claude 3 no Amazon Bedrock foi uma escolha lógica. Esses LLMs são altamente escaláveis e processam grandes quantidades de dados em tempo real, facilitando uma pesquisa de mercado abrangente. Os resultados iniciais mostraram que os LLMs no Amazon Bedrock retornaram resultados com muita rapidez, geralmente em menos de um segundo.

A integração do Amazon Bedrock eliminou o esforço manual, o custo extra e as restrições computacionais dos LLMs auto-hospedados. Em um mês, a Crypto.com implementou os modelos Anthropic Claude 3 Haiku no Amazon Bedrock para análise de sentimentos, coleta e análise de notícias sobre criptomoedas em mais de 25 idiomas. A empresa também utiliza o Amazon Bedrock para provas de conceito (POCs) e desenvolvimento contínuos. Sunny Fok, chefe de tecnologia de IA e inovação da Crypto.com, diz: “A IA generativa nos serviços da AWS, como Amazon SageMaker e Amazon Bedrock, simplificou nossa adoção das mais recentes tecnologias de LLMs e IA. Agora, conseguimos levar ideias inovadoras da POC até a produção completa em semanas.”

Para garantir que o conhecimento específico do domínio seja aplicado na saída do modelo, a Crypto.com usou seus próprios dados para ajustar modelos de código aberto, incluindo Mistral AI e Meta Llama no Amazon Elastic Compute Cloud (Amazon EC2). Essa abordagem é crucial quando uma nova moeda aparece no mercado, pois os modelos prontos para uso geralmente apresentam resultados abaixo da média. A Crypto.com então começou a usar o Amazon SageMaker como uma plataforma de desenvolvimento de ML de ponta a ponta sob demanda para ajustar seus modelos personalizados.

Raymond Lam, engenheiro sênior da Crypto.com, diz: “O Amazon SageMaker fornece as ferramentas e APIs para adaptar facilmente nossos modelos com uma interface amigável. Semelhante ao Amazon Bedrock, só precisamos executar trabalhos de aprendizado de máquina conforme necessário, e é muito mais fácil gerenciar a modelagem personalizada do que se estivéssemos fazendo isso sozinhos.”

A Crypto.com recebeu amplo suporte da AWS durante as fases de geração de ideias, POC e produção da implantação de vários agentes. “Tivemos várias discussões sobre quais ferramentas ou estruturas implantar para diferentes casos de uso”, diz Lam. “A equipe da AWS compartilhou casos de uso existentes, forneceu exemplos de código e demonstrou cada etapa. Quando surgiram problemas técnicos, os arquitetos de soluções da AWS ajudaram a solucionar problemas e ofereceram sugestões, o que acelerou nossa integração à IA generativa nos serviços da AWS.”

Ao implementar uma solução multiagente de busca de consenso para análise de sentimentos na AWS, a Crypto.com pode fornecer com eficiência informações precisas, abrangentes e localizadas do mercado de criptomoedas para sua base global de usuários. Fok explica: “Podemos compartilhar notícias mais instantâneas e atualizadas com os usuários sobre o sentimento das moedas: se elas estão em alta ou em baixa, por exemplo. Os usuários ficam mais informados, o que significa que podem fazer investimentos mais bem planejados.” Os engenheiros também notaram uma precisão aprimorada na expansão de consultas em grandes contextos usando modelos Claude 3 no Amazon Bedrock.

Além disso, com o Amazon Bedrock, a Crypto.com se beneficia de modelos altamente escaláveis que automatizam a geração de insights para economizar tempo e recursos. “Estamos nos tornando mais eficientes com modelos prontos para uso que podemos acessar via API, o que nos dá mais flexibilidade no desenvolvimento”, diz Lam. “Com a IA generativa na AWS, temos mais opções para diferentes casos de uso ou requisitos, de forma que podemos testar facilmente novos modelos à medida que são lançados.”

Atualmente, a Crypto.com está explorando novos casos de uso para modelos Claude 3 no Amazon Bedrock, como processamento de documentos, tabelas e gráficos. Testes iniciais mostraram resultados promissores em termos de precisão em comparação com os leitores de reconhecimento óptico de caracteres (OCR) acionados por ML existentes no mercado. A empresa também está desenvolvendo ativamente novos casos de uso de IA generativa, como a captura de sentimentos nas redes sociais.

Os clientes expressaram satisfação com o trabalho em andamento, o que incentiva a Crypto.com a continuar testando formas de implantar IA generativa em toda a organização. “O feedback dos nossos projetos de IA generativa tem sido bastante surpreendente, tanto internamente quanto por parte dos nossos usuários”, compartilha Fok.