Crypto.com, AWS 기반 생성형 AI를 통해 1초 안에 정확한 감정 분석 제공

크립토닷컴은 모든 지갑에 암호화폐를 제공한다는 대담한 사명을 가지고 2016년에 설립되었습니다. 이 회사는 가맹점과 결제 게이트웨이를 포함한 광범위한 파트너 네트워크를 통해 사용자의 도입을 유도하는 데 중점을 두고 있다는 점에서 다른 거래 플랫폼과 차별화됩니다. 크립토닷컴은 현재 90개국에서 약 1억 명의 사용자에게 서비스를 제공하고 있습니다.

급속한 성장과 다양한 고객층 (모두 진화하고 경쟁이 치열한 산업) 을 바탕으로 Crypto.com은 제너레이티브 인공 지능 (AI) 을 도입하여 최적화된 고객 경험을 신속하게 제공합니다. 이 회사의 AI 사용 사례로는 온보딩 및 고객 문의를 위한 대화형 도우미와 소셜 미디어 마케팅 캠페인을 생성하는 마법사 등이 있습니다.

생성형 AI 애플리케이션에서 감정 분석과 뉴스 내러티브 분류의 중요성이 갈수록 커지고 있습니다. 특히 암호화폐 분야의 투자자들은 정보에 입각한 결정을 내리기 위해 시기적절하고 정확한 시장 인텔리전스를 필요로 합니다. Crypto.com은 사용자가 암호화폐 및 기존 뉴스 소스의 최신 뉴스 및 정보에 액세스하여 회사의 인텔리전스 엔진으로부터 통찰력을 얻을 수 있는 시장 인사이트 서비스를 제공합니다. 각 구독 상품은 사용자의 거래 수준과 지갑에 있는 코인에 따라 맞춤화됩니다.

크립토닷컴은 감성 분석을 위한 자체 맞춤형 모델과 함께 다양한 상용 머신러닝 (ML) 모델을 사용합니다. 하지만 개발자들은 오픈 소스 모델의 한계와 대규모 언어 모델(LLM)을 자체적으로 호스팅하는 데 드는 높은 비용 때문에 어려움을 겪었습니다. 게다가, 특히 다국어 뉴스 사이트를 다룰 때 오픈 소스 모델에서 생성된 출력의 정확성 문제에 직면했습니다. 따라서 크립토닷컴은 암호화폐 시장에 대한 정확하고 신뢰할 수 있으며 포괄적인 통찰력을 제공하기 위해 사전 학습된 모델과 맞춤화된 여러 ML 모델의 결과를 통합하고 합성할 수 있는 보다 효과적인 솔루션을 모색했습니다.

크립토닷컴은 출시 이후 아마존 웹 서비스 (AWS) 에서 운영되어 왔기 때문에 감정 분석을 위한 새로운 LLM을 찾았을 때 아마존 베드록의 Anthropic Claude 3를 선택하는 것이 합리적이었습니다. 이 LLM은 확장성이 뛰어나고 방대한 양의 데이터를 실시간으로 처리하여 포괄적인 시장 조사를 지원합니다. 초기 결과에 따르면 Amazon Bedrock의 LLM은 결과를 매우 빠르게(일반적으로 1초 이내) 반환하는 것으로 나타났습니다.

Amazon Bedrock을 통합한 결과, 자체적으로 LLM을 호스팅하는 데 따른 수작업, 추가 비용, 계산의 제약이 사라졌습니다. 크립토닷컴은 한 달 만에 아마존 베드록에 앤트로픽 클로드 3 하이쿠 모델을 구현하여 감정 분석, 25개 이상의 언어로 암호화폐 뉴스를 수집 및 분석했습니다. 또한 이 회사는 지속적인 개념 증명(POC) 및 개발에도 Amazon Bedrock을 활용합니다. 크립토닷컴의 AI 및 혁신 기술 책임자인 써니 포크 (Sunny Fok) 는 다음과 같이 말합니다. “아마존 세이지메이커와 아마존 베드록과 같은 AWS 서비스의 제너레이티브 AI 덕분에 최신 LLM 및 AI 기술을 쉽게 채택할 수 있었습니다. 이제 POC에서 얻은 혁신적인 아이디어를 몇 주 만에 정식 프로덕션 환경에 적용할 수 있게 되었습니다”라고 말합니다.

도메인별 지식이 모델 출력에 적용되도록 하기 위해 크립토닷컴은 자체 데이터를 사용하여 Amazon Elastic Compute Cloud (Amazon EC2) 에서 Mistral AI 및 Meta Lama를 포함한 오픈 소스 모델을 미세 조정했습니다. 기성 모델의 경우 수준 이하의 결과를 제공하는 경우가 빈번하기 때문에, 이러한 접근 방식은 시장에 새로운 코인이 등장할 때 특히 중요합니다. 그 후 크립토닷컴은 Amazon SageMaker를 온디맨드 엔드-투-엔드 ML 개발 플랫폼으로 사용하여 사용자 지정 모델을 미세 조정하기 시작했습니다.

크립토닷컴의 수석 엔지니어인 레이몬드 램 (Raymond Lam) 은 이렇게 말합니다. “Amazon SageMaker는 사용자 친화적인 인터페이스로 모델을 쉽게 조정할 수 있는 도구와 API를 제공합니다. Amazon Bedrock과 마찬가지로 필요에 따라 기계 학습 작업만 실행하면 되고, 사용자 지정 모델링을 직접 관리하는 것보다 훨씬 쉽게 관리할 수 있습니다.”

Crypto.com은 멀티 에이전트 배포의 아이디어 생성, POC 및 프로덕션 단계 전반에 걸쳐 AWS로부터 광범위한 지원을 받았습니다. Lam은 “다양한 사용 사례에 맞추어 어떤 도구 또는 프레임워크를 배포할지 여러 차례 논의했습니다. AWS 팀은 기존 사용 사례를 공유하고, 샘플 코드를 제공하고, 각 단계를 데모로 보여주었습니다. 기술적인 문제가 발생하면 AWS 솔루션스 아키텍트가 문제 해결을 돕고 솔루션을 제안해 주었습니다. 그 덕분에 AWS 서비스에서 생성형 AI에 대한 온보딩이 가속화되었습니다”라고 말합니다.

Crypto.com은 감성 분석을 위한 다중 에이전트 합의 추구 솔루션을 AWS에 구현함으로써 전 세계 사용자 기반에 정확하고 포괄적이며 현지화된 암호화폐 시장 통찰력을 효율적으로 제공할 수 있습니다. Fok은 “일례로, 강세장이든 약세장이든 관계없이 코인의 투자 심리에 대해 보다 즉각적이고 업데이트된 뉴스를 사용자와 공유할 수 있습니다. 사용자는 더 많은 정보를 얻게 되며, 따라서 보다 계획적인 투자를 할 수 있게 됩니다”라고 설명합니다. 또한 엔지니어들은 Amazon Bedrock에서 Claude 3 모델을 사용하면서 대규모 컨텍스트 QE의 정확도가 향상되었다고 밝혔습니다.

또한 Crypto.com은 Amazon Bedrock을 통해 인사이트 생성을 자동화하여 시간과 리소스를 절약하는 확장성이 뛰어난 모델을 활용할 수 있습니다. Lam은 “API를 통해 액세스할 수 있는 즉시 사용 가능한 모델을 통해 효율성이 향상되고 있으며, 결과적으로 개발 유연성이 높아졌습니다. AWS 기반 생성형 AI를 사용하면 다양한 사용 사례 또는 요구 사항에 따른 옵션이 더 많이 주어지므로, 새 모델이 등장할 경우에 테스트하기가 용이합니다”라고 말합니다.

크립토닷컴은 현재 Amazon Bedrock에서 문서, 테이블 및 차트 처리와 같은 클로드 3 모델의 새로운 사용 사례를 모색하고 있습니다. 초기 테스트에서는 시중의 ML 기반 광학 문자 인식(OCR) 분야의 리더와 비교하여 정확도 측면에서 유망한 결과를 얻었습니다. 또한 이 회사는 소셜 미디어에서 감정을 포착하는 등의 새로운 생성형 AI 사용 사례도 적극적으로 개발하고 있습니다.

고객들은 현재 진행 중인 작업에 만족감을 나타냈고, 이를 통해 크립토닷컴은 조직 전체에 제너레이티브 AI를 배포하는 방법을 계속 테스트할 수 있게 되었습니다. Fok은 “내부적으로는 물론이고 사용자로부터도 생성형 AI 프로젝트에 대한 매우 고무적인 피드백을 받고 있습니다”라고 말합니다.