Crypto.com stellt mithilfe generativer KI in AWS genaue Stimmungsanalysen in 1 Sekunde bereit

Crypto.com wurde 2016 mit einer mutigen Mission gegründet: Kryptowährung in jede Brieftasche zu bringen. Das Unternehmen unterscheidet sich von anderen Handelsplattformen durch den starken Fokus auf die Förderung der Benutzerakzeptanz. Es verfügt über ein umfangreiches Netzwerk von Partnern, darunter Händler und Zahlungsgateways. Crypto.com bedient derzeit rund 100 Millionen Nutzer in 90 Ländern.

Angesichts eines so schnellen Wachstums und eines vielfältigen Kundenstamms — alles in einer sich entwickelnden, wettbewerbsintensiven Branche — hat Crypto.com generative künstliche Intelligenz (KI) eingeführt, um schnell optimierte Kundenerlebnisse zu bieten. Zu den KI-Anwendungsfällen des Unternehmens gehören Konversationsassistenten für Onboarding und Kundenanfragen sowie Assistenten zur Entwicklung von Marketingkampagnen für die sozialen Medien.

Bei generativen KI-Anwendungen werden Stimmungsanalysen und die Kategorisierung von Nachrichten immer wichtiger. Vor allem im Bereich der Kryptowährungen benötigen Anleger zeitnahe und genaue Marktinformationen, um fundierte Entscheidungen treffen zu können. Crypto.com bietet einen Markteinsichtsdienst, bei dem Benutzer auf die neuesten Nachrichten und Informationen sowohl aus Krypto- als auch aus traditionellen Nachrichtenquellen zugreifen können, um Einblicke in die Intelligence-Engines des Unternehmens zu erhalten. Jedes Abonnement ist auf das Handelsvolumen des jeweiligen Benutzers und auf die Coins in seinem Wallet zugeschnitten.

Crypto.com verwendet neben seinen eigenen benutzerdefinierten Modellen für die Stimmungsanalyse eine Reihe von Standardmodellen für maschinelles Lernen (ML). Die Entwickler stießen jedoch auf Schwierigkeiten, die mit den Grenzen von Open-Source-Modellen und den hohen Kosten für selbst gehostete große Sprachmodelle (LLMs) zusammenhängen. Außerdem waren die Ergebnisse von Open-Source-Modellen nicht präzise genug, insbesondere bei mehrsprachigen Nachrichten-Websites. Aus diesem Grund suchte Crypto.com nach einer effektiveren Lösung zur Integration und Synthese von Ergebnissen mehrerer ML-Modelle — sowohl vortrainierter als auch benutzerdefinierter —, um genaue, zuverlässige und umfassende Einblicke in den Kryptomarkt zu erhalten.

Crypto.com läuft seit seiner Einführung auf Amazon Web Services (AWS). Als das Unternehmen nach neuen LLMs für die Stimmungsanalyse suchte, war Anthropic Claude 3 auf Amazon Bedrock eine logische Wahl. Diese LLMs sind hochgradig skalierbar und verarbeiten große Datenmengen in Echtzeit, was eine umfassende Marktforschung ermöglicht. Bei ersten Tests zeigte sich, dass LLMs in Amazon Bedrock sehr schnell Ergebnisse liefern, in der Regel innerhalb einer Sekunde.

Durch die Integration von Amazon Bedrock entfielen der manuelle Aufwand, die zusätzlichen Kosten und die Rechenbeschränkungen, die mit selbst gehosteten LLMs einhergehen. Innerhalb eines Monats hatte Crypto.com die Haiku-Modelle von Anthropic Claude 3 auf Amazon Bedrock zur Stimmungsanalyse implementiert und Kryptonachrichten in mehr als 25 Sprachen gesammelt und analysiert. Die Firma nutzt Amazon Bedrock außerdem für laufende Proofs of Concepts (PoCs) und für die Entwicklung. Sunny Fok, Leiter für KI- und Innovationstechnologie bei Crypto.com, sagt: „Generative KI in AWS-Services wie Amazon SageMaker und Amazon Bedrock hat unsere Einführung der neuesten LLMs und KI-Technologien optimiert. Jetzt können wir innovative Ideen innerhalb weniger Wochen vom Proof of Concept zur vollen Produktionsreife weiterentwickeln.“

Um sicherzustellen, dass domänenspezifisches Wissen bei der Modellausgabe angewendet wird, verwendete Crypto.com seine eigenen Daten, um Open-Source-Modelle wie Mistral AI und Meta Llama auf Amazon Elastic Compute Cloud (Amazon EC2) zu verfeinern. Diese Vorgehensweise ist entscheidend, wenn neue Coins auf den Markt kommen, da fertige Modelle oft nur unzureichende Ergebnisse liefern. Crypto.com begann daraufhin, Amazon SageMaker als On-Demand-End-ML-Entwicklungsplattform zur Feinabstimmung seiner benutzerdefinierten Modelle zu verwenden.

Raymond Lam, Senior Engineer bei Crypto.com, sagt: „Amazon SageMaker bietet die Tools und APIs, um unsere Modelle mit einer benutzerfreundlichen Oberfläche einfach anzupassen. Ähnlich wie bei Amazon Bedrock müssen wir Machine-Learning-Jobs nur nach Bedarf ausführen, und es ist viel einfacher, benutzerdefinierte Modellierungen zu verwalten, als wenn wir es selbst tun würden.“

Crypto.com erhielt während der gesamten Ideengenerierung, des POC und der Produktionsphase der Multi-Agent-Bereitstellung umfassende Unterstützung von AWS. „Wir hatten mehrere Gespräche darüber, welche Tools oder Frameworks für die verschiedenen Anwendungsfälle eingesetzt werden sollten“, so Lam. „Das AWS-Team informierte uns über bestehende Anwendungsfälle, stellte Beispielcode zur Verfügung und demonstrierte die einzelnen Schritte. Als technische Probleme auftauchten, halfen die AWS-Lösungsarchitekten bei der Fehlerbehebung und unterbreiteten entsprechende Vorschläge, was unsere Einarbeitung in die generative KI in AWS-Services beschleunigte.“

Durch die Implementierung einer Lösung zur Stimmungsanalyse mit mehreren Agenten auf AWS kann Crypto.com seiner globalen Nutzerbasis effizient genaue, umfassende und lokalisierte Einblicke in den Kryptomarkt liefern. Fok erklärt: „Wir können mehr aktuelle Nachrichten über die Stimmung bezüglich der Coins an die Benutzer übermitteln – beispielsweise, ob ihr Wert eher steigt oder sinkt. Die Benutzer werden besser informiert, sodass sie besser geplante Investitionen tätigen können.“ Außerdem haben die Techniker mit Claude-3-Modellen in Amazon Bedrock eine verbesserte Genauigkeit bei Abfrageerweiterungen in großen Kontexten festgestellt.

Darüber hinaus profitiert Crypto.com mit Amazon Bedrock von hoch skalierbaren Modellen, die die Generierung von Erkenntnissen automatisieren, um Zeit und Ressourcen zu sparen. „Durch gebrauchsfertige Modelle, auf die wir per API zugreifen können, arbeiten wir effizienter, was uns mehr Flexibilität bei der Entwicklung gibt“, sagt Lam. „Mit generativer KI in AWS haben wir mehr Optionen für verschiedene Anwendungsfälle oder Anforderungen, sodass wir neu herauskommende Modelle problemlos testen können.“

Crypto.com untersucht derzeit neue Anwendungsfälle für Claude 3-Modelle auf Amazon Bedrock, z. B. die Verarbeitung von Dokumenten, Tabellen und Diagrammen. Erste Tests haben vielversprechende Ergebnisse in Bezug auf die Genauigkeit im Vergleich zu ML-gestützten OCR-Lesegeräten (Optical Character Recognition) auf dem Markt gezeigt. Das Unternehmen entwickelt zudem aktiv neue Anwendungsfälle für generative KI, wie etwa die Erfassung von Stimmungen in den sozialen Medien.

Die Kunden haben ihre Zufriedenheit mit der laufenden Arbeit zum Ausdruck gebracht, was Crypto.com dazu ermutigt, weiterhin Möglichkeiten für den Einsatz generativer KI im gesamten Unternehmen zu testen. „Das Feedback zu unseren generativen KI-Projekten war beeindruckend, sowohl intern als auch von unseren Benutzern“, freut sich Fok.