はじめに
こんにちは！ソリューションアーキテクトの長友です。
最近は大規模言語モデル (LLM : Large Language Model) のサービスや機能がどんどん増えてきていますね。皆さん良い LLM ライフをお過ごしでしょうか。LLM を活用してタスクが効率化するのは楽しいですよね !
皆さんの中には社内専用の生成 AI チャットツールが欲しいと思う方も多いのではないでしょうか。そこで本記事では Bedrock Claude Chat というソリューションを紹介します。本ソリューションの魅力は、数コマンド実行するだけでリッチな UI 付きの生成 AI チャットツールを作成できることです。もちろんカスタマイズして新しい機能を追加し、社内のタスクに特化させることも可能です。Bedrock Claude Chat では Amazon Bedrock で選択できる基盤モデルの中で特に日本語の対応レベルが高い Claude を用いています。
今回は Bedrock Claude Chat のデプロイ方法、機能の説明、日本語での会話例をお見せします !
ご注意
builders.flash メールメンバー登録
1. できあがったもの
フィボナッチ数列をどう書くのか尋ねてみる
ここでは様々なプログラミング言語でフィボナッチ数列をどう書くのか尋ねてみます。
Claude が返したコードは見やすいようにシンタックスハイライトされており、Bedrock Claude Chat はリッチな UI が実装されていることが確認できます。
2. Amazon Bedrock の紹介
本ソリューションで利用している Anthropic の Claude は、英語と他の複数言語でコンテンツ生成、要約、分類、QA など多数のタスクに対応できます。処理できる最大トークン数が 10 万 (約 75,000 語) と非常に大きく、非常に長い文章を処理できる特徴を持っています。
3. Bedrock Claude Chat の概要
Bedrock Claude Chat は社内専用の生成 AI チャットツールを数コマンドで簡単にデプロイできるソリューションです。すべて AWS サービスで構築されており、社内のデータを入力しても AWS ネットワーク外に出ないこと、 IP アドレス制限の機能がデフォルトで用意されていることから、セキュリティや統制をかけやすいことが魅力です。コードは公開されているので、カスタマイズして社内規約に準拠した生成 AI チャットツールを作り上げることも可能です。
ここでは Bedrock Claude Chat の機能、アーキテクチャ、デプロイ方法を説明します。
3-1. 機能
本記事の執筆時点では以下のような機能が実装されています。
認証 (サインアップ・サインイン)
会話の新規作成・保存・削除
チャットボットの返信内容のコピー
会話の件名自動提案
コードのシンタックスハイライト
マークダウンのレンダリング
ストリーミングレスポンス
IP アドレス制限
メッセージの編集と再送
I18n (英語、日本語、韓国語、中国語)
モデルの切り替え (Claude Instant/Claude)
3-2. アーキテクチャ
Bedrock Claude Chat は AWS のマネージドサービスで構成されており、スケーラブルで信頼性が高く、インフラストラクチャの管理が不要なアーキテクチャとなっています。また Amazon Bedrock の活用により、AWS 外部の API と通信する必要もありません。
AWS サービス |
機能概要 |
会話履歴保存用の NoSQL データベース |
|
バックエンド API エンドポイント (AWS Lambda Web Adapter, FastAPI) |
|
フロントエンドアプリケーションの配信 (React, Tailwind CSS) |
|
IP アドレス制限 |
|
ユーザー認証 |
|
基盤モデルを API 経由で利用できるマネージドサービス |
まずフロントエンドについて説明します。Amazon S3 でフロントエンドをホスティングし、Amaozn CloudFront で配信をします。ユーザーの認証は Amazon Cognito で管理しており、AWS WAF でアクセス制限することが可能です。IP 制限が可能で、アクセス可能な IP Range を指定できます。もちろんコードを拡張してさらに強固な設定をかけることも可能です。
続いてバックエンドについて説明します。Backend API と Streaming Response API の 2 種類があります。Backend API は会話の履歴、会話の一覧、会話のタイトルのタイトルの取得などを行い、Streaming Response API は Claude からの回答をストリーミングで返却する Web Socket API です。Claude との会話の履歴は Amazon DynamoDB に蓄積されており、過去のコンテキストを考慮した会話が可能です。
3-3. デプロイ方法
まず、本サンプルの構築には AWS サービスの有効なアカウントが必要となります。
デプロイの手順はシェルを実行する方法と、CDK コマンドを実行するデプロイ方法の 2 種類が用意されています。シェルを実行する方法は、CDK コマンドを実行する方法と比べて簡単にデプロイができます。このブログではシェルを実行する方法でデプロイします。
まず最初に AWS マネジメントコンソールから AWS CloudShell を開きます。CloudShell は AWS マネジメントコンソール上で手軽にシェルを実行できるサービスです。 CloudShell 上でコマンドを実行することでデプロイをしていきます。
Github からコードを Clone
まず、Github からコードを Clone します。
git clone https://github.com/aws-samples/bedrock-claude-chat.gitbin.sh を実行
次に事前に用意されたデプロイ用のシェル bin.sh を実行します。
cd bedrock-claude-chat
chmod +x bin.sh
./bin.shデプロイ完了
10 分ほど経ち、以下のような形式の URL が表示されたらデプロイは完了です。この URL にアクセスすることで Bedrock Claude Chat を試すことができます。
Frontend URL: https://xxxxxxxxx.cloudfront.net.rproxy.govskope.ca4. Bedrock Claude Chat を試してみた
先ほど表示された URL をブラウザに入力してみるとサインアップ画面が表示されます。
Bedrock Claude Chat にアクセスするにはアカウントを作成する必要があります。ユーザー名としてメールアドレス、パスワードを入力し「アカウントを作る」ボタンを押してください。
確認コードを入力
アカウント作成が完了すると、入力したメールアドレス宛に確認コードが送信されます。確認コードの受信までに 1 分ほど時間がかかる場合があります。
確認コードを入力し「確認」ボタンを押してください。
認証完了
メールアドレス認証を完了すると Bedrock Claude Chat の画面が表示されます。
画面下部のテキストボックスに文字を入力することで Claude との会話を開始できます。
Claude にスペイン語で「おはよう」の言い方を教えてもらう
Claude にスペイン語で「おはよう」の言い方を教えてもらいましょう。簡単な補足も加えて簡潔に回答してくれていますね。
ここで入力に対して一気に回答を表示するのではなく、少しずつ表示されているのが確認できます。これはストリーミングレスポンスという Amazon Bedrock の機能で、回答の生成に時間がかかる場合でも少しずつ回答を返却することで、ユーザー体験の向上が見込めます。
英語でどのように言うのか教えてもらう。
次に英語でどのように言うのか教えてもらいましょう。今回の例では「英語では？」と聞くだけで「おはよう」を英語でどのように言うのかを教えてくれており、Claude と自然に会話ができています。
これは本ソリューションが DynamoDB に会話の履歴を保存しており、過去のコンテキストを失わず会話できるようにしているためです。
過去の会話履歴
左側のバーを確認すると、会話の内容から件名を自動生成してくれていることがわかります。過去にどんな会話があったかひとめで分かるようになっています。
5. リソースの削除
立ち上げたリソースをそのままにしておくと、利用していなくとも S3 バケットなどのコストが継続的に発生するため不要になった場合は削除してください。
AWS CloudFormation の管理画面から「BedrockChatStack」、「FrontendWafStack」、「CodeBuildForDeploy」スタックを削除することでリソースの削除は完了です。
6. まとめ
なお、AWS が用意している Amazon Bedrock を利用した他のソリューションとして、メール作成、要約、CS 業務効率化を行うことのできる generative-ai-use-cases-jpや社内情報を利用した QA サイトが構築できる jp-rag-sample が用意されています。jp-rag-sample は こちら の記事でも詳細に解説されていますので、builders.flash をご覧の皆様も、これらのソリューションを活用して業務の効率化にお役立てください !
筆者プロフィール
長友 健人 (Kento Nagatomo)
アマゾン ウェブ サービス ジャパン合同会社 ソリューションアーキテクト
ソリューションアーキテクトとしてデジタルネイティブビジネスを行うお客様を中心に技術支援しています。好きな AWS サービスは Amazon SageMaker。フットサルをよくやってます。
Did you find what you were looking for today?
Let us know so we can improve the quality of the content on our pages