OpenAI のオープンウェイトモデルが AWS で利用可能に

AWS は、業界で最も先進的な基盤モデル (FM) の提供に努めており、業界をリードする AI イノベーターによる画期的なモデルをより幅広く採用できるように注力し続けています。これにより、常に最新の進歩を活用してビジネスの成長を促進することができます。

8 月 5 日、Amazon Bedrockと Amazon SageMaker JumpStart で 2 つの新しいオープンウェイトの OpenAI モデルが利用可能になったことを発表できることを嬉しく思います。OpenAI gpt-oss-120b および gpt-oss-20b モデルは、テキスト生成と推論タスク向けに設計されており、開発者や組織がインフラストラクチャとデータを完全に制御して AI アプリケーションを構築するための新しいオプションを提供します。

オープンウェイトモデルは、コーディング、科学的分析、数学的問題解決に優れており、主要な代替モデルと同等のパフォーマンスを発揮します。どちらのモデルも 128K のコンテキストウィンドウをサポートし、特定のユースケース要件に合わせて調整可能な推論レベル (低/中/高) を提供します。モデルは外部ツールをサポートして機能を強化でき、たとえば Strands Agents のようなフレームワークを使用して、エージェントワークフローで利用することが可能です。

AWS では、Amazon Bedrock と Amazon SageMaker JumpStart を利用することで、OpenAI のオープンウェイトモデルを含む主要な AI 企業の数百もの FM にアクセスして、自由にイノベーションを起こすことができます。モデルの豊富なラインナップにより、いつでも最適なモデルの AI ワークロードを選ぶことができます。

Amazon Bedrock を利用すると、コードを書き換えることなく、さまざまなモデルを試したり、機能を組み合わせたり、プロバイダーを切り替えたりできます。これにより、モデルの選択を戦略的な利点に変え、新しいイノベーションの登場に合わせて AI 戦略を継続的にアップデートすることができます。提供開始時から、新しいモデルは OpenAI と互換性のあるエンドポイントを介して Bedrock で利用可能です。OpenAI SDK をこのエンドポイントに接続するか、Bedrock InvokeModel や Converse API を使用して利用できます。

SageMaker JumpStart を使用すると、ユースケースに合わせてモデルを迅速に評価、比較、カスタマイズできます。その後、SageMaker AI コンソールまたは SageMaker Python SDK を使用して、元のモデルまたはカスタマイズされたモデルを本番環境にデプロイできます。

実際にどのように機能するか見てみましょう。

Amazon Bedrock における OpenAI のオープンウェイトモデル入門
Amazon Bedrock コンソールでは、ナビゲーションペインの [設定と学習] セクションから [モデルアクセス] を選択します。次に、このページに表示されている 2 つの OpenAI モデルに移動し、アクセスをリクエストします。

アクセスできるようになったので、チャット/テストのプレイグラウンドを使用してモデルのテストと評価を行っています。カテゴリとして OpenAI を選択し、次に gpt-oss-120b モデルを選択します。

このモデルを使用して、次のサンプルプロンプトを実行します。

ある家族が来年の休暇のために 5,000 USD を貯金します。年間 2% の利息が付く普通預金口座、または年間 4% の利息で休暇まで預金を引き出すことができない定期預金口座に預金することができます。その年の急な出費として 1,000 USD を確保しておく場合、休暇用の資金を最大限に活用するためには、2 つのオプションの間で資金をどのように分配すべきでしょうか。

このプロンプトは、結果の生成に使用された一連の考え方を含む出力を生成します。

モデルを OpenAI SDK で使用するには、API エンドポイント (ベース URL) を設定し、認証に Amazon Bedrock API キーを使用します。たとえば、米国西部 (オレゴン) の AWS リージョンのエンドポイント (us-west-2) と Amazon Bedrock API キーを使用するように次の環境変数を設定しました。

export OPENAI_API_KEY="<my-bedrock-api-key>"
export OPENAI_BASE_URL="https://bedrock-runtime.us-west-2.amazonaws.com/openai/v1"

次に、OpenAI Python SDK を使用してモデルを呼び出します。

client = OpenAI()

response = client.chat.completion.create(
    messages=[{
        "role": "user",
        "content": "Hello, how are you?"
    }],
    model="openai.gpt-oss-120b-1:0",
    stream=True
)

for item in response:
    print(item)

AI エージェントを構築するには、Amazon Bedrock API または OpenAI API をサポートする任意のフレームワークを選択できます。たとえば、Amazon Bedrock API を使用する Strands Agents の開始コードは次のとおりです。

from strands import Agent
from strands.models import BedrockModel
from strands_tools import calculator

model = BedrockModel(
    model_id="openai.gpt-oss-120b-1:0"
)
agent = Agent(
    model=model,
    tools=[calculator]
)

agent("Tell me the square root of 42 ^ 3")

コード (app.py ファイル) を保存し、依存関係をインストールして、エージェントをローカルで実行します。

pip install strands-agents strands-agents-tools
python app.py

エージェントに問題がなければ、Amazon Bedrock AgentCore が提供する機能 (フルマネージド型のサーバーレスランタイム、メモリおよび ID 管理など) を使用して本番環境にデプロイできます。

Amazon SageMaker JumpStart における OpenAI のオープンウェイトモデル入門
Amazon SageMaker AI コンソールでは、SageMaker Studio で OpenAI のオープンウェイトモデルを使用できます。初めてこれを行う際には、SageMaker ドメインを設定する必要があります。よりシンプルなシングルユーザー向けまたは組織用に設定するオプションがあります。これらのテストでは、シングルユーザー設定を使用します。

SageMaker JumpStart モデルビューでは、gpt-oss-120b モデルまたは gpt-oss-20b モデルの詳細な説明にアクセスできます。

gpt-oss-20b モデルを選択し、そのモデルをデプロイします。次のステップでは、インスタンスタイプと初期インスタンス数を選択します。数分後、デプロイによってエンドポイントが作成されることで、SageMaker Studio での呼び出しや、任意の AWS SDK の使用が可能になります。

詳細については、AWS AI ブログの OpenAI の GPT OSS モデルが SageMaker JumpStart で利用可能にをご覧ください。

知っておくべきこと
新しい OpenAI のオープンウェイトモデルは米国西部 (オレゴン) AWS リージョンの Amazon Bedrock で利用可能になりました。一方、Amazon SageMaker JumpStart は、これらのモデルを米国東部 (オハイオ、バージニア北部) とアジアパシフィック (ムンバイ、東京) でサポートしています。

各モデルには、思考過程をすべて出力する機能が備わっており、モデルの推論プロセスを詳細に把握できます。この透明性は、解釈可能性や検証の水準が高いアプリケーションにおいて、特に役立ちます。 これらのモデルでは、特定のニーズに合わせて自由に変更、調整、カスタマイズできます。この柔軟性により、独自のユースケースに合わせたモデルのファインチューニング、既存のワークフローへの統合、さらにこれを基に構築した業界やアプリケーションに合わせた新しい特殊なモデルの作成が可能になります。

これらのモデルには、包括的な評価プロセスと安全対策が施されており、セキュリティと安全性が核となっています。モデルは標準の GPT-4トークナイザーとの互換性があります。

どちらのモデルも、Amazon Bedrock のサーバーレスエクスペリエンスを使用する場合でも、SageMaker JumpStart の広範な機械学習 (ML) 開発機能を使用する場合でも、お好みの環境で使用できます。モデルとサービスの使用に関連するコストについては、Amazon Bedrock の料金表と Amazon SageMaker AI の料金表ページを参照してください。

詳細については、Amazon Bedrock のドキュメントにあるモデルのパラメータやチャット補完 API を参照してください。

Amazon Bedrock コンソールまたは Amazon SageMaker AI コンソールで AWS で OpenAI のオープンウェイトモデルを今すぐ利用開始しましょう。

– Danilo

原文はこちらです。