Llama 3.3 70BがAmazon SageMaker JumpStartを通じてAWSで利用可能に
ID 430
GUID badfae93bbc20a383a63b9b3b73ed31c95571e9a
発表日(JST)
要約生成日時(JST)
タイトル Llama 3.3 70BがAmazon SageMaker JumpStartを通じてAWSで利用可能に
詳細リンク https://aws.amazon.com/about-aws/whats-new/2024/12/llama-3-3-70b-aws-amazon-sagemaker-jumpstart
カテゴリ
  • amazon-sagemaker-jumpstart
  • artificial-intelligence
要点
  • Llama 3.3 70BモデルがAmazon SageMaker JumpStartで利用可能に
  • 高性能と計算効率のバランスが取れたモデル
  • 約15兆のトークンで学習され、教師あり微調整とRLHFを経験
  • 推論コストを大幅に削減する強化された注意メカニズムを搭載
  • SageMaker JumpStartのUIまたはSageMaker Python SDKで展開可能
  • すべてのAmazon SageMaker AI利用可能リージョンで提供
アップデート内容要約

MetaのLlama 3.3 70Bモデルが、Amazon SageMaker JumpStartを通じてAWSで利用可能になりました。このモデルは高性能と計算効率のバランスが取れており、大規模なLlamaバージョンと同等の出力品質を提供しながら、必要なリソースが大幅に少なくなっています。

アップデート内容全文

AWSの顧客は、Amazon SageMaker JumpStartを通じてMetaのLlama 3.3 70Bモデルにアクセスできるようになりました。
Llama 3.3 70Bモデルは、高性能と計算効率のバランスを取っています。
また、より大規模なLlamaバージョンと同等の出力品質を提供しながら、必要なリソースが大幅に少なくなっており、コスト効率の高いAI展開に最適な選択肢となっています。
Llama 3.3 70Bは、推論コストを大幅に削減する強化された注意メカニズムを特徴としています。
ウェブソースのコンテンツや合成例を含む約15兆のトークンで学習され、広範な教師あり微調整と人間のフィードバックによる強化学習(RLHF)を経ています。
このアプローチにより、高いパフォーマンス基準を維持しながら、出力をより人間の好みに近づけています。
Metaによると、この効率化は推論操作のコスト効率を約5倍に向上させ、本番環境での展開に魅力的な選択肢となっています。
顧客は、SageMaker JumpStartのユーザーインターフェースを通じて、またはSageMaker Python SDKを使用してプログラムでLlama 3.3 70Bを展開できます。
SageMaker AIの高度な推論機能は、展開のパフォーマンスとコスト効率の両方を最適化し、Llama 3.3 70Bの本質的な効率性を最大限に活用しながら、合理化された展開プロセスの恩恵を受けることができます。
Llama 3.3 70Bモデルは、Amazon SageMaker AIが利用可能なすべてのAWSリージョンで利用できます。
Amazon SageMaker JumpStartでのLlama 3.3 70Bの展開について詳しく知るには、ドキュメントを参照するかブログをお読みください。

関連サービス
  • Amazon SageMaker
  • Amazon SageMaker JumpStart
関連サービスの説明
  • Amazon SageMaker JumpStartは、Amazon SageMakerの機能の一部で、事前学習済みの機械学習モデル、ソリューション、サンプルスクリプトを提供するサービスです。これにより、ユーザーは数回のクリックで機械学習モデルを簡単にデプロイできます。JumpStartは、テキスト生成、画像分類、物体検出など、さまざまなタスクに対応するモデルを提供しています。
  • Amazon SageMakerは、機械学習モデルの構築、トレーニング、デプロイを簡単に行えるようにする、フルマネージドの機械学習プラットフォームです。データの準備から、モデルのトレーニング、デプロイ、管理まで、機械学習のワークフロー全体をカバーします。SageMakerは、初心者から専門家まで、さまざまなスキルレベルのユーザーが利用でき、機械学習プロジェクトの開発と運用を効率化します。
関連URL