• amazon-bedrock
• amazon-machine-learning
• artificial-intelligence

• Amazon Bedrock Model Distillationがプレビューで利用可能になりました。
• 顧客は特定のユースケースに対して、小型で高速、コスト効率の良いモデルを使用できます。
• この機能は、モデルの蒸留プロセスを自動化し、反復の負担を軽減します。
• 教師モデルからの合成データ生成、生徒モデルのトレーニングと評価、蒸留モデルのホスティングを行います。
• ユースケースに応じて最適なデータ合成方法を適用し、高度なモデルに匹敵する精度を実現します。

Amazon Bedrockが新機能「Model Distillation」をプレビューで提供開始。この機能により、顧客は特定のユースケースに対して、より小型で高速、コスト効率の良いモデルを使用しながら、Amazon Bedrockの最高性能モデルに匹敵する精度を実現できます。

Amazon Bedrock Model Distillationにより、顧客はAmazon Bedrockの最高性能モデルに匹敵する精度を持ちながら、より小型で高速、コスト効率の良いモデルを特定のユースケースに利用できるようになりました。
従来、顧客のユースケースに合わせて小型モデルの精度を向上させるファインチューニングは、プロンプトと応答の作成、トレーニングデータセットの改善、多様な例の確保、トレーニングパラメータの調整など、反復的なプロセスが必要でした。
Amazon Bedrock Model Distillationは、教師モデルから合成データを生成し、生徒モデルのトレーニングと評価を行い、最終的な蒸留モデルを推論用にホストするプロセスを自動化します。
反復の負担を軽減するため、Model Distillationは特定のユースケースに最適なデータ合成方法を適用し、高度なモデルにほぼ匹敵する蒸留モデルを作成することがあります。
例えば、Bedrockは類似のプロンプトを生成してトレーニングデータセットを拡張したり、顧客提供のプロンプト-応答ペアをゴールデンサンプルとして使用し、高品質の合成応答を生成したりする可能性があります。
詳細はドキュメントとブログをご参照ください。

• Amazon Bedrock

• Amazon Bedrockは、AWSが提供する機械学習サービスです。このサービスを使用することで、開発者は高性能な基盤モデル（Foundation Models）にアクセスし、それらを自社のアプリケーションに統合することができます。Bedrockは、テキスト生成、画像生成、埋め込み（テキストの数値表現）など、さまざまなタスクに対応する複数のモデルを提供しています。今回発表されたModel Distillation機能は、大規模なモデルの知識を小型のモデルに効率的に転移させ、特定のタスクに特化した高性能な小型モデルを作成することを可能にします。これにより、計算コストを抑えながら高い精度を維持することができます。

• https://docs.aws.amazon.com/bedrock/latest/userguide/model-distillation.html
• https://aws.amazon.com/blogs/aws/build-faster-more-cost-efficient-highly-accurate-models-with-amazon-bedrock-model-distillation-preview