• amazon-machine-learning
• amazon-sagemaker
• artificial-intelligence

• Amazon SageMakerが新しいマルチアダプター推論機能を導入
• 1つのエンドポイントで数百のLoRAモデルアダプターを効率的にホスト可能
• 共通のベースモデルを使用して多様なタスクに対応可能
• マーケティング、ヘルスケア、金融サービスなど幅広い業界で活用可能
• 多数のリージョンで一般利用可能

Amazon SageMakerが新しいマルチアダプター推論機能を導入し、事前学習済み言語モデルを使用する顧客に新たな可能性を提供します。この機能により、1つのエンドポイントで数百のLoRAモデルアダプターを効率的にホストし、リクエストに応じて適切なアダプターを迅速に読み込むことができます。

本日、Amazon SageMakerは新しいマルチアダプター推論機能を導入し、事前学習済み言語モデルを使用する顧客に新たな可能性を提供します。
この機能により、1つのエンドポイントの背後に数百の微調整されたLoRA（Low-Rank Adaptation）モデルアダプターをデプロイし、リクエストに基づいて適切なアダプターをミリ秒単位で動的に読み込むことができます。
これにより、共通のベースモデル上に構築された多くの専門化されたLoRAアダプターを効率的にホストし、個別のモデルをデプロイする場合と比較して高いスループットとコスト削減を実現できます。
マルチアダプター推論を使用することで、事前学習済みモデルを迅速にカスタマイズして、多様なビジネスニーズに対応できます。
例えば、マーケティングやSaaS企業は、各顧客固有の画像、コミュニケーションスタイル、文書を使用してAI/MLアプリケーションをパーソナライズし、数秒で tailored コンテンツを生成できます。
同様に、ヘルスケアや金融サービスなどの業界の企業は、共通のLoRAを利用したベースモデルを再利用して、適切な微調整されたアダプターを入れ替えるだけで、医療診断から不正検出まで、さまざまな専門タスクに対応できます。
この柔軟性と効率性により、組織全体で強力で適応性のあるAIを展開する新たな機会が開かれます。
マルチアダプター推論機能は、アジアパシフィック（東京、ソウル、ムンバイ、シンガポール、シドニー、ジャカルタ）、カナダ（中部）、ヨーロッパ（フランクフルト、ストックホルム、アイルランド、ロンドン）、中東（UAE）、南米（サンパウロ）、米国東部（バージニア北部、オハイオ）、米国西部（オレゴン）で一般利用可能です。
開始するには、Amazon SageMaker開発者ガイドを参照して、LoRAの使用とモデルアダプターの管理に関する情報を確認してください。

• Amazon SageMaker

• Amazon SageMakerは、AWSが提供する機械学習プラットフォームです。データサイエンティストや開発者が機械学習モデルを簡単に構築、トレーニング、デプロイできるように設計されています。SageMakerは、データの前処理から、モデルのトレーニング、チューニング、デプロイまでの機械学習ワークフローー全体をサポートします。今回導入されたマルチアダプター推論機能は、事前学習済みの言語モデルを効率的にカスタマイズし、多様なビジネスニーズに対応するための新しい機能です。

• https://docs.aws.amazon.com/sagemaker/latest/dg/realtime-endpoints-adapt.html