• aiml
• amazon-sagemaker-jumpstart
• artificial-intelligence

• Redisのlangcache-embed-v3-small、JetBrainsのMellum2-12B-A2.5B-Thinking、LightOnのLightOnOCR-2-1Bの3つのモデルがAmazon SageMaker JumpStartで利用可能に
• langcache-embed-v3-smallはLLMアプリケーションのセマンティックキャッシングに最適化され、冗長なLLM呼び出しを削減し応答時間を高速化
• Mellum2-12B-A2.5B-ThinkingはMixture-of-Expertsアーキテクチャを使用し、コード生成・デバッグ・多段階推論に優れ、131,072トークンのコンテキスト長を持つ
• LightOnOCR-2-1Bは1Bパラメータのビジョン言語モデルで、PDF・スキャン・画像からテキストへのエンドツーエンド変換を提供し、競合より約9倍小さく高速
• SageMaker JumpStartのモデルカタログまたはSageMaker Python SDKから数クリックでデプロイ可能

Redisのlangcache-embed-v3-small、JetBrainsのMellum2-12B-A2.5B-Thinking、LightOnのLightOnOCR-2-1Bの3つのモデルがAmazon SageMaker JumpStartで利用可能になりました。これらのモデルは、セマンティックキャッシング最適化、コード特化の推論、エンドツーエンドのドキュメントOCRという専門的な機能を提供し、AWS上で高性能かつスケーラブルなAIソリューションの展開を可能にします。

Redisのlangcache-embed-v3-small、JetBrainsのMellum2-12B-A2.5B-Thinking、LightOnのLightOnOCR-2-1BモデルがAmazon SageMaker JumpStartで利用可能になり、AWSのお客様が利用できる基盤モデルのポートフォリオが拡大しました。
これら3つのモデルは、セマンティックキャッシング最適化、コード特化の推論、エンドツーエンドのドキュメントOCRにわたる専門的な機能を提供し、お客様がAWSインフラストラクチャ上で高性能かつスケーラブルなAIソリューションを展開することを可能にします。

langcache-embed-v3-smallは、LLMアプリケーションにおけるセマンティックキャッシングに最適化されています。
文や段落を、表現に関係なく意味的に同等のクエリを識別するために特化した密なベクトル空間にマッピングし、冗長なLLM呼び出しを削減し、大量推論ワークロードにおける応答時間を高速化するインテリジェントなキャッシュヒットを実現します。

Mellum2-12B-A2.5B-Thinkingは、コード生成、デバッグ、多段階推論、エージェント型コーディングワークフローに優れています。
Mixture-of-Expertsアーキテクチャ（64エキスパート、トークンごとに8つがアクティブ化）を使用し、フォワードパスごとに12Bの総パラメータのうち2.5Bのみをアクティブ化し、131,072トークンのコンテキスト長を持ちます。
最終回答の前に明示的な思考の連鎖（chain-of-thought）推論トレースを出力し、ルーティング、RAG、サブエージェント、プライベートデプロイメントに理想的な高スループット・低レイテンシの推論を提供します。

LightOnOCR-2-1Bは、脆弱なOCRパイプラインなしで、PDF、スキャン、画像のエンドツーエンドの多言語ドキュメントからテキストへの変換を提供します。
この1Bパラメータのビジョン言語モデルは、ページ画像を直接クリーンで自然な順序のテキストに変換し、競合アプローチと比較して約9倍小さく大幅に高速でありながら、OlmOCR-Benchで最先端の性能を達成しています。

SageMaker JumpStartを使用すると、お客様は数回のクリックでこれらのモデルを展開し、特定のAIユースケースに対応できます。
これらのモデルを使い始めるには、SageMakerコンソールのSageMaker JumpStartモデルカタログに移動するか、SageMaker Python SDKを使用してAWSアカウントにモデルをデプロイしてください。
SageMaker JumpStartでの基盤モデルの展開と使用の詳細については、Amazon SageMaker JumpStartのドキュメントを参照してください。

• Amazon SageMaker
• Amazon SageMaker JumpStart

• Amazon SageMaker JumpStartは、Amazon SageMakerの機能の一つで、事前トレーニング済みの基盤モデル、機械学習ソリューション、およびサンプルノートブックのカタログを提供するサービスです。お客様はモデルカタログから数回のクリックで様々なAIモデルをデプロイでき、独自のインフラ構築やモデルのホスティング設定を一から行う必要がありません。基盤モデルの評価、微調整、デプロイを簡単に行えるため、AIソリューションの迅速な構築と展開を支援します。
• Amazon SageMakerは、機械学習モデルの構築、トレーニング、デプロイを包括的に支援するフルマネージドサービスです。データの準備からモデルの本番環境へのデプロイまで、機械学習ワークフローの全ステップをカバーしており、開発者やデータサイエンティストが機械学習プロジェクトを効率的に進められるようにツール群を提供しています。JupyterノートブックやPython SDKなど、様々なインターフェースからアクセスできます。

• https://docs.aws.amazon.com/sagemaker/latest/dg/studio-jumpstart.html