ペンギンソリューションズ (日本ストラタステクノロジー)株式会社 本社 公式サイト

MemoryAI KV Cache Server

メモリーの壁を越えこれからのAI推論を最適化し、GPUのパワーを最大化してアプリケーションを高速化!

『MemoryAI KV Cache Server』は、CXLメモリーを活用して 大規模で高性能な推論をサポートするKVキャッシュサーバーです。 AI推論において計算されたキーバリューペアを保存して 再利用することで、GPUメモリーからの負荷を軽減。 メモリー制約を解消して初回トークン取得までの時間を短縮し、 要求の厳しいワークロードにおいて優れたパフォーマンスを実現します。 【特長】 ■メモリーの制限を突破 ■拡張の制限なし ■高速AI処理 ■GPUの効率をアップ ※詳しくはPDFをダウンロードしていただくか、お気軽にお問い合わせください。

関連リンク - https://www.penguinsolutions.com/ja-jp

基本情報

【仕様(一部)】 ■プロセッサータイプ:AMD EPYC 9005 series ■最大TDP:500W ■メモリータイプ:DDR5-6400 MT/s ■メモリー容量:Up to 3TB DDR5 ■CXLメモリー容量:Up to 8TB(CXL based memory DIMMs) ※詳しくはPDFをダウンロードしていただくか、お気軽にお問い合わせください。

価格帯

納期

用途/実績例

※詳しくはPDFをダウンロードしていただくか、お気軽にお問い合わせください。

この製品に関するニュース(1)

おすすめ製品

取り扱い会社

企業に変革をもたらす最先端テクノロジーほど、その導入や最適化には高度な専門性が求められます。 ペンギンソリューションズは、AIファクトリープラットフォームカンパニーとして、革新的な技術、専門知識、そして強固なパートナーシップを基盤に、お客様のAI活用を現実のビジネス価値へと導きます。 クラウドからコア、エッジ領域まで、あらゆるレベルで高性能、高信頼性のソリューションを設計、構築、展開、管理し、お客様が高速コンピューティングの力を最大活用できるようにします。 ペンギンソリューションズの価値の提案 ■ シンプルかつ簡単に実装 ■ 脅威やシステム停止からの保護 ■ 自律型システム