エヌビディアは、Appleとの提携により
TensorRT-LLMライブラリに新しい推測デコーディング手法
ReDrafterを導入した。この新技術は最大2.7倍のスループット向上を実現し、大規模言語モデルの推論効率を上げる。この革新により、開発者はより高性能かつ効率的なモデル構築が可能になる。
NVIDIA and Apple Boost LLM Inference Efficiency with ReDrafter Integration
このニュースはエヌビディアの株価に対してポジティブな内容です。