PaCoRe: テスト時計算量をスケールする並列協調推論

AI/ML[効率化推論最適化大規模言語モデル]

stepfun-ai/PaCoRe

★ 342

GitHub →

関連記事

Four Over Six — NVFP4量子化を改善するAdaptive Block Scaling

NVidiaの4ビット浮動小数点(NVFP4)量子化の精度を向上させる手法「Four Over Six(4/6)」の実装リポジトリ。効率的なNVFP4量子化と行列乗算のカーネル、そしてポストトレーニング量子化の高速化を提供し、学習済みモデルをほとんど再学習せずに低ビット化して推論効率を高めることを目的とする。リポジトリはPythonを中心としたコードで、カーネルやユーティリティを含む構成になっている(300字程度)。

量子化推論最適化NVFP4

PRISM:コスト効率の高いマルチLLM推論システム

PRISMは、複数の大規模言語モデル(LLM)を効率的に運用するための研究プロトタイプであり、GPUリソースの時間・空間共有を柔軟に実現することで推論コストを大幅に削減します。Pythonで実装され、マルチLLM環境におけるスケーラビリティとパフォーマンス向上を目指した設計が特徴です。

大規模言語モデルGPU共有推論最適化

CPM.cu:エンドデバイス向け高性能LLM推論のための軽量CUDA実装

CPM.cuは、大規模言語モデル(LLM)のエンドデバイスでの推論を目的とした、軽量かつ高性能なCUDA実装です。スパースアーキテクチャ、推測的サンプリング、量子化など最先端技術を採用し、計算効率と推論速度を大幅に向上。GPUリソースが限られた環境でも高度な自然言語処理を実現し、実用的なLLM活用の新たな可能性を切り拓きます。

CUDALLM推論最適化