MARL — モデル非依存ランタイム・ミドルウェア
2026/3/9
READMEにある「Model-Agnostic Runtime Middleware for LLMs」を具現化したプロジェクト。ファインチューニングやRAGに続く“第3のアプローチ”として、モデルの重みを変えずにランタイムでの推論・推理プロセスを再構築することを目指すミドルウェアです。PyPIパッケージやDocker構成、HuggingFaceデモへのリンクがあり、モデルに依存しない形で推論パイプラインの制御・拡張を行える設計を想定しています。(約300字)