検索: "quantization" — FindOpenSource

「quantization」の検索結果 1 件

llama.cpp
MIT
CPU を含むコンシューマー向けハードウェア上でローカルに LLM 推論を実行するための、依存関係の少ない高性能な C/C++ 実装です。
- AI・機械学習