Unsloth

Unsloth は、人気のあるオープンウェイト LLM のファインチューニングプロセスを最適化し、カスタムカーネルの最適化により、標準的な Hugging Face のトレーニングコードよりも大幅に高速で少ないメモリ使用量を実現すると謳っており、本来ハイエンドなマルチ GPU 構成が必要となるファインチューニング作業を、より控えめなハードウェアでも実行できるようにします。人気のあるオープンモデルをサポートし、一般的なファインチューニングワークフローと統合できます。

Unsloth は、限られたハードウェア予算でオープンウェイト LLM をファインチューニングするチームや個人に向いています。(カタログにもある) DeepSpeed を補完する特化した効率化レイヤーで、両者ともトレーニング効率を扱いますが、Unsloth は特に小規模なハードウェアでもファインチューニングを行えるようにすることに焦点を当てています。