Saltar al contenido
FindOpenSource

Unsloth

Biblioteca para hacer fine-tuning de grandes modelos de lenguaje significativamente más rápido y con menos memoria que los enfoques de entrenamiento estándar.

Descripción general

Unsloth optimiza el proceso de fine-tuning para LLMs de pesos abiertos populares, afirmando un entrenamiento sustancialmente más rápido y un menor uso de memoria que el código de entrenamiento estándar de Hugging Face mediante optimizaciones de kernel personalizadas, permitiendo que trabajos de fine-tuning que necesitarían configuraciones multi-GPU de gama alta se ejecuten en hardware más modesto. Admite modelos abiertos populares y se integra con flujos de fine-tuning habituales.

Unsloth encaja en equipos o personas que hacen fine-tuning de LLMs de pesos abiertos con presupuestos de hardware limitados, una capa de eficiencia especializada que complementa a DeepSpeed (también en este catálogo): ambos abordan la eficiencia del entrenamiento, con Unsloth centrado específicamente en hacer accesible el fine-tuning en hardware más pequeño.

Categorías
IA y Machine Learning
Palabras clave
fine-tuningllm-trainingmodel-optimization
Lenguajes
Python
Licencia
Apache-2.0

¿Encontraste un error? Sugiere una edición en GitHub.