Unsloth
Biblioteca para hacer fine-tuning de grandes modelos de lenguaje significativamente más rápido y con menos memoria que los enfoques de entrenamiento estándar.
- Mantenimiento activo
- Bien documentado
- Licencia permisiva
Descripción general
Unsloth optimiza el proceso de fine-tuning para LLMs de pesos abiertos populares, afirmando un entrenamiento sustancialmente más rápido y un menor uso de memoria que el código de entrenamiento estándar de Hugging Face mediante optimizaciones de kernel personalizadas, permitiendo que trabajos de fine-tuning que necesitarían configuraciones multi-GPU de gama alta se ejecuten en hardware más modesto. Admite modelos abiertos populares y se integra con flujos de fine-tuning habituales.
Unsloth encaja en equipos o personas que hacen fine-tuning de LLMs de pesos abiertos con presupuestos de hardware limitados, una capa de eficiencia especializada que complementa a DeepSpeed (también en este catálogo): ambos abordan la eficiencia del entrenamiento, con Unsloth centrado específicamente en hacer accesible el fine-tuning en hardware más pequeño.
Por qué está en este catálogo
Valoración del catálogo: ★★★☆☆ (3/5)
Fast-growing efficient LLM fine-tuning library, a genuinely distinct performance-focused niche.
- Emergente
- Respaldado por un proveedor
- Categorías
- IA y Machine Learning
- Palabras clave
- fine-tuningllm-trainingmodel-optimization
- Lenguajes
- Python
- Licencia
- Apache-2.0
Proyectos relacionados
DeepSpeed
Apache-2.0Biblioteca de optimización de deep learning de Microsoft para entrenar y ejecutar modelos muy grandes de forma eficiente en múltiples GPUs.
Mantenimiento activo
- IA y Machine Learning
Milvus
Apache-2.0Base de datos vectorial de código abierto construida para búsqueda de similitud escalable y aplicaciones de IA.
Mantenimiento activo
- IA y Machine Learning
- Base de datos
MLflow
Apache-2.0Plataforma de código abierto para gestionar el ciclo de vida del machine learning: seguimiento de experimentos, empaquetado de modelos, versionado y despliegue.
Mantenimiento activo
- IA y Machine Learning
PyTorch
BSD-3-ClauseFramework de machine learning de código abierto que acelera el camino desde el prototipado en investigación hasta el despliegue en producción.
Mantenimiento activo
- IA y Machine Learning
¿Encontraste un error? Sugiere una edición en GitHub.