Unsloth
Biblioteca para hacer fine-tuning de grandes modelos de lenguaje significativamente más rápido y con menos memoria que los enfoques de entrenamiento estándar.
Descripción general
Unsloth optimiza el proceso de fine-tuning para LLMs de pesos abiertos populares, afirmando un entrenamiento sustancialmente más rápido y un menor uso de memoria que el código de entrenamiento estándar de Hugging Face mediante optimizaciones de kernel personalizadas, permitiendo que trabajos de fine-tuning que necesitarían configuraciones multi-GPU de gama alta se ejecuten en hardware más modesto. Admite modelos abiertos populares y se integra con flujos de fine-tuning habituales.
Unsloth encaja en equipos o personas que hacen fine-tuning de LLMs de pesos abiertos con presupuestos de hardware limitados, una capa de eficiencia especializada que complementa a DeepSpeed (también en este catálogo): ambos abordan la eficiencia del entrenamiento, con Unsloth centrado específicamente en hacer accesible el fine-tuning en hardware más pequeño.
- Categorías
- IA y Machine Learning
- Palabras clave
- fine-tuningllm-trainingmodel-optimization
- Lenguajes
- Python
- Licencia
- Apache-2.0
Proyectos relacionados
DeepSpeed
Apache-2.0Biblioteca de optimización de deep learning de Microsoft para entrenar y ejecutar modelos muy grandes de forma eficiente en múltiples GPUs.
- IA y Machine Learning
CAMEL
Apache-2.0Framework de código abierto para investigar y construir sistemas de múltiples agentes de IA que se comunican, interpretan roles y colaboran de forma autónoma.
- IA y Machine Learning
CrewAI
MITFramework de orquestación multiagente para construir equipos de agentes de IA colaborativos y basados en roles que trabajan juntos de forma autónoma para completar tareas complejas.
- IA y Machine Learning
DeepEval
Apache-2.0Framework de pruebas de código abierto para evaluar salidas de LLM, tratando las comprobaciones de calidad de aplicaciones LLM como tests unitarios convencionales.
- IA y Machine Learning
¿Encontraste un error? Sugiere una edición en GitHub.