Buscar proyectos open source
33 proyectos encontrados para "servicio de modelos"
vLLM
Apache-2.0Motor de inferencia y servicio de alto rendimiento y eficiente en memoria para modelos de lenguaje grandes, pensado para ejecutar LLMs en producción a gran escala y no solo en una máquina local.
- IA y Machine Learning
SGLang
Apache-2.0Framework de servicio rápido para grandes modelos de lenguaje y modelos de visión-lenguaje, con un lenguaje de generación estructurada para programas LLM complejos.
- IA y Machine Learning
llama.cpp
MITImplementación en C/C++ de alto rendimiento para ejecutar inferencia de LLM localmente en hardware de consumo, incluidas CPUs, con dependencias mínimas.
- IA y Machine Learning
KServe
Apache-2.0Plataforma nativa de Kubernetes para servir modelos de machine learning a gran escala, estandarizando el despliegue de modelos entre frameworks.
- IA y Machine Learning
Kubeflow
Apache-2.0Plataforma de machine learning para Kubernetes que agrupa pipelines, entrenamiento de modelos, ajuste de hiperparámetros y servicio en un solo kit de herramientas.
- IA y Machine Learning
Appwrite
BSD-3-ClausePlataforma backend de código abierto que ofrece autenticación, bases de datos, almacenamiento, funciones y APIs en tiempo real, autoalojada o como servicio en la nube gestionado.
- Backend
- Base de datos
- Autenticación y seguridad
Backstage
Apache-2.0Framework abierto para construir un portal interno de desarrolladores, unificando los servicios, la infraestructura y la documentación de una empresa en un único catálogo de software buscable.
- Herramientas para desarrolladores
Casbin
Apache-2.0Biblioteca de control de acceso de código abierto que implementa los modelos de autorización ACL, RBAC y ABAC, con implementaciones listas para producción en Go, Java, Python, Node.js y más.
- Autenticación y seguridad
Dapr
Apache-2.0Runtime portable que ofrece componentes básicos para microservicios —gestión de estado, mensajería pub/sub, invocación de servicios y workflows— a través de una API sidecar en cualquier lenguaje.
- Backend
DeepSpeed
Apache-2.0Biblioteca de optimización de deep learning de Microsoft para entrenar y ejecutar modelos muy grandes de forma eficiente en múltiples GPUs.
- IA y Machine Learning
Fortio
Apache-2.0Herramienta de pruebas de carga y medición de red construida para microservicios, que informa percentiles detallados de latencia bajo carga sostenida.
- Testing
Gitea
MITServicio Git ligero y autoalojado con seguimiento de incidencias, pull requests e integración de CI.
- Herramientas para desarrolladores
gRPC
Apache-2.0Framework RPC de código abierto y alto rendimiento que permite a los servicios llamar directamente a las funciones de otros a través de lenguajes y redes.
- API
Instructor
MITBiblioteca para obtener salidas de datos estructurados y fiables de LLMs usando APIs de function calling y modelos Pydantic para la validación.
- IA y Machine Learning
Istio
Apache-2.0El service mesh líder para Kubernetes, que añade gestión de tráfico, seguridad y observabilidad a los microservicios sin cambiar el código de la aplicación.
- DevOps
Jaeger
Apache-2.0Plataforma de tracing distribuido de la CNCF para visualizar el flujo de peticiones entre microservicios, señalando exactamente qué servicio o llamada es responsable de la latencia o los errores.
- Monitorización
Kong
Apache-2.0Puerta de enlace de API cloud-native que gestiona el enrutamiento, el balanceo de carga, la autenticación y la gestión de tráfico para microservicios, APIs y tráfico LLM/MCP.
- API
LangChain
MITFramework para desarrollar aplicaciones impulsadas por modelos de lenguaje grandes, agentes y generación aumentada por recuperación (RAG).
- IA y Machine Learning
LlamaIndex
MITFramework de datos para conectar grandes modelos de lenguaje con tus propios datos —documentos, bases de datos, APIs— para aplicaciones de generación aumentada por recuperación.
- IA y Machine Learning
MLflow
Apache-2.0Plataforma de código abierto para gestionar el ciclo de vida del machine learning: seguimiento de experimentos, empaquetado de modelos, versionado y despliegue.
- IA y Machine Learning
n8n
Sustainable Use LicensePlataforma de automatización de workflows que te permite conectar apps y servicios con un editor visual basado en nodos.
- Automatización
- Herramientas para desarrolladores
Ollama
MITEjecuta modelos de lenguaje grandes de forma local con una interfaz de línea de comandos y una API sencillas.
- IA y Machine Learning
Open Policy Agent (OPA)
Apache-2.0Motor de políticas de propósito general, graduado por la CNCF, para aplicar como código reglas de autorización, cumplimiento y configuración en microservicios, APIs, Kubernetes y pipelines de CI.
- DevOps
OpenFGA
Apache-2.0Motor de autorización basado en relaciones inspirado en Google Zanzibar, para modelar y aplicar control de acceso granular como servicio independiente.
- Autenticación y seguridad
Podman
Apache-2.0Motor de contenedores sin demonio que ejecuta, construye y gestiona contenedores como alternativa directa a Docker, sin un servicio root en segundo plano.
- Herramientas para desarrolladores
Promptfoo
MITHerramienta de código abierto para probar y evaluar prompts de LLM, comparando salidas entre modelos y detectando regresiones de calidad antes del despliegue.
- IA y Machine Learning
RabbitMQ
MPL-2.0Bróker de mensajería maduro y ampliamente utilizado para desacoplar servicios con colas fiables, enrutamiento y mensajería pub/sub sobre AMQP, MQTT y STOMP.
- Backend
Rook
Apache-2.0Orquestador de almacenamiento para Kubernetes que automatiza el despliegue, la gestión y el escalado de sistemas de almacenamiento como Ceph como servicios nativos de Kubernetes.
- Almacenamiento
Semantic Kernel
MITSDK de código abierto de Microsoft para integrar grandes modelos de lenguaje en aplicaciones, con soporte para plugins, memoria y planificación.
- IA y Machine Learning
SkyWalking
Apache-2.0Plataforma de monitorización del rendimiento de aplicaciones (APM) que ofrece tracing distribuido, topología de servicios y métricas en un solo sistema.
- Monitorización
SuperTokens
Apache-2.0Servicio central de autenticación autoalojado y de código abierto que ofrece inicio de sesión sin contraseña, social y por email/contraseña, como alternativa a Auth0 o Firebase Auth.
- Autenticación y seguridad
Unsloth
Apache-2.0Biblioteca para hacer fine-tuning de grandes modelos de lenguaje significativamente más rápido y con menos memoria que los enfoques de entrenamiento estándar.
- IA y Machine Learning
Zitadel
AGPL-3.0Plataforma cloud-native de gestión de identidad y acceso con multi-tenancy, SSO, MFA y soporte OIDC/SAML, usable autoalojada o como servicio gestionado.
- Autenticación y seguridad