AI 与机器学习

开源框架，用于研究和构建多个可通信、可扮演角色、能自主协作的 AI 智能体系统。

• AI 与机器学习

多智能体编排框架，用于构建一组基于角色、相互协作的 AI 智能体，使其能够自主协同完成复杂任务。

• AI 与机器学习

开源测试框架，用于评估大语言模型输出，将大语言模型应用的质量检查视为传统单元测试。

• AI 与机器学习

微软推出的深度学习优化库，用于在多块 GPU 上高效训练和运行超大规模模型。

• AI 与机器学习

文档解析库，将 PDF、Word 文档等格式转换为适用于 LLM 和 RAG 流水线的干净结构化数据。

• AI 与机器学习

编程范式与库，通过在一个程序中交织提示词、控制流和约束输出，来控制大语言模型的生成过程。

• AI 与机器学习

开源框架，用于基于大语言模型构建可用于生产的搜索和 RAG（检索增强生成）应用。

• AI 与机器学习

库，通过函数调用 API 和 Pydantic 模型校验，从大语言模型获取可靠的结构化数据输出。

• AI 与机器学习

Kubernetes 原生的大规模机器学习模型服务平台，统一跨框架的模型部署方式。

• AI 与机器学习

面向 Kubernetes 的机器学习平台，将流水线、模型训练、超参数调优和服务功能整合为一套工具包。

• AI 与机器学习

用于开发由大语言模型、智能体和检索增强生成(RAG)驱动的应用程序的框架。

• AI 与机器学习

高性能 C/C++ 实现，用于在消费级硬件（包括 CPU）上本地运行大语言模型推理，依赖极少。

• AI 与机器学习

数据框架，用于将大语言模型连接到你自己的数据——文档、数据库、API——以构建检索增强应用。

• AI 与机器学习

开源向量数据库，专为可扩展的相似度搜索和 AI 应用而构建。

• AI 与机器学习
• 数据库

开源平台，用于管理机器学习生命周期：实验跟踪、模型打包、版本管理和部署。

• AI 与机器学习

工具包，用于为基于大语言模型的对话应用添加可编程的安全与行为护栏。

• AI 与机器学习

通过简单的命令行界面和 API 在本地运行大语言模型。

• AI 与机器学习

标准的开源计算机视觉库，提供图像和视频处理、分析及理解相关的算法。

• AI 与机器学习

用于将大语言模型输出约束为特定结构（JSON schema、正则表达式、文法）的库，保证结果有效且可解析。

• AI 与机器学习

开源工具，用于测试和评估大语言模型提示词，跨模型对比输出并在部署前发现质量回退。

• AI 与机器学习

来自 Pydantic 团队的类型安全智能体框架，将熟悉的 Python 类型与校验模式带入大语言模型应用开发。

• AI 与机器学习

开源机器学习框架，加速从研究原型到生产部署的整个流程。

• AI 与机器学习

向量数据库与相似度搜索引擎，用于构建基于嵌入向量的 AI 应用。

• AI 与机器学习
• 数据库

微软推出的开源 SDK，用于将大语言模型集成到应用中，支持插件、记忆和规划能力。

• AI 与机器学习

面向大语言模型和视觉语言模型的高速服务框架，配有用于编写复杂大语言模型程序的结构化生成语言。

• AI 与机器学习

端到端的开源机器学习平台，覆盖从研究到生产的全流程。

• AI 与机器学习

用于微调大语言模型的库，速度和内存效率都显著优于标准训练方式。

• AI 与机器学习

高吞吐、内存高效的大语言模型推理与服务引擎，专为大规模生产环境中运行 LLM 而设计，而非仅用于单机本地运行。

• AI 与机器学习

优化的分布式梯度提升库，广泛用于结构化/表格数据问题，是应用机器学习的常用工具。

• AI 与机器学习