← 전체 카테고리

AI 및 머신러닝

오픈소스 머신러닝 프레임워크, 대규모 언어 모델, AI 인프라입니다.

CAMEL
Apache-2.0
자율적으로 협업하는, 여러 개의 소통하는 역할극 AI 에이전트 시스템을 연구하고 구축하기 위한 오픈소스 프레임워크입니다.
- AI 및 머신러닝
CrewAI
MIT
역할 기반으로 협업하는 AI 에이전트 팀을 구축해 복잡한 작업을 자율적으로 함께 완수하게 하는 멀티 에이전트 오케스트레이션 프레임워크입니다.
- AI 및 머신러닝
DeepEval
Apache-2.0
LLM 출력을 평가하는 오픈소스 테스트 프레임워크로, LLM 애플리케이션의 품질 검사를 전통적인 단위 테스트처럼 다룹니다.
- AI 및 머신러닝
DeepSpeed
Apache-2.0
매우 큰 모델을 여러 GPU에 걸쳐 효율적으로 학습하고 실행하기 위한 Microsoft의 딥러닝 최적화 라이브러리입니다.
- AI 및 머신러닝
Docling
MIT
PDF, Word 문서 등의 형식을 LLM과 RAG 파이프라인에 바로 사용할 수 있는 깔끔하고 구조화된 데이터로 변환하는 문서 파싱 라이브러리입니다.
- AI 및 머신러닝
Guidance
MIT
프롬프트, 제어 흐름, 제약된 출력을 하나의 프로그램 안에 엮어 LLM 생성을 제어하는 프로그래밍 패러다임이자 라이브러리입니다.
- AI 및 머신러닝
Haystack
Apache-2.0
LLM을 사용해 프로덕션 준비가 된 검색과 RAG(검색 증강 생성) 애플리케이션을 구축하기 위한 오픈소스 프레임워크입니다.
- AI 및 머신러닝
Instructor
MIT
검증을 위한 함수 호출 API와 Pydantic 모델을 사용해 LLM으로부터 신뢰할 수 있는 구조화된 데이터 출력을 얻는 라이브러리입니다.
- AI 및 머신러닝
KServe
Apache-2.0
대규모로 머신러닝 모델을 서빙하기 위한 Kubernetes 네이티브 플랫폼으로, 프레임워크 전반에 걸쳐 모델 배포를 표준화합니다.
- AI 및 머신러닝
Kubeflow
Apache-2.0
파이프라인, 모델 학습, 하이퍼파라미터 튜닝, 서빙을 하나의 툴킷으로 묶은 Kubernetes용 머신러닝 플랫폼입니다.
- AI 및 머신러닝
LangChain
MIT
대규모 언어 모델, 에이전트, 검색 증강 생성(RAG)으로 구동되는 애플리케이션을 개발하기 위한 프레임워크입니다.
- AI 및 머신러닝
llama.cpp
MIT
CPU를 포함한 소비자용 하드웨어에서 최소한의 의존성으로 LLM 추론을 로컬에서 실행하는 고성능 C/C++ 구현체입니다.
- AI 및 머신러닝
LlamaIndex
MIT
대규모 언어 모델을 문서, 데이터베이스, API 같은 자신의 데이터에 연결해 검색 증강 애플리케이션을 만드는 데이터 프레임워크입니다.
- AI 및 머신러닝
Milvus
Apache-2.0
확장 가능한 유사도 검색과 AI 애플리케이션을 위해 만들어진 오픈소스 벡터 데이터베이스입니다.
- AI 및 머신러닝
- 데이터베이스
MLflow
Apache-2.0
실험 추적, 모델 패키징, 버전 관리, 배포 등 머신러닝 생명주기를 관리하기 위한 오픈소스 플랫폼입니다.
- AI 및 머신러닝
NeMo Guardrails
Apache-2.0
LLM 기반 대화형 애플리케이션에 프로그래밍 가능한 안전·행동 가드레일을 추가하는 툴킷입니다.
- AI 및 머신러닝
Ollama
MIT
간단한 커맨드라인 인터페이스와 API로 대규모 언어 모델을 로컬에서 실행합니다.
- AI 및 머신러닝
OpenCV
Apache-2.0
이미지와 비디오 처리, 분석, 이해를 위한 알고리즘을 제공하는 표준 오픈소스 컴퓨터 비전 라이브러리입니다.
- AI 및 머신러닝
Outlines
Apache-2.0
LLM 출력을 JSON 스키마, 정규식, 문법 같은 특정 구조로 제약하여 유효하고 파싱 가능한 결과를 보장하는 라이브러리입니다.
- AI 및 머신러닝
Promptfoo
MIT
LLM 프롬프트를 테스트하고 평가하는 오픈소스 도구로, 모델 간 출력을 비교하고 배포 전에 품질 저하를 잡아냅니다.
- AI 및 머신러닝
Pydantic AI
MIT
Pydantic 팀이 만든 타입 안전 에이전트 프레임워크로, 익숙한 Python 타입 지정과 검증 패턴을 LLM 애플리케이션 개발에 가져옵니다.
- AI 및 머신러닝
PyTorch
BSD-3-Clause
연구 프로토타이핑부터 프로덕션 배포까지의 과정을 가속화하는 오픈소스 머신러닝 프레임워크입니다.
- AI 및 머신러닝
Qdrant
Apache-2.0
임베딩을 활용한 AI 애플리케이션을 구축하기 위한 벡터 데이터베이스 겸 유사도 검색 엔진입니다.
- AI 및 머신러닝
- 데이터베이스
Semantic Kernel
MIT
플러그인, 메모리, 계획 기능을 지원하며 대규모 언어 모델을 애플리케이션에 통합하기 위한 Microsoft의 오픈소스 SDK입니다.
- AI 및 머신러닝
SGLang
Apache-2.0
복잡한 LLM 프로그램을 위한 구조화된 생성 언어를 갖춘, 대규모 언어 모델과 비전-언어 모델을 위한 빠른 서빙 프레임워크입니다.
- AI 및 머신러닝
TensorFlow
Apache-2.0
연구부터 프로덕션까지 아우르는 엔드투엔드 오픈소스 머신러닝 플랫폼입니다.
- AI 및 머신러닝
Unsloth
Apache-2.0
표준 학습 방식보다 훨씬 빠르고 메모리를 적게 사용하며 대규모 언어 모델을 파인튜닝하는 라이브러리입니다.
- AI 및 머신러닝
vLLM
Apache-2.0
대규모 언어 모델을 위한 고처리량·메모리 효율적인 추론·서빙 엔진으로, 단일 로컬 머신이 아니라 프로덕션 환경에서 대규모로 LLM을 운영하기 위해 만들어졌습니다.
- AI 및 머신러닝
XGBoost
Apache-2.0
구조화된·표 형식 데이터 문제에 널리 사용되는 최적화된 분산 그래디언트 부스팅 라이브러리로, 응용 머신러닝의 대표적인 도구입니다.
- AI 및 머신러닝