Prefect
일반 Python 코드로 데이터 파이프라인을 구축, 스케줄링, 모니터링하는 Python 네이티브 워크플로 오케스트레이션 플랫폼입니다.
개요
Prefect는 별도의 DSL이나 YAML 형식을 배우는 대신, task와 flow로 데코레이트된 일반 Python 함수로 워크플로를 정의할 수 있게 해줍니다. 스케줄링, 재시도, 캐싱, 실패 처리를 자동으로 처리하며, UI는 추가 계측 코드 없이도 모든 실행을 볼 수 있게 해줍니다.
Prefect는 Python으로 ETL, ML, 데이터 파이프라인 워크플로를 구축하며 일반 코드에 가까운 오케스트레이션을 원하는 데이터·플랫폼 팀에 적합합니다. 카탈로그에 있는 Temporal이나 Argo Workflows와는 다른 영역으로, 그것들은 데이터 파이프라인 전용 스케줄링이 아니라 범용 분산 애플리케이션 워크플로를 대상으로 합니다.
- 카테고리
- 자동화
- 언어
- Python
- 라이선스
- Apache-2.0
관련 프로젝트
Kestra
Apache-2.0데이터 파이프라인, ETL 작업, 비즈니스 워크플로를 스케줄링하고 오케스트레이션하는 YAML 기반 선언형 오케스트레이션 플랫폼입니다.
- 자동화
Argo Workflows
Apache-2.0파이프라인의 각 단계를 컨테이너로 실행하는 Kubernetes 네이티브 워크플로 엔진으로, 병렬 작업과 다단계 DAG를 클러스터 위에서 직접 오케스트레이션합니다.
- 자동화
Temporal
MIT개발자가 일반 코드로 안정적인 장기 실행 워크플로를 작성할 수 있게 해주는 내구성 있는 실행 플랫폼으로, 재시도·상태·장애 복구를 자동으로 처리합니다.
- 자동화
SeaTunnel
Apache-2.0데이터베이스, 데이터 레이크, 메시징 시스템 간에 대규모로 데이터를 이동하고 변환하는 분산 데이터 통합 플랫폼입니다.
- 백엔드
잘못된 정보를 발견하셨나요? GitHub에서 수정 제안하기