Argo Workflows
パイプラインの各ステップをコンテナとして実行する Kubernetes ネイティブなワークフローエンジンで、並列ジョブや複数ステップの DAG をクラスタ上で直接オーケストレーションします。
概要
Argo Workflows は、Kubernetes 上でジョブをオーケストレーションするための、オープンソースかつ CNCF を卒業したワークフローエンジンで、クラスタの上に付け足す別システムとしてではなく、完全に Kubernetes のカスタムリソース定義(CRD)として実装されています。ワークフローは一連のステップ、あるいはタスクの有向非巡回グラフ(DAG)として定義され、各ステップはそれぞれ独自のコンテナとして実行されます。そのため、学習ジョブからデータ変換まで、コンテナで実行できるものであれば何でも、余計な接着コードなしにワークフローのステップになります。
機械学習パイプライン、バッチ・データ処理、インフラ自動化、CI/CD でよく使われており、Kubernetes 自身のスケジューリングとスケーリングを活用して、単一のワーカーではなくクラスタ全体で多数のステップを並列実行できます。
Argo Workflows は、すでに Kubernetes を運用していて、既存のクラスタを使ってコンテナベースのパイプラインをオーケストレーションしたいチームに向いています。カタログ内の Temporal とは異なるニッチで、Temporal のワークフローは Kubernetes ネイティブなコンテナステップではなく、言語 SDK 内の汎用的な関数です。
- カテゴリ
- オートメーション
- 言語
- Go
- ライセンス
- Apache-2.0
関連プロジェクト
Prefect
Apache-2.0通常の Python コードでデータパイプラインを構築・スケジュール・監視できる、Python ネイティブのワークフローオーケストレーションプラットフォームです。
- オートメーション
Argo Events
Apache-2.0あらゆるソースからのイベントに応じて、ワークフロー、関数、その他のアクションをトリガーする、Kubernetes 向けのイベント駆動自動化フレームワークです。
- オートメーション
Kestra
Apache-2.0データパイプライン、ETL ジョブ、業務ワークフローのスケジューリングとオーケストレーションのための、YAML ベースの宣言的オーケストレーションプラットフォームです。
- オートメーション
Temporal
MIT開発者が通常のコードとして信頼性の高い長時間実行ワークフローを書けるようにする持続的実行プラットフォームで、リトライ・状態管理・障害復旧は自動的に処理されます。
- オートメーション
誤りを見つけましたか? GitHub で修正を提案する