Dagster
📈

Dagster

Dagster 是现代数据与 AI 编排平台,以软件定义资产的方式构建、调度与观测数据管道和机器学习工作流。

📈 数据分析 🆓 免费增值 ★★★★☆
访问官网
✓ 优点
  • 资产模型贴合数据团队思维
  • 开发体验与测试友好
  • 血缘与可观测性强
  • 开源生态成熟
! 缺点
  • 概念体系较完整需学习
  • 超大规模运维需经验
✦ 核心功能
  • 软件定义资产(SDA)模型
  • 数据管道调度与依赖
  • 数据质量检查与分区
  • 端到端血缘与可观测性
  • 本地开发与云端部署

简介

Dagster 是面向数据工程与机器学习的现代编排平台。它以「软件定义资产」为核心抽象:你声明最终想要的数据资产,Dagster 负责推导依赖、调度执行并追踪血缘。相比传统以任务为中心的调度器,Dagster 更贴近数据团队对结果(表、模型、特征)的关注,并提供强大的类型检查、分区与数据质量能力。

核心功能

  • 资产编排:声明式定义数据资产与依赖
  • 调度与触发:定时、传感器与事件触发
  • 数据质量:内置资产检查与分区
  • 血缘观测:目录化浏览资产与运行记录
  • ML/AI 支持:编排训练、特征与推理管道

适用场景

  • 现代数据仓库与湖仓管道编排
  • 机器学习特征与训练工作流
  • 需要数据质量与血缘治理的团队
  • 本地开发到云上生产的统一工作流

使用技巧

  • 以资产为中心组织代码,利于复用与测试
  • 用分区处理时间序列与增量数据
  • 结合资产检查把数据质量前移