简介
Dagster 是面向数据工程与机器学习的现代编排平台。它以「软件定义资产」为核心抽象:你声明最终想要的数据资产,Dagster 负责推导依赖、调度执行并追踪血缘。相比传统以任务为中心的调度器,Dagster 更贴近数据团队对结果(表、模型、特征)的关注,并提供强大的类型检查、分区与数据质量能力。
核心功能
- 资产编排:声明式定义数据资产与依赖
- 调度与触发:定时、传感器与事件触发
- 数据质量:内置资产检查与分区
- 血缘观测:目录化浏览资产与运行记录
- ML/AI 支持:编排训练、特征与推理管道
适用场景
- 现代数据仓库与湖仓管道编排
- 机器学习特征与训练工作流
- 需要数据质量与血缘治理的团队
- 本地开发到云上生产的统一工作流
使用技巧
- 以资产为中心组织代码,利于复用与测试
- 用分区处理时间序列与增量数据
- 结合资产检查把数据质量前移