随便撸(www.suibianlu.com)精品网站源码,织梦建站模版,游戏源代码分享平台

DolphinScheduler任务调度系统 v1.3.3

时间:2020-11-05[其他免费源码]作者:随便撸

Apache DolphinScheduler(incubator,原EasyScheduler)是一个大数据分布式工作流任务调度系统,主要解决大数据研发过程中ETL处理错综复杂的依赖关系,而不能直观监控任务健康状态等问题。DolphinScheduler以DAG流式的方式将Task组装起来,可实时监控任务的运行状态,同时支持重试、从指定节点恢复失败、暂停及Kill任务等操作。


设计特点:一个分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。 其主要目标如下:

1、以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态

2、支持丰富的任务类型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等

3、支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作

4、支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败

5、支持工作流全局参数及节点自定义参数设置

6、支持资源文件的在线上传/下载,管理等,支持在线文件创建、编辑

7、支持任务日志在线查看及滚动、在线下载日志等

8、实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化

9、支持对Master/Worker cpu load,memory,cpu在线查看

10、支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计

11、支持补数

12、支持多租户

13、支持国际化

14、还有更多等待伙伴们探索

DolphinScheduler任务调度系统 v1.3.3 第1张DolphinScheduler任务调度系统 v1.3.3 第2张DolphinScheduler任务调度系统 v1.3.3 第3张

本文标签:DolphinScheduler  任务调度系统 

转载请注明来源:DolphinScheduler任务调度系统 v1.3.3

本文永久链接地址:https://www.suibianlu.com/21766.html

郑重声明:
本站所有内容均由互联网收集整理、网友上传,并且以计算机技术研究交流为目的,仅供大家参考、学习,不存在任何商业目的与商业用途。
若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。 我们不承担任何技术及版权问题,且不对任何资源负法律责任。
如无法链接失效或侵犯版权,请给我们来信:admin#suibianlu.com

Top