Java項目中使用XXL-JOB調度框架

Java項目中使用XXL-JOB調度框架

Java項目中使用XXL-JOB調度框架

我們的最近幾個新項目在使用XXL-JOB進行任務調度,今天就分享下這個框架。

XXL-JOB是一個分佈式任務調度平臺,其核心設計目標是開發迅速、學習簡單、輕量級、易擴展。現已開放源代碼並接入多家公司線上產品線,開箱即用。

特性(來源於官方)

  • 簡單:支持通過Web頁面對任務進行CRUD操作,操作簡單,一分鐘上手;
  • 動態:支持動態修改任務狀態、啟動/停止任務,以及終止運行中任務,即時生效;
  • 調度中心HA(中心式):調度採用中心式設計,“調度中心”自研調度組件並支持集群部署,可保證調度中心HA;
  • 執行器HA(分佈式):任務分佈式執行,任務”執行器”支持集群部署,可保證任務執行HA;
  • 註冊中心: 執行器會週期性自動註冊任務, 調度中心將會自動發現註冊的任務並觸發執行。同時,也支持手動錄入執行器地址;
  • 彈性擴容縮容:一旦有新執行器機器上線或者下線,下次調度時將會重新分配任務;
  • 路由策略:執行器集群部署時提供豐富的路由策略,包括:第一個、最後一個、輪詢、隨機、一致性HASH、最不經常使用、最近最久未使用、故障轉移、忙碌轉移等;
  • 故障轉移:任務路由策略選擇”故障轉移”情況下,如果執行器集群中某一臺機器故障,將會自動Failover切換到一臺正常的執行器發送調度請求。
  • 阻塞處理策略:調度過於密集執行器來不及處理時的處理策略,策略包括:單機串行(默認)、丟棄後續調度、覆蓋之前調度;
  • 任務超時控制:支持自定義任務超時時間,任務運行超時將會主動中斷任務;
  • 任務失敗重試:支持自定義任務失敗重試次數,當任務失敗時將會按照預設的失敗重試次數主動進行重試;其中分片任務支持分片粒度的失敗重試;
  • 任務失敗告警;默認提供郵件方式失敗告警,同時預留擴展接口,可方便的擴展短信、釘釘等告警方式;
  • 分片廣播任務:執行器集群部署時,任務路由策略選擇”分片廣播”情況下,一次任務調度將會廣播觸發集群中所有執行器執行一次任務,可根據分片參數開發分片任務;
  • 動態分片:分片廣播任務以執行器為維度進行分片,支持動態擴容執行器集群從而動態增加分片數量,協同進行業務處理;在進行大數據量業務操作時可顯著提升任務處理能力和速度。
  • 事件觸發:除了”Cron方式”和”任務依賴方式”觸發任務執行之外,支持基於事件的觸發任務方式。調度中心提供觸發任務單次執行的API服務,可根據業務事件靈活觸發。
  • 任務進度監控:支持實時監控任務進度;
  • Rolling實時日誌:支持在線查看調度結果,並且支持以Rolling方式實時查看執行器輸出的完整的執行日誌;
  • GLUE:提供Web IDE,支持在線開發任務邏輯代碼,動態發佈,實時編譯生效,省略部署上線的過程。支持30個版本的歷史版本回溯。
  • 腳本任務:支持以GLUE模式開發和運行腳本任務,包括Shell、Python、NodeJS、PHP、PowerShell等類型腳本;
  • 命令行任務:原生提供通用命令行任務Handler(Bean任務,”CommandJobHandler”);業務方只需要提供命令行即可;
  • 任務依賴:支持配置子任務依賴,當父任務執行結束且執行成功後將會主動觸發一次子任務的執行, 多個子任務用逗號分隔;
  • 一致性:“調度中心”通過DB鎖保證集群分佈式調度的一致性, 一次任務調度只會觸發一次執行;
  • 自定義任務參數:支持在線配置調度任務入參,即時生效;
  • 調度線程池:調度系統多線程觸發調度運行,確保調度精確執行,不被堵塞;
  • 數據加密:調度中心和執行器之間的通訊進行數據加密,提升調度信息安全性;
  • 郵件報警:任務失敗時支持郵件報警,支持配置多郵件地址群發報警郵件;
  • 推送maven中央倉庫: 將會把最新穩定版推送到maven中央倉庫, 方便用戶接入和使用;
  • 運行報表:支持實時查看運行數據,如任務數量、調度次數、執行器數量等;以及調度報表,如調度日期分佈圖,調度成功分佈圖等;
  • 全異步:任務調度流程全異步化設計實現,如異步調度、異步運行、異步回調等,有效對密集調度進行流量削峰,理論上支持任意時長任務的運行;
  • 跨語言:調度中心與執行器提供語言無關的 RESTful API 服務,第三方任意語言可據此對接調度中心或者實現執行器。除此之外,還提供了 “多任務模式”和“httpJobHandler”等其他跨語言方案;
  • 國際化:調度中心支持國際化設置,提供中文、英文兩種可選語言,默認為中文;
  • 容器化:提供官方docker鏡像,並實時更新推送dockerhub,進一步實現產品開箱即用;
  • 線程池隔離:調度線程池進行隔離拆分,慢任務自動降級進入”Slow”線程池,避免耗盡調度線程,提高系統穩定性;
  • 用戶管理:支持在線管理系統用戶,存在管理員、普通用戶兩種角色;
  • 權限控制:執行器維度進行權限控制,管理員擁有全量權限,普通用戶需要分配執行器權限後才允許相關操作;

使用這個框架需要一個調度中心(xxl-job-admin),這個可以單機或者集群部署。下面就簡單結束調度中心的部署。

調度中心部署

1、部署前需要初始化調度中心需要的幾個表,這個腳本在源碼的文件tables_xxl_job.sql中(如果mysql做主從,調度中心集群節點務必強制走主庫)。

2、設置模板xxl-job-admin中的application.properties的服務端口,數據庫信息和郵件配置信息。

3、可以打包模板xxl-job-admin為單個jar包,可以部署到對應的服務器中。

以本地為例,啟動後輸入賬號密碼admin/123456後的頁面如下:

Java項目中使用XXL-JOB調度框架

調度中心

這個頁面最常用的就是任務管理和調度日誌頁面,如果開發了新的任務,需要在任務管理頁面添加。

開發執行器

1、首先,需要配置一個XxlJobSpringExecutor,可以在配置文件或者配置類中。如果想自動註冊必須設置xxl.job.admin.addresses和xxl.job.executor.appname。

詳細如下:

Java項目中使用XXL-JOB調度框架

配置信息

2、Bean模式的有兩種實現,類形式和方法形式

  • 類形式,繼承IJobHandler接口,實現execute方法,返回ReturnT實例。最後在類上添加XxlJob註解
  • 方法形式,要求方法的格式為:“public ReturnT execute(String param)”,在方法上添加XxlJob註解
Java項目中使用XXL-JOB調度框架

xxljob

在調度中心註冊執行器和添加任務

1,打開admin頁面,在執行器管理菜單中,添加一個執行器,可以是自動註冊或者是手動註冊,

Java項目中使用XXL-JOB調度框架

添加執行器

2、註冊好後,等待一會可以看到註冊的信息,在OnLine 機器地址列,點擊查看,可以看到註冊的地址和端口。

Java項目中使用XXL-JOB調度框架

查看註冊地址信息

3、添加任務,在任務管理菜單點擊添加,添加一個任務,我們選擇Bean模式,JobHandler就是我們用XxlJob註解方法或者類的名稱。

Java項目中使用XXL-JOB調度框架

添加任務

4、任務添加後,可以啟動或者執行這個任務,執行之後的日誌如下:

Java項目中使用XXL-JOB調度框架

執行日誌


分享到:


相關文章: