基于web版kettle开发的用户专业版B/S架构工具

  • Post author:
  • Post category:其他

转自:   https://blog.csdn.net/weixin_34015336/article/details/86007813

kettle系列-我的开源kettle调度、管理平台[kettle-manager]介绍https://www.cnblogs.com/majinju/p/5739820.html

Kettle的Web版分享: https://blog.csdn.net/u014256350/article/details/51733944

Kettle(Pentaho)实现web方式远程执行job或transformation: https://blog.csdn.net/jianglibo1024/article/details/54835656

一种基于kettle的web端交换管理方法与流程:  http://www.xjishu.com/zhuanli/55/201710066927.html

Web中集成Kettlehttps://qq85609655.iteye.com/blog/1306555

web应用集成kettle: https://download.csdn.net/download/sxrenchao/9329209

KETTLE WEB管理控制台设计: https://blog.csdn.net/jdk2006/article/details/50559410

Kettle Web端的使用: https://my.oschina.net/hbt/blog/522053

Kettle的Web版分享: https://www.oschina.net/question/2615834_2149419

ETL工具 ,基于Kettle实现的Web版ETL工具: https://download.csdn.net/download/u010572994/10681413

一种基于kettle的web端交换管理方法http://xueshu.baidu.com/usercenter/paper/show?paperid=72fba748737e4739578207d62423b5c0&site=xueshu_se

Kettle(Pentaho)实现web方式远程执行job或transformationhttps://www.cnblogs.com/John-Young/p/6349252.html

 

如何在 GitHub 上找到免费且实用的软件?:  https://blog.csdn.net/sinat_33224091/article/details/93149403

G码云: https://gitee.com/liuxiaogang1987/kettle

kettleweb应用:https://cloud.tencent.com/developer/information/kettleweb%E5%BA%94%E7%94%A8

ETL工具kettle与java结合使用程序生成一个简单的转化文件:https://bbs.csdn.net/topics/390369075

基于Kettle的数据传输平台的设计与实现: http://xuewen.cnki.net/CMFD-1016219876.nh.html

通过Kettle调用Rest API获取信息: http://tech.it168.com/a2015/0707/1744/000001744190.shtml

基于kettle8的web端调度监控平台: http://www.demodashi.com/demo/14488.html

kettlewebtest: http://www.pudn.com/Download/item/id/3346340.html

The integration of Kettle in Web: https://www.programering.com/a/MzN2AzNwATU.html

KETTLE WEBSERVICE 调用https://ask.hellobi.com/blog/andy/2739

kettle8调度监控平台(kettle-scheduler)开源: https://www.liangzl.com/get-article-detail-30916.html

kettle8调度监控平台(kettle-scheduler)开源: https://www.liangzl.com/get-article-detail-30916.html

Kettle通过Webservice获取天气信息: http://blog.itpub.net/10009036/viewspace-1398948/

在web中集中kettle:  http://www.360doc.com/content/14/1102/11/1180274_421875421.shtml

Kettle (5) – 获取 Web 数据:  https://www.jianshu.com/p/300e997d8351

Kettle(Pentaho)实现web方式远程执行job或transformation: https://www.cnblogs.com/John-Young/p/6349252.html

Kettle(Pentaho)实现web方式远程执行job或transformation: https://www.cnblogs.com/John-Young/p/6349252.html

Kettle(Pentaho)实现web方式远程执行job或transformation:https://blog.csdn.net/u010735147/article/details/81911451

G码云:https://gitee.com/majinju/kettle-manager/

基于spring-boot的kettle调度: https://www.jianshu.com/p/f84b36e4912e

Pentaho Kettle解决方案:使用PDI构建开源ETL解决方:http://www.java1234.com/a/javabook/javabase/2016/0510/6082.html

ETL工具kettle与java结合使用程序生成一个简单的转化文件: https://bbs.csdn.net/topics/390369075

kettle集成到web项目中: https://ask.hellobi.com/question/14607

webKettleETL产品介绍: https://gitee.com/zixuedanxin/kettle/

基于web版kettle开发的一套分布式综合调度,管理,ETL开发的用户专业版B/S架构: https://download.csdn.net/download/goldthreefat/10963345

kettle系列-我的开源kettle调度、管理平台[kettle-manager]介绍https://www.cnblogs.com/majinju/p/5739820.html

kettle之牛刀小试: https://jianchen.iteye.com/blog/1111532

java中调用kettle作业以及生成web service 接口: https://www.cnblogs.com/kenlyy/p/4987527.html

基于B/S架构的kettle7版本的作业和转换集成管理工具: https://blog.csdn.net/angle860123/article/details/78533887

Javaweb整合mongo和kettle6.0的环境配置: https://www.cnblogs.com/checkman/p/5847496.html

Kettle 的 Web 端管理工具 Kettle-Manager : https://www.oschina.net/p/kettle-manager

kettle调用webservice: https://blog.csdn.net/weixin_39937329/article/details/78710150

Kettle的Web版分享: https://www.oschina.net/question/2615834_2149419?sort=default

G码云: https://gitee.com/zixuedanxin/kettle/

kettle web化: https://www.cnblogs.com/bener/p/10596181.html

Kettle (5) – 获取 Web 数据: https://www.cnblogs.com/guohu/p/10721196.html

java web项目整合kettle进行数据自动导入: https://blog.csdn.net/Airch7/article/details/84351427

kettle整合到web项目并运用quartz实现定时任务:https://my.oschina.net/pvpCC9IFwqz4/blog/1814033

web版kettle.rar: https://download.csdn.net/download/u013522009/9751852

开源ETL工具-kettle初识: https://zhuanlan.zhihu.com/p/24835051

Kettle的Web版分享: https://www.oschina.net/question/2615834_2149419?p=2

kettle web端监控需求分析: https://www.cnblogs.com/zk263235046/p/5602781.html

Kettle与java项目集成: https://blog.csdn.net/kone0611/article/details/83659191

一种基于kettle的web端交换管理方法: http://www.vipzhuanli.com/pat/books/201710066927.9/1.html

kettle Web端 资源库操作(查询): https://www.cnblogs.com/zk263235046/p/5653556.html

基于kettle的简单HTTP接口监控: https://blog.csdn.net/xueba207/article/details/39693411

一种基于kettle的web端交换管理方法: http://www.vipzhuanli.com/patent/201710066927.9/

在Web中集成Kettle: http://m.dataguru.cn/thread-485584-1-1.html

 

 

代码地址如下:
http://www.demodashi.com/demo/13399.html

# webKettleETL产品介绍

  • 精卫ETL平台,创造性的将平台构建为B/S架构的ETL模型设计以及集成用户专业调度管理的分布式ETL建模运维系统。
  • 系统分为七大模块:模型、平台、任务、定时调度、日志、节点、用户.
  • 模型模块进行ETL模型开发,在B/S系统中用拖拽的方式设计数据流逻辑。
  • 其他六个模块为用户专业调度管理系统,更多是面向业务运维人员,关注于整个流程的执行情况和数据的导入导出细节信息,以及对任务的综合调度。完全支持集群和单机两种运行模式。并通过用户权限的管控让平台的资源分配变得更加专业。

# 模块展示

  • 平台

展示平台概况

输入图片说明

  • 模型设计

进行ETL模型设计调试

输入图片说明

  • 任务管理

对ETL任务进行综合的调度管理以及监控
输入图片说明
输入图片说明

  • 日志

ETL任务的执行日志模块
输入图片说明

  • 节点管理

ETL任务的执行引擎节点管理
输入图片说明

  • 定时调度

定时ETL任务管理
输入图片说明

  • 用户管理

精卫平台的用户权限管理系统
输入图片说明

# webKettleETL技术实现

  • 精卫ETL是基于流行的ETL工具kettle开发的B/S架构版本的ETL产品,所使用的底层引擎是调用kettle的api
  • ETL任务以元数据的方式储存在资源库里面,精卫通过读取资源库元数据,对元数据进行解析后可将ETL任务通过MXGraph展现至B/S架构的精卫系统中,实现了在B/S架构上面开发ETL任务的功能,属于精卫系统的模型开发模块功能.
  • 通过对元数据的操作可以对ETL任务进行综合性的管理以及监控,通过Quartz定时框架可以实现对任务的定时调度
  • 根据kettle执行引擎可以部署多台服务器节点的特性,再通过精卫系统跟远程的节点发送HTTP请求,可以实现在多节点上分布式的执行ETL任务,并可以实现实时监控ETL的任务运行情况
  • 基于高度自由化的B/S框架,可以嵌入多元化的需求,于是我们在精卫中添加了用户管理模块,通过用户权限的概念对所有的ETL任务进行人性化的运维管理
  • 整个项目使用Maven进行构建管理,多模块之间低耦合,高拓展性

输入图片说明

# webKettleETL整体功能流程

输入图片说明
输入图片说明

#技术选型

  • 核心框架:Spring Framework
  • 任务调度:Spring + Quartz
  • 持久层框架:MyBatis
  • 会话管理:Spring-Session
  • 日志管理:Log4j
  • 前端框架:EXTJS3.4+MXGraph2.3
  • 项目管理: Maven3.2.3
  • ETL底层引擎:kettle7.0

项目结构

项目结构图

t907Ck5zYbRpiblnj6R.png

# 说明

  1. 本系统采用单资源库模式,数据源连接在dispatch-servlet.xml中配置,系统启动后就会读取该资源库
  2. 数据库脚本都在kettle-scheduler项目的scripts目录下
  3. 数据库暂时只支持MySQL,本系统在MySQL5.5.20版本上测试,其他版本尚未测试
  4. 本例使用Maven3.2.3构建,启动服务器后访问http://localhost:8080/
  5. 支持IE9及以上、FireFox等浏览器,IE6-IE8需要做特殊化处理,其他浏览器未测试
  6. jdk版本需要1.8以上基于web版kettle开发的用户专业版B/S架构工具

代码地址如下:
http://www.demodashi.com/demo/13399.html

注:本文著作权归作者,由demo大师代发,拒绝转载,转载需要作者授权