Kettle 11.0 介绍与选型指南
Kettle(Pentaho Data Integration)11.0 LTS 介绍与选型指南:官方资料溯源的版本基准、四大运行入口架构、11.0 新特性、社区版与商业版差异、快速上手路径,以及与 Airbyte、DataX、Apache NiFi 的量化选型对比。
Kettle 11.0 介绍与选型指南
一、信息基准
本章说明本文所有版本与事实性信息的查询时间与官方来源,供读者复核。
1.1 查询说明
- 查询日期:2026-10-19。
- 信息获取方式:纯官方资料溯源(官方文档站、官方代码仓库发行页、官方博客与发布公告),本文不做本地安装与运行实测。
- 版本结论:Kettle 即 Pentaho Data Integration(PDI),本次介绍的版本为 11.0 LTS(Hitachi Vantara 开源社区版)。官方发行仓库当前同时维护 11.0、10.2 两条 LTS 补丁线与 11.1 开发线。
1.2 版本依据
| 项目 | 实查结果(2026-10-19) | 来源 |
|---|---|---|
| 当前 LTS 主版本 | 11.0(上一 LTS 为 10.2,2024 年 8 月发布) | docs.pentaho.com/whats-new/release-notes-11.0 |
| 11.0 线最新补丁 | 11.0.0.4-317(GitHub Releases 更新于 2026-10-16) | github.com/pentaho/pentaho-kettle/releases |
| 10.2 线最新补丁 | 10.2.0.11-441(GitHub Releases 更新于 2026-10-16) | github.com/pentaho/pentaho-kettle/releases |
| 开发线 | 11.1.0.0-443(2026-10-19,持续构建编号逐日递增) | github.com/pentaho/pentaho-kettle/releases |
| 代码仓库 | pentaho/pentaho-kettle(GitHub) | github.com/pentaho/pentaho-kettle |
| 开源许可 | Apache License 2.0 | 仓库 LICENSE |
1.3 官方来源清单
二、软件概述
本文介绍的是 Kettle 11.0(Pentaho Data Integration 11.0 LTS,Hitachi Vantara 开源社区版)。
Kettle 是一个开源的数据集成与 ETL(抽取、转换、加载)平台,以可视化方式编排数据管道,用户通过图形界面拖拽步骤即可完成多数据源之间的抽取、清洗、转换与装载。项目由 Matt Casters 创建,2006 年并入 Pentaho 商业平台,Pentaho 于 2015 年被 Hitachi 收购(后归入 Hitachi Vantara),自此官方名称为 Pentaho Data Integration,社区仍沿用 Kettle 这一昵称。源码仓库 pentaho/pentaho-kettle 至今保持活跃更新。
在 Hitachi Vantara 的产品体系中,PDI 分为社区版(Community Edition,CE)与商业企业版(Enterprise Edition,EE)。社区版以 Apache License 2.0 开源,包含完整的转换设计与执行能力;企业版在其之上叠加企业级认证、管理工具与官方支持服务。两者差异详见 4.4 节。
三、核心架构
3.1 四大运行入口
Kettle 传统上由四个运行入口组成,这一结构在 11.0 中继续有效:
| 入口 | 形态 | 职责 |
|---|---|---|
| Spoon | 图形设计器 | 可视化设计、调试与执行转换和作业 |
| Pan | 命令行引擎 | 无界面执行转换 |
| Kitchen | 命令行引擎 | 无界面执行作业 |
| Carte | 轻量 HTTP 服务 | 提供远程监控与远程执行节点能力 |
3.2 转换与作业
- 转换(Transformation):面向行级数据流,由若干步骤(Step)通过跳(Hop)连接成有向无环图,步骤间以行缓冲并行流水执行,适合抽取、清洗、加工、装载类工作。
- 作业(Job):面向流程控制,由作业项(Job Entry)组成,按条件分支串行编排,负责依赖判断、失败处理、通知以及调用转换。
3.3 插件体系
Kettle 的能力以插件形式扩展,包括步骤插件、作业项插件、数据库连接插件、分区插件等。11.0 引入 Plugin Manager 统一管理插件,并完成 Karaf/OSGi 运行时移除,插件装载方式随之简化(见 11.0 发行说明)。扩展开发通过公开的插件 API 与 Maven 坐标进行。
3.4 环境与仓库
PDI 运行于 Java 虚拟机之上,11.0 起官方支持 Java 21 并升级至 Tomcat 10(11.0 发行说明)。设计产物可保存为本地文件(ktr/kjb),也可集中存放于 Pentaho 仓库以便团队共享与调度。
四、功能特性
4.1 可视化管道设计
Spoon 提供拖拽式步骤编排、字段映射、行级调试与执行日志,11.0 进一步引入 Pipeline Designer 强化管道设计体验(11.0 发行说明)。
4.2 广泛的数据源连接
内置大量数据库连接器(关系库、分析型库、NoSQL)、文件类连接器(CSV、Excel、JSON、XML 等)以及 FTP、邮件等传输类步骤,配合插件可覆盖主流数据源。
4.3 11.0 版本关键增强(引自官方发行说明)
- Pipeline Designer(管道设计器增强)
- Project Lifecycle Management(项目生命周期管理)
- 全新 Pentaho User Console(预览版)
- 新数据建模工作流(取代 Schema Workbench 与 Data Source Wizard)
- 开箱即用的 OIDC / OAuth 2.0 支持
- Pentaho/BA Server 细粒度权限
- Java 21 支持与 Tomcat 10 升级
- Plugin Manager(插件管理器)
- Karaf/OSGi 移除与大数据插件调整
- 基于 OTEL 的可观测性
- 发行与运行形态的简化
4.4 社区版与商业版差异
依据官方产品资料与官方博客,两者差异如实归纳如下:
| 维度 | 社区版(CE) | 企业版(EE) |
|---|---|---|
| 许可与费用 | Apache 2.0 开源,免费 | 商业订阅 |
| 安装补丁 | 自行下载与升级 | 官方提供版本与补丁通道 |
| 企业认证与权限管理 | 基础能力 | 完整企业认证体系 |
| 技术支持 | 无官方支持,依赖社区 | 官方支持与 SLA |
| 管理与调度工具 | 基础调度 | 企业级管理控制台 |
官方博客明确指出:旧版社区版存在已知漏洞需自行修补、缺少企业认证、生产运行需要团队自担运维与合规风险;这正是企业版的出发点。
五、快速上手
以下步骤引自官方文档(docs.pentaho.com 安装章节与官方获取页),本文不做本地实测。
5.1 获取与启动
- 访问官方获取入口 https://pentaho.com/get-started/ ,选择 Pentaho Data Integration 社区版下载压缩包。
- 解压到本地目录(前置要求:Java 21 运行时,见 11.0 安装文档 https://docs.pentaho.com/install/ )。
- 运行 Spoon 启动脚本(Linux/macOS 下为 spoon.sh,Windows 下为 Spoon.bat),进入图形设计器。
5.2 第一个转换
按官方入门文档的路径:
- 在 Spoon 中新建一个转换。
- 从步骤面板拖入「CSV 文件输入」步骤,配置文件路径与字段。
- 拖入「文本文件输出」(或表输出)步骤,用 Hop 连接输入与输出。
- 点击运行,观察执行日志中的行数统计。
官方文档入口:https://docs.pentaho.com/install/ 与 https://docs.pentaho.com/whats-new/ 。
六、适用场景与限制
6.1 适用场景
- 数据仓库与传统 ETL:定时从业务库抽取数据,清洗、汇总后装载到数仓。
- 多源异构整合:数据库、文件、接口等多类数据源的批量搬运与格式转换。
- 可视化治理诉求强的团队:需要字段级映射、转换逻辑可见可审。
- 存量 Pentaho 用户升级:11.0 LTS 提供 Java 21 与 Tomcat 10 基座及 OTEL 可观测性。
6.2 限制与注意事项
- 执行引擎以 Java 虚拟机单进程为主,超大规模数据搬运需自行做分片与并行设计。
- 社区版无官方支持,补丁需自行跟踪(官方仓库补丁构建频繁,选型时应锁定 LTS 补丁线)。
- 11.0 移除 Karaf/OSGi 并调整大数据插件,存量自定义插件需评估迁移成本(11.0 发行说明)。
- 实时流处理并非其主战场,流式场景应评估 NiFi、Flink 类工具。
七、同类选型对比
7.1 候选概览
| 工具 | 定位 | 开源许可 |
|---|---|---|
| Kettle(PDI 11.0) | 可视化 ETL/数据集成平台 | Apache-2.0 |
| Airbyte | 面向连接器的 ELT 数据平台 | Elastic License 2.0 |
| DataX | 阿里巴巴开源的离线数据同步框架 | Apache-2.0 |
| Apache NiFi | 可视化流式数据路由与处理系统 | Apache-2.0 |
另:DataPipeline 为商业闭源软件,官方未公布开源仓库与版本数据,本文不纳入量化对比。
7.2 量化对比(2026-10-19 实查)
| 维度 | Kettle 11.0 | Airbyte | DataX | NiFi 2.12.0 |
|---|---|---|---|---|
| 开源许可 | Apache-2.0 | Elastic License 2.0 | Apache-2.0 | Apache-2.0 |
| GitHub stars | 8407(pentaho/pentaho-kettle) | 22242(airbytehq/airbyte) | 17363(alibaba/DataX) | 6265(apache/nifi) |
| 最近发版 | 11.0.0.4-317(2026-10-16) | Airbyte 2.0(2025-10-15) | datax_v202309(2023-09-14) | 2.12.0(2026-09-13) |
| 版本节奏 | LTS 补丁线持续维护,开发线每日构建 | GitHub 发行条目近一年集中于大版本 | 发版停留在 2023 年,节奏明显放缓 | 约每 1-2 个月一个 minor 版本 |
| 运行基线 | Java 21、Tomcat 10(11.0 官方发行说明) | 平台化发行,官方提供 abctl 与 Kubernetes 部署方案 | JDK 8 环境,单机进程 | NiFi 2.x 要求 Java 21 |
| 形态侧重 | 可视化 ETL 设计与执行 | 连接器生态与 ELT 平台 | 配置化离线同步 | 流式数据路由与溯源 |
(stars 与发版时间取自各项目 GitHub Releases 页面实查;Kettle 许可见仓库 LICENSE,Airbyte 许可见其仓库 LICENSE。)
7.3 选型建议
需要可视化设计、复杂转换编排与传统数仓 ETL 时优先考虑 Kettle;以「源到目标」批量同步为主、追求连接器数量与平台化运维时考虑 Airbyte;纯离线大批量同步且团队具备运维能力时 DataX 仍可胜任,但其发版节奏停滞需谨慎评估;兼顾流式与批式的数据路由与加工则优先 Apache NiFi。
八、参考链接
- 官方产品页:https://pentaho.com/products/pentaho-data-integration/
- 社区版获取:https://pentaho.com/get-started/
- 官方文档站:https://docs.pentaho.com/
- 11.0 发行说明:https://docs.pentaho.com/whats-new/release-notes-11.0
- 安装文档:https://docs.pentaho.com/install/
- 源码仓库:https://github.com/pentaho/pentaho-kettle
- 官方博客(CE/EE 升级指引):https://pentaho.com/insights/blogs/pentaho-etl-tool-guide-features-use-cases-and-when-to-upgrade/
- Airbyte 仓库:https://github.com/airbytehq/airbyte
- DataX 仓库:https://github.com/alibaba/DataX
- Apache NiFi 仓库:https://github.com/apache/nifi