SYLPH 是一个用于实时流计算的平台,核心是通过工作流描述构建分布式流计算应用程序。,SYLPH是一套完整的解决方案,主要包括:
webUI
, 定义streamSql或streamETl任务spark2.x
及flink1.5+
, 依赖hdfs
和yarn
java8
, 按需实现source
,transform
,sink
webUI
完成任务创建后一键部署上线,无需人工部署,整个分布式程序由sylph进行管理webUI
上面即可看到任务运行情况,不再需要打隧道查看yarn任务目前SYLPH的定位主要是实时etl数据处理能力
及实时流计算
。基于这两大能力,SYLPH有自己的特定应用场景。主要如下: