水利数据涉及面广、类型繁杂、数据存储、结构不一。随着各地智慧水利建设的持续推进,水利数据的统一集成与管理,迫在眉睫。目前主流的ETL工具,面对数据量大、时效性强的水利数据,计算能力和计算需求不匹配。多源异构数据融合器更好适配水利数据特性,能够稳定、高效实现水利数据汇集。
暂无资料水利数据涉及面广、类型繁杂、数据存储、结构不一。随着各地智慧水利建设的持续推进,水利数据的统一集成与管理,迫在眉睫。目前主流的ETL工具,面对数据量大、时效性强的水利数据,计算能力和计算需求不匹配。多源异构数据融合器更好适配水利数据特性,能够稳定、高效实现水利数据汇集。
1、数据抽取
可在线可视化灵活配置数据源(结构化、半结构化、非结构化),基于不同水利数据的监测特征,对多源异构的水利数据设计差异化的采集策略,满足不同水利业务需求。同时,针对实时监测数据时效性强、数据量大的特点,优化产品计算能力,保障数据抽取的稳定性。
2、数据转换
包括对抽取后数据的清洗、补偿、格式转换、类型转换、映射等步骤。数据清洗主要针对水利实时监测数据,根据高发性的异常种类,通过封装好的数据清洗API实现数据自动清洗。对于缺失数据,能够自行补偿,保证数据完整性。
3、数据装载
将抽取、转换后的数据装载到目标数据仓,通过建立批量装载、实时装载、增量装载等不同方式,满足不同特性水利数据的装载要求,确保数据的完整性、及时性、准确定。
4、数据处理
加载后的原始监测数据往往不能直接应用,梳理不同业务所需的常用数据,,进行原始监测数据的“再组织”。依据行业标准规范,封装常用的原始监测数据加工API,设计调度任务,实现专业化数据的自动加工。
1、数据集成高效稳定
采用面向实时数据流的处理架构,可实时处理海量数据,充分适配水利监测数据时效性强、数据量大的特点,保障数据高效稳定集成。
2、任务设计可视灵活
通过简洁便捷的图形界面,对不同类型数据源,可快速建立连接任务。面向不同时效要求的水利业务数据,灵活配置数据抽取策略,易于使用和部署。
3、数据处理规范实用
依托丰富的行业经验,梳理常用的重要业务数据,并转化为通用的数据处理API进行封装,降低水利数据处理门槛,提升企业工作效率。
/