电话:010-84385731
公司简介 发展历程 企业文化 股权架构 荣誉资质 战略发展
智慧轨道交通 基础设施信息 合资合作
集团新闻 行业资讯 专题展会
股票信息 企业管治 信息披露 路演及投资资料 股东资料 联系我们
党建工作 工会工作 共青团工作 基层动态 党务公开 党风廉政建设

TCC路网指挥控制—大数据处理技术在成都地铁COCC项目中的应用

成都地铁COCC项目是由成都地铁运营有限公司主导,由亿雅捷深度参与建设的一个线网级综合监控运营平台。该平台监控范围涉及地铁运营的所有主要业务指标,包括:行车、客运、设备、能耗等。

其中,客运指标数据来自于ACC系统产生的清分数据,以文件形式实时地发送至COCC数据接口服务器。ACC系统每天会产生大量的数据文件,最大的单体文件尺寸达到数百兆字节。为了满足实时监控的需求,COCC系统除了要对这些数据进行接收外,还要对这些数据进行实时的计算、处理,以得到准确的预测及预警数据。

在面对如此大数据量的实时处理任务时,传统的单机程序已很难保证数据处理的及时性和准确性。我们采用了在大数据处理领域常用的处理方法,采用分布式的架构来对ACC客运数据进行实时的流式处理。

一、分布式架构保障系统稳定

1.jpg

如上图所示,我们的系统采用分布式架构。Zookeeper集群为Kafka及Storm这种分布式程序提供协调及同步服务。Kafka集群在本系统内充当数据缓冲的作用,在被Storm处理之前,数据先缓存在Kafka集群内。Storm集群是一个实时数据处理框架,它以一种类似于管道的方式处理数据,同时可以让程序开发人员无需考虑底层的分布式实现细节,即可轻松拥有强大的分布式处理能力。

当系统处理效率下降时,只需简单地通过修改启动参数、增加集群节点数等方式,来使系统处理能力得到线性提升。同时,因为我们的数据处理任务是运行在Storm集群之上,当集群中任何一个节点出现故障宕机时,未处理完的数据会自动转到其它节点继续处理,而不会导致数据丢失或延迟。


二、Storm流式处理框架保障数据被及时处理

1.jpg


Storm采用类似“管道”的方式来处理数据,这种方式也被称为“流式数据处理”。如上图所示,每一个拓扑任务,都像一个大树,树根是拓扑的源头,它负责从Kafka接收数据,并进行一些预处理,然后向下游节点分发。下游节点接收到上游分发的数据后,继续对数据进行处理,处理完成后,将处理存入数据库。


地址:北京市朝阳区小营北路6号京投大厦4号楼4层
电话: 010-84385731

版权所有:京投轨道交通科技控股有限公司

京ICP备17044615号

   法律声明

OA系统APP

IPhone手机下载