分布式图计算模型Pregel详解

  Pregel是Google提出的大规模分布式图计算平台,专门用来解决网页链接分析、社交数据挖掘等实际应用中涉及的大规模分布式图计算问题。目前的图计算模型基本上都遵循BSP计算模式。在详细介绍Pregel模型之前,我们先简单了解一下BSP模式的相关概念。

1. BSP模式

  BSP(Bulk Synchronous Parallel,整体同步并行)是一种并行计算模式,由英国计算机科学家Viliant在上世纪80年代提出。BSP计算模式入下图所示。

BSP模型

BSP计算模式中以下几个概念需要了解一下:

  1. Processors:并行计算进程,它对应到集群中的多个结点,每个结点可以有多个Processor;
  2. LocalComputation:单个Processor的计算,每个Processor都会切分一些结点作计算;
  3. Communication:Processor之间的通信。接触的图计算往往需要做些递归或是使用全局变量,在BSP模型中,对图结点的访问分布到了不同的Processor中,并且往往哪怕是关系紧密具有局部聚类特点的结点也未必会分布到同个Processor或同一个集群结点上,所有需要用到的数据都需要通过Processor之间的消息传递来实现同步;
  4. BarrierSynchronization:栅栏同步。每一次同步也是一个超步的完成和下一个超步的开始;
  5. Superstep:超步,这是BSP的一次计算迭代,拿图的广度优先遍历来举例,从起始结点每往前步进一层对应一个超步。
  6. 任务结束,一个作业可以选出一个Proceessor作为Master,每个Processor每完成一个Superstep都向Master反馈完成情况,Master在N个Superstep之后发现所有Processor都没有计算可做了,便通知所有Processor结束并退出任务。

2. Pregel模型

  在BSP模式的基础上,我们详细解释一下Pregel模型的原理。Pregel在概念模型上遵循BSP模式。整个计算过程由若干顺序运行的超级步(Super Step)组成,系统从一个“超级步”迈向下一个“超级步”,直到达到算法的终止条件。一个典型的Pregel计算过程如下:

  • 读取图数据并对图初始化;
  • 当图被初始化完毕,执行一系列的超步(SuperStep)直到整个计算结束,这些SuperStep之间通过一些全局的同步点分隔;
  • 输出计算结果。

  在每个SuperStep中,顶点上的计算都是并行的,每个顶点执行相同的用于表达指定逻辑的用户自定义函数。每个顶点都可以需修改自身以及出边的状态,接收前一个SuperStep发送给它的消息,并将计算的结果或信息发送给其他顶点,这些信息会在下一个SuperStep中被目标顶点接收。边在这种计算模式中并不是核心对象,只用于表明消息传递的方向,没有相应的计算运行在其上。详细过程可以参考下图,显示了两个SuperStep之间的内容。

SuperStep
2.1 Pregel模型状态机

  算法结束的时机取决于所有的顶点是否均已经达到halt状态。首先在刚开始的时候,所有的顶点都处于active状态,所有的active顶点都会参与到SuperStep中的相应计算。顶点通过将其自身的status设置成inactive来表示它已不再active,以此表明在下一次的SuperStep中,该顶点不再需要执行相应的计算。除非该顶点接收到其他顶点传送的消息,否则Pregel框架不会再接下来的SuperStep中执行该顶点的计算。如果顶点在接收到消息后进入active状态,那么在随后的计算中该顶点必须显式的deactive。整个计算在所有顶点都达到inactive状态,并且没有消息传送时结束。整个状态转换如下图所示。


image.png
2.2 Pregel模型示例

  接下来展示一个以Pregel计算最大值的例子。假设图中存在A/B/C/D四个顶点,其中每个顶点的数据表示当前顶点的值。在计算的每个SuperStep中),每个顶点将接收其他顶点传过来的值(初始SuperStep除外),并判断当前顶点的值是否小于传递过来的值。若小于,更新当前顶点的值,并将该顶点状态设置为active状态,同时将当前顶点的最新值传递出去;若不小于,则什么都不做,并将当前顶点的状态设置为inactive。直到所有的顶点状态均变成inactive,计算结束。整个过程入下图所示。

image.png

以上图为例,我们详细介绍一下Pregel模型的执行过程。

  • SuperStep0:初始SuperStep,不接收信息,只负责将当前顶点的值传递出去,并设置所有顶点状态为active。
  • SuperStep1: 顶点A接收的信息为6,将当前顶点的值设置为6,状态设置为active,并将6作为消息发送给顶点B(顶点B下一轮迭代的时候会收到,当前轮次并不会收到);顶点B接收的信息为3和2,均小于当前顶点值6,不更新当前顶点值,并将顶点的状态设置为inactive;顶点C接收的信息为1,小于当前顶点值2,不更新当前顶点值,并将顶点的状态设置为inactive;顶点D接收信息为2和6,将当前顶点的值更新为6,状态设置为active,并将6作为消息发送给顶点C;
  • SuperStep2:顶点A未接收到信息,且状态为inactive,什么都不做;顶点B接收到顶点A上一个轮次发送的消息,由于当前顶点值为6,不小于接收到的消息6,因此不更新当前顶点值,并将顶点的状态设置为inactive;顶点C接收到的消息为6,当前顶点值为2,将当前顶点的值更新为6,状态设置为active,并将6作为消息发送给顶点B和D;顶点D未接收到信息,且状态为inactive,什么都不做;
  • SuperStep3:顶点A未接收到信息,且状态为inactive,什么都不做;顶点B接收到顶点C上一个轮次发送的消息,由于当前顶点值为6,不小于接收到的消息6,因此不更新当前顶点值,并将顶点的状态设置为inactive;顶点C未接收到任何信息,因此将状态设置为inactive;顶点D接收到顶点C上一个轮次发送的消息,由于当前顶点值为6,不小于接收到的消息6,因此不更新当前顶点值,并将顶点的状态设置为inactive;
  • 所有顶点的状态均为inactive,迭代停止,输出结果。

  以上就是图计算模型Pregel的全部内容,以后有时间还会再详细介绍其他几种常见的图计算模型,如GAS。具体实现可以参见Flink Gelly提供的迭代计算模式。

2.3 Pregel框架的缺点

  Pregel模型虽然简单,那就是对于邻居数很多的顶点,它需要处理的消息非常庞大,所以对于符合幂律分布的自然图,对于那些关联关系非常多的顶点,这种模型在计算的时候很容易崩溃。

推荐阅读更多精彩内容