分布式图计算模型Pregel详解

  Pregel是Google提出的大规模分布式图计算平台,专门用来解决网页链接分析、社交数据挖掘等实际应用中涉及的大规模分布式图计算问题。目前的图计算模型基本上都遵循BSP计算模式。在详细介绍Pregel模型之前,我们先简单了解一下BSP模式的相关概念。

1. BSP模式

  BSP(Bulk Synchronous Parallel,整体同步并行)是一种并行计算模式,由英国计算机科学家Viliant在上世纪80年代提出。BSP计算模式入下图所示。

BSP模型

BSP计算模式中以下几个概念需要了解一下:

  1. Processors:并行计算进程,它对应到集群中的多个结点,每个结点可以有多个Processor;
  2. LocalComputation:单个Processor的计算,每个Processor都会切分一些结点作计算;
  3. Communication:Processor之间的通信。接触的图计算往往需要做些递归或是使用全局变量,在BSP模型中,对图结点的访问分布到了不同的Processor中,并且往往哪怕是关系紧密具有局部聚类特点的结点也未必会分布到同个Processor或同一个集群结点上,所有需要用到的数据都需要通过Processor之间的消息传递来实现同步;
  4. BarrierSynchronization:栅栏同步。每一次同步也是一个超步的完成和下一个超步的开始;
  5. Superstep:超步,这是BSP的一次计算迭代,拿图的广度优先遍历来举例,从起始结点每往前步进一层对应一个超步。
  6. 任务结束,一个作业可以选出一个Proceessor作为Master,每个Processor每完成一个Superstep都向Master反馈完成情况,Master在N个Superstep之后发现所有Processor都没有计算可做了,便通知所有Processor结束并退出任务。

2. Pregel模型

  在BSP模式的基础上,我们详细解释一下Pregel模型的原理。Pregel在概念模型上遵循BSP模式。整个计算过程由若干顺序运行的超级步(Super Step)组成,系统从一个“超级步”迈向下一个“超级步”,直到达到算法的终止条件。一个典型的Pregel计算过程如下:

  • 读取图数据并对图初始化;
  • 当图被初始化完毕,执行一系列的超步(SuperStep)直到整个计算结束,这些SuperStep之间通过一些全局的同步点分隔;
  • 输出计算结果。

  在每个SuperStep中,顶点上的计算都是并行的,每个顶点执行相同的用于表达指定逻辑的用户自定义函数。每个顶点都可以需修改自身以及出边的状态,接收前一个SuperStep发送给它的消息,并将计算的结果或信息发送给其他顶点,这些信息会在下一个SuperStep中被目标顶点接收。边在这种计算模式中并不是核心对象,只用于表明消息传递的方向,没有相应的计算运行在其上。详细过程可以参考下图,显示了两个SuperStep之间的内容。

SuperStep
2.1 Pregel模型状态机

  算法结束的时机取决于所有的顶点是否均已经达到halt状态。首先在刚开始的时候,所有的顶点都处于active状态,所有的active顶点都会参与到SuperStep中的相应计算。顶点通过将其自身的status设置成inactive来表示它已不再active,以此表明在下一次的SuperStep中,该顶点不再需要执行相应的计算。除非该顶点接收到其他顶点传送的消息,否则Pregel框架不会再接下来的SuperStep中执行该顶点的计算。如果顶点在接收到消息后进入active状态,那么在随后的计算中该顶点必须显式的deactive。整个计算在所有顶点都达到inactive状态,并且没有消息传送时结束。整个状态转换如下图所示。


image.png
2.2 Pregel模型示例

  接下来展示一个以Pregel计算最大值的例子。假设图中存在A/B/C/D四个顶点,其中每个顶点的数据表示当前顶点的值。在计算的每个SuperStep中),每个顶点将接收其他顶点传过来的值(初始SuperStep除外),并判断当前顶点的值是否小于传递过来的值。若小于,更新当前顶点的值,并将该顶点状态设置为active状态,同时将当前顶点的最新值传递出去;若不小于,则什么都不做,并将当前顶点的状态设置为inactive。直到所有的顶点状态均变成inactive,计算结束。整个过程入下图所示。

image.png

以上图为例,我们详细介绍一下Pregel模型的执行过程。

  • SuperStep0:初始SuperStep,不接收信息,只负责将当前顶点的值传递出去,并设置所有顶点状态为active。
  • SuperStep1: 顶点A接收的信息为6,将当前顶点的值设置为6,状态设置为active,并将6作为消息发送给顶点B(顶点B下一轮迭代的时候会收到,当前轮次并不会收到);顶点B接收的信息为3和2,均小于当前顶点值6,不更新当前顶点值,并将顶点的状态设置为inactive;顶点C接收的信息为1,小于当前顶点值2,不更新当前顶点值,并将顶点的状态设置为inactive;顶点D接收信息为2和6,将当前顶点的值更新为6,状态设置为active,并将6作为消息发送给顶点C;
  • SuperStep2:顶点A未接收到信息,且状态为inactive,什么都不做;顶点B接收到顶点A上一个轮次发送的消息,由于当前顶点值为6,不小于接收到的消息6,因此不更新当前顶点值,并将顶点的状态设置为inactive;顶点C接收到的消息为6,当前顶点值为2,将当前顶点的值更新为6,状态设置为active,并将6作为消息发送给顶点B和D;顶点D未接收到信息,且状态为inactive,什么都不做;
  • SuperStep3:顶点A未接收到信息,且状态为inactive,什么都不做;顶点B接收到顶点C上一个轮次发送的消息,由于当前顶点值为6,不小于接收到的消息6,因此不更新当前顶点值,并将顶点的状态设置为inactive;顶点C未接收到任何信息,因此将状态设置为inactive;顶点D接收到顶点C上一个轮次发送的消息,由于当前顶点值为6,不小于接收到的消息6,因此不更新当前顶点值,并将顶点的状态设置为inactive;
  • 所有顶点的状态均为inactive,迭代停止,输出结果。

  以上就是图计算模型Pregel的全部内容,以后有时间还会再详细介绍其他几种常见的图计算模型,如GAS。具体实现可以参见Flink Gelly提供的迭代计算模式。

2.3 Pregel框架的缺点

  Pregel模型虽然简单,那就是对于邻居数很多的顶点,它需要处理的消息非常庞大,所以对于符合幂律分布的自然图,对于那些关联关系非常多的顶点,这种模型在计算的时候很容易崩溃。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 143,201评论 1 300
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 61,387评论 1 257
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 94,683评论 0 213
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 41,080评论 0 179
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 48,865评论 1 255
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 38,810评论 1 177
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 30,440评论 2 271
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 29,200评论 0 167
  • 想象着我的养父在大火中拼命挣扎,窒息,最后皮肤化为焦炭。我心中就已经是抑制不住地欢快,这就叫做以其人之道,还治其人...
    爱写小说的胖达阅读 29,019评论 6 231
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 32,540评论 0 213
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 29,337评论 2 215
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 30,658评论 1 231
  • 白月光回国,霸总把我这个替身辞退。还一脸阴沉的警告我。[不要出现在思思面前, 不然我有一百种方法让你生不如死。]我...
    爱写小说的胖达阅读 24,255评论 0 32
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 27,145评论 2 214
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 31,535评论 3 206
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 25,626评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,028评论 0 166
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 33,555评论 2 230
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 33,652评论 2 231

推荐阅读更多精彩内容