240 发简信
IP属地:广东
  • windows环境下spark 源码搭建和调试

    在windows7环境下,对spark源码以maven为基础构建,并进行代码调试。本文记录环境搭建和调试过程和遇到问题。 当前github上Sp...

  • 可应用函子和可遍历函子

    本章将学习相关的抽象,可应用函子,虽然没有Monad强大,但是更普遍(因此通用)。在寻找可应用函子的过程中,也展示了如何发现这种抽象并利用这种方...

  • monad

    函子:对map函数的泛化在第一部分和第二部分实现了一些不同组合子库。这些组合子的相似性是值得注意的,比如为每个数据类型都实现了map函数,用于提...

  • Monoid

    什么是monoid一个monoid有如下构成1、一个类型A2、一个可结合的二元操作op,它接收两个参数然后返回相同类型的值,对于任何x: A,y...

  • 纯函数式的并行计算(2)

    打破法则:一个微妙的bug在上篇博文的实现中,实际上会有一个相当微妙的问题出现在大多数folk的实现上,当使用固定大小的线程池作为Executo...

  • 纯函数式的并行计算(1)

    选择数据类型和函数“创建并行计算”具体是指什么?我们可以从一个相对简单的例子入手——求一组整数的和。例如下面就是利用左折叠的方法计算求和: 除了...

  • yarn-cluster 模式下获取driver ip

    spark on yarn共有两种提交方式,1 是yarn-client,此时driver节点就是spark作业的提交节点2 是yarn-clu...

  • 纯函数式状态(2)

    更为通用的状态行为数据类型我们写过的函数——unit、map、map2、flatMap和sequence都不是专门为随机数使用的。它们都是处理状...

  • 纯函数式状态(1)

    想让状态更新恢复引用透明的关键是让状态更新是显示的。不要以副作用方式更新状态,而是连同生成值一起返回一个新的状态。纯函数式随机数生成器: 练习 ...

个人介绍
吐思圈
三人行,必有我师