背景 Spark支持多种数据源，但是Spark对HBase 的读写都没有相对优雅的api，但spark和HBase整合的场景又比较多，故通过sp...
投稿
收录了30篇文章 · 236人关注
-
Spark整合HBase（自定义HBase DataSource）
-
Spark UnifiedMemoryManager之maybeGrowExecutionPool()分析
Note：本文要求读者对UnifiedMemoryManager的原理有基本的了解。希望读者能与作者一起探讨。 本文试图分析UnifiedMem...
-
[spark streaming] 状态管理 updateStateByKey&mapWithState
前言 SparkStreaming 7*24 小时不间断的运行，有时需要管理一些状态，比如wordCount，每个batch的数据不是独立的而是...
-
Spark编译(使用阿里云maven仓库)
我以近十天的编译Spark的痛苦经历，来分享一下如何在国内快速的完成Spark编译。 其实，唯一的任务就是将Spark中的默认maven中央仓库...
-
Spark Streaming一致性、容错机制分析
Spark Streaming容错机制保障 参考https://databricks.com/blog/2015/01/15/improved-...
-
1、Catalyst源码解读之SqlParser本篇文章基于Spark1.6.1源码解读Catalyst下的SqlParser spark sql中可以分三种sql语句第一种DDL语句，DDL...
-
Spark 2.0 Structured Streaming 分析前言 Spark 2.0 将流式计算也统一到DataFrame里去了，提出了Structured Streaming的概念，将数据源映射为一张无...
-
利用 Spark DataSource API 实现Rest数据源
Spark DataSource API 的提出使得各个数据源按规范实现适配，那么就可以高效的利用Spark 的计算能力。典型如Parquet,...
-
Spark Streaming 中使用c3p0连接池操作mysql数据库
在Spark Streaming的应用程序中，有时候需要将计算结果保存到数据库中，为了高效这里使用批量插入，结合c3po连接池，说明一下使用方法...
-
Spark Streaming源码解析
目录### Spark Streaming 透彻理解之一 通过案例对SparkStreaming透彻理解之 spark streaming运行机...
专题公告
深入解析Spark Core、Spark Streaming源码，彻底精通Spark
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/256978/spark-logo-trademark.png', '推荐专题《Spark源码解析》（ 分享自 @简书 ）','https://www.jianshu.com/c/549f76a0f3b1?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','页面编码gb2312|utf-8默认gb2312'));){kind=link}