Bazel Remote Cache 缓存问题

Bazel Remote Cache 缓存问题


简介

公司 iOS 项目使用 bazel 使用编译,同时 bazel 支持远程缓存。 使用远程缓存,可以加速编译速度,节省编译时间。

缓存服务器很简单,支持 GET、 PUT 操作,分别为获取和上传,官网有说明 Bazel Remote Cache

build --remote_cache=http://mycache.com

但是在 CI 服务器上,偶尔会出现连接出现异常问题,如连接重置、断开、超时、dns无法解析等。大概有5%的概率。分析 bazel 源码,发现 bazel 底层使用 netty 进行http通信。远程服务器日志也没有发现问题。
和常规解决思路不一样,bazel 运行的时候无法进行抓包,因为是概率性的,并且 CI 机器有多台,无法统一进行排查。

解决

从错误信息来看,可能是因为 CPU 使用率过高,导致影响网络请求,出现连接超时、断开、重置、dns无法解析等。

调优连接

# 降低连接数,默认为100
--remote_max_connections=10 

# 增加超时时长,默认为60s
--remote_timeout=100s

调优CPU

参数文档

# 降低CPU与线程数
--loading_phase_threads=HOST_CPUS*.9

使用本地缓存降低请求量

bazel 自己是支持本地缓存的,并且同时支持本地和远程。但是不够智能,不能及时清理老的缓存文件,同时本地和远程是串行的。如上传,先写本地,再上传。还是无法降低网络请求的数量。

可参考官方源码 DiskAndRemoteCacheClient.java

结合微服务中的 SideCar 和 cdn 思路,可以在本地启动一个缓存服务。

上传的时候,直接先把缓存放在磁盘中,同时再异步上传到远程,同时控制异步上传的数据量,类似有个MQ进行异步处理,进行消峰操作。

下载的时候,如果本地有缓存,则直接返回。如果没有则先下载,再进行返回。控制下载线程数,合理规避超时与异常情况。
同时 bazel 有同一个时刻多次请求相同的缓存资源的情况,使用本地缓存,可以避免这样的问题。

build --remote_cache=http://127.0.0.1:8080/

总结

通过以上三种方式,暂时有效的解决编译时候出现 netty 异常问题。

第三种方式,使用本地缓存进行代理中间也是踩过许多坑。

第一次使用Spring Boot 启动一个服务,然后再使用 okhttp 进行远程服务的下载与上传,确实可以降低异常出现的概率,但是不够完美。

第二次换成了Spring Cloud Gateway,想采用nginx的那种方式,不过因为 Gateway 使用的是完全异步的方式,进行缓存本地化的时候有点吃力,可能是自己学艺不精。

第三次又回退到第一次的方式,并进行了一些列的优化,但是还是有小范围的概率。因为 Spring Boot 是基于 java 的,整个服务自己消耗有点高。

第四次,参照第三次的逻辑,使用go语言重新写了一遍,本地缓存服务自己消耗的资源确实有很大程度降低,JAVA 版本最高的时候,自己需要占2G内存,使用go版本最高时候只要100M,差距很明显。

第五次,按理说第四次方案已经很完美,但是还是有小概率的出现,通过查找资料。bazel 自己是支持代理的,但是不是普通的http与socks5 代理,是 unix domain socket。
结合第四种,把go的http版本改成 go的 unix domain socket的即可,修改成本比较低。已上线使用,目前效果良好

Bazel Remote Proxy

# 走自己的代理,代理会进行磁盘缓存。
build --remote_proxy=unix:/tmp/bazel-car-go-unix.socket

以上就是自己排查 bazel 打包问题的历程。经历3个月,收获颇多,尤其是go语言在网络方面的使用,设计真的是太好了。

相关资料

Bazel

Bazel Remote Cache

Bazel Remote Proxy

Bazel Github

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 160,026评论 4 364
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,655评论 1 296
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,726评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,204评论 0 213
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,558评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,731评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,944评论 2 314
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,698评论 0 203
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,438评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,633评论 2 247
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,125评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,444评论 3 255
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,137评论 3 238
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,103评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,888评论 0 197
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,772评论 2 276
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,669评论 2 271

推荐阅读更多精彩内容