框架组件,究竟要不要自研?

转 58沈剑 架构师之路

一、问题的提出

询问框架组件,是否需要自研?

18年规划系统介绍58到家的技术体系,15年加盟58到家后,架构部正好也是负责范围的一部分,故谈一谈自己的想法,个人观点:

如果公司业务不复杂,研发人数比较少,技术实力相对有限,一定不要自研框架组件

如果公司业务复杂,研发人数比较多,技术能力能够胜任,建议自研部分框架组件


二、为什么早期不建议自研?

早期研发人数较少,公司也不确定能走多远,业务相对简单,业务以“快速迭代”为最高优先级,此时一般会选择“自己熟悉的技术”作为选型:

研发语言:熟PHP选PHP,熟Java选Java

数据库:熟MySQL选MySQL,熟SQL-server选SQL-server

框架组件:熟Ruby on Rails选ROR,熟ThinkPHP选ThinkPHP,熟SSH选SSH

此时千万不要纠结选型,选自己熟悉的,业务以快速迭代为最优先,公司得先生存下来。


多说一句,此时对于技术合伙人的技术视野就有一定要求,如果早期方向不对,例如选择了IOE或者微软技术体系,等公司发展若干年,数据量并发量上涨很多倍,成本以及未来的技术应对恐怕会有麻烦。


58同城早期选型是微软技术体系,后来数据量增大,并发量增大,机器数据库越来越多,性能扛不住,成本也扛不住(你猜一个SQL-server的licence一年多少钱?),后来老崔带领大家转型开源阵营:

Windows -> Linux

SQL-server -> MySQL

C# -> Java

虽然短痛了1-2年,但长远来说,绝对是正确的决策。


如今,如果你再创业,选云,选LAMP或者SSH,八成不会走太大的弯路。


三、随着规模的扩大,为什么要控制技术栈?

随着业务越来越复杂,研发人数越来越多,如果每个leader都选择自己擅长的框架,就会出现这样的情况:

站点框架,team A用着SSH,team B用着Spring+SpringMVC+Mybatis

服务框架,team C用着REST,team D用着dubbo,team E用着thrift

数据库访问,team X用着mybatis,team Y用着DAO,team Z用着jdbc


对于整体而言,跨部门的调用越来越麻烦,重复造的轮子越来越多,技术效率会逐步降低,研发+测试+运维成本都越来越高。


第一个观点:即使不自研,技术栈也请尽量统一。


四、统一了技术栈,为什么建议浅浅的封装一层?

统一了技术栈以后,如果不封装,redis官方Java客户端Jedis可能有这样一些接口:

String Memcache::get(String key)

String Memcache::set(String key, Stringvalue)

String Memcache::del(String key)


浅浅的封装一层,会变成这样:

String 58DaojiaKV::get(String key) {

         String result = Memcache::get(key);

         return result;

}

String 58DaojiaKV::set(String key, Stringvalue) {

         String result = Memcache::set(key, value);

         return result;

}

String 58DaojiaKV::del(String key) {

         String result = Memcache::del(key);

         return result;

}


这有什么好处呢?

对上游屏蔽底层实现的细节,调用方不用关注缓存是memcache还是redis,调用方只关注58DaojiaKV

底层变化的时候,对上游透明,当memcache不能满足需求,要切换为redis时,所有调用方不需要大的变化,升级一个最新的58DaojiaKV即可,58DaojiaKV的接口不变,实现变为:

String 58DaojiaKV::get(String key) {

         String result = Jedis::get(key);

         return result;

}

String 58DaojiaKV::set(String key, Stringvalue) {

         String result = Jedis::set(key, value);

         return result;

}

String 58DaojiaKV::del(String key) {

         String result = Jedis::del(key);

         return result;

}

统一实现一些通用的功能,就不需要每一个上游升级了,例如,要实现一个缓存访问时间统计的功能,所有调用方不需要大的变化,升级一个最新的58DaojiaKV即可:

String 58DaojiaKV::get(String key) {

         Long startTime = now();

         String result = Jedis::get(key);

         Long endTime = now();

         reportKVTime(startTime- endTime);

         return result;

}

String 58DaojiaKV::set(String key, Stringvalue) {

         Long startTime = now();

         String result = Jedis::set(key, value);

         Long endTime = now();

         reportKVTime(startTime- endTime);

         return result;

}

String 58DaojiaKV::del(String key) {

         Long startTime = now();

         String result = Jedis::del(key);

         Long endTime = now();

         reportKVTime(startTime- endTime);

         return result;

}

同理,如果要实现统一的告警,调用链跟踪,SQL执行时间,也可以用类似的方法。


第二个观点:第三方库,不但要统一,还可以浅浅的封装一层,预留未来的扩展性。


五、随着规模的进一步扩大,为什么需要适当的造一些轮子?

业务进一步发展,研发团队进一步扩张,虽然使用了统一的技术栈,但不同研发团队的痛点是极其类似的:

有站点,监控服务的可用性,处理时间监控需求

有告警需求

有自动化发布,自动化运维需求

有服务治理,服务自动发现需求

有调用链跟踪需求

有SQL监控需求

有系统层面数据收集与可视化展现的需求


此时,开源的框架可能满足不了需求了:

开源框架/组件太重了,我们需要的可能只是一个轻量级的框架/组件

开源框架/组件,只能满足我们的一部分需求

不了解开源框架/组件的设计理念,要二次开发成本更高(维护dubboX的同学,维护数据库中间件Atlas的同学可以出来说两句)

有些通用的需求是和业务紧密结合的,开源框架/组件可能满足不了


此时,如果技术实力具备,可以统一研发一些框架和组件,解决所有技术团队的通用痛点,满足所有技术团队的通用需求。


未来介绍监控平台、服务治理、调用链跟踪系统、数据收集中心的时候,大家能够更深刻的理解到“造一些轮子”的好处。

第三个观点:适当造一些轮子。


六、58到家自研的框架组件有哪些?

通用框架+服务

WEB框架,Daojia-Web-Framework,DWF

Service框架,Daojia-Service-Framework,DSF

消息队列,Daojia-Msg-Queue,DMQ


基础组件

缓存访问组件DMemcache,DJedis

数据库访问组件DAO

分库分表组件DShard


还有一些日志,消息的组件,这些组件的架构与细节,未来再和大家细聊。


七、总结

框架组件,是否需要自研?

初期建议:不自研,用熟悉的,业务快速迭代为优先,需要一定技术视野。

长远建议

统一技术栈

浅浅封装一层

适当造轮子

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,233评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,013评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,030评论 0 241
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,827评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,221评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,542评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,814评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,513评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,225评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,497评论 2 244
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,998评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,342评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,986评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,055评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,812评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,560评论 2 271
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,461评论 2 266

推荐阅读更多精彩内容

  • 1. Java基础部分 基础部分的顺序:基本语法,类相关的语法,内部类的语法,继承相关的语法,异常的语法,线程的语...
    子非鱼_t_阅读 31,293评论 18 399
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,099评论 18 139
  • 1 “还是会偶尔犯贱翻开她的朋友圈,看到她过得好,又会伤心得大哭。其实呢?不是因为她过得好恨她怨她才哭,而是因为她...
    窝书阅读 348评论 1 3
  • 今天略微低落,说点口水话,碎碎念 低落的由来 低落的原因也是没缘由了,大概觉得自己的工作没得到认可吧。 一直以来觉...
    Panda盼子阅读 202评论 1 0
  • 天下独我一个 我该怎么的活 每天看着太阳等着月亮 你说这是什么生活 要怎么活 一个单车 一段路程 一个人骑着单车走...
    书新一阅读 224评论 0 5