如何利用链路追踪快速定位问题

“中浩,xxx接口报错了你看一下咋回事”

“稍等一下哈,我看一下。Xxx组的xxx接口报错了,我们这边直接抛错了”

“具体啥问题啊,你看下日志,我去找xxx组的人问一下,现在阻塞流程了啊”

“呃。。。对这个接口的请求日志好难找啊,这个接口请求很频繁,不知道报错的是哪一条。。”

“中浩,xxx接口太慢了,你看下是什么原因导致的”

“这个接口我们掉了很多外部接口啊,不知道具体是哪个接口太慢了”

不知道身在项目的小伙伴对上面这样的对话熟不熟悉。在项目初期,每次收到QA这样的询问,作为开发的我都觉得很头大。(因为有些日志我是真的找不到)基于业务的复杂,项目中接入了大量的外部接口。服务与服务链路之间的调用关系也变得错综复杂。此时,在我们遇上问题排查的时候,追溯到了某个接口之后线索就断了,非常难再往下定位问题。

此时我们自然而然地就会想:难道就没有一种方法能够把请求的整个调用链路记录下来,并通过某个唯一id标记,同时对每个节点都进行记录嘛?这样我们就能通过标记在请求链路上的这个唯一id来快速定位问题,从而大量节省我们排查问题和统计分析的时间。其实上述的只是我们在微服务中最常遇上的两个问题。随着微服务应用数量的极速增加,服务与服务链路之间的调用关系也变得错综复杂。此时,我们也会碰到其他各种难题。

  • 系统出现问题后,由于服务链路过长或过于复杂,无法快速准确定位问题。客户端(如浏览器)或者移动端应用报出异常或者错误,也无法确定是哪个服务抛出的异常。
  • 某个业务请求非常慢,且总是超时,无法确定系统哪个环节存在性能的问题。
  • 修改成:如何快速发现问题并可以通过调用链结合业务日志快速定位错误信息?
  • 如何判断故障影响范围,并将各个阶段链路耗时、服务依赖关系可以通过可视化界面展现出来,从而直观地审视故障的影响范围?
  • 如何梳理服务依赖以及依赖的合理性?如何分析链路性能问题以及实时容量规划?通过分析链路耗时、服务间的依赖关系,就可以得到用户的行为路径,汇总分析出具体出问题的场景。

这个时候,链路追踪能够帮助我们解决这些实际问题。

图片来源:《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》 -- Google Technical Report dapper-2010-1, April 2010

假设现在有一个如上图所示的请求,我们应该怎样对这个请求进行记录呢?

链路追踪的重要概念:

现在市面上绝大部分的链路追踪系统都是以谷歌公开论文中提到的Dapper为基础构建而成,所以我们先来一起看看调用链监控中的几个重要概念。

Trace

在之前的描述中我们已经想到,能不能通过一个唯一id来标记我们的请求,从而将整个请求从头到尾串联起来。在链路追踪中,trace是请求在分布式系统中的整个链路视图。我们可以把trace看作一棵二叉树,从中我们能直观地看到请求经过所有服务的路径。从请求到服务器开始,到服务器返回响应数据结束,跟踪每次RPC调用的耗时,并使用唯一标识trace id。在整个请求的调用链中,请求会一直携带 trace id 往下游服务传递,且在整个调用链中始终保持不变,所以在日志中可以通过 trace id 查询到整个请求期间系统记录下来的所有日志。

Span

在建立了一个完整的标识之后,我们还希望对每个节点都进行记录。不然我们只知道一个请求调用了那些服务,但是却不清楚各个服务之间的上下游以及调用关系。span 是代表整个链路中不同服务内部的视图。如果我们将trace看作 一棵树的话,那么span就是这棵树上的不同节点。

每个 span 都记录着 parent id 和 trace id,表明其所属父节点和调用链,其中没有 parent id 的 span 称为 root span,root span 的 id 就是 trace id。请求到达每个服务后,服务都会为请求生成span id,而随请求一起从上游传过来的上游服务的 span id 会被记录成parent-span id。

当前服务生成的 span id 随着请求一起再传到下游服务时,这个span id 又会被下游服务当做 parent-span id记录。通过span的ID我们可以轻松了解服务的父服务是谁,再结合trace id就可以将一条完整的请求调用链串联起来。

图片来源:《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》 -- Google Technical Report dapper-2010-1, April 2010

针对以上请求,整个调用的链路就如图所示非常清晰了。

Annotation

在上述遇到的问题中,我们除了希望得到整个请求的链路。还希望能够对其中的某个服务进行调优。这个时候我们就需要对单个服务,或者说是span,记录更多的信息。这个时候就需要Annotation的概念了.

图片来源:《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》 -- Google Technical Report dapper-2010-1, April 2010

  • Client Start:表示客户端发起请求;
  • Server Received:表示服务端收到请求;
  • Server Send:表示服务端完成处理,并将结果发送给客户端;
  • Client Received:表示客户端获取到服务端返回的响应数据。

结合上图我们,我们可以利用Annotation里的信息来计算一次调用的耗时,只需将客户端结束的时间点减去客户端开始请求的时间点。如果要计算客户端发送网络耗时,即客户端接收请求的时间点减去客户端发送请求的时间点。

Zipkin实例

遵循以上三点链路追踪的核心思路,我们来看一看现在市面上主流的链路追踪款框架都是怎么实现的,这里我们以Zipkin为例。

可以看到,我们的请求到达服务器之后被拦截下来:

在这个filter中,框架首先会查询我们请求(request)是否存在链路信息。图中可以看到,我们的初次请求是没有trace的内容的:

同时由于是首次请求,所以请求中也不会有parent-span的信息。在图中也已看到,这个时候框架会给请求生成一个span信息和trace信息:

由于是初次请求,span id就作为链路的trace id:

最后框架将生成的span信息和trace信息,设置到我们请求的attribute当中并传递下去:

通过我们的代码,我们能够很清晰的看到zipkin是如何给我们的请求加上trace信息和span信息,并将其传递下去的。此时我们就能够通过trace中的trace id,快速地发现和定位问题。

小结

本文介绍链路追踪的关键概念和实现,让读者初步了解链路追踪的作用。实际上,链路追踪最大的价值在于“关联”。我们可以从数据层面关联应用日志(Logs)、关键事件(Events)、性能指标(Metrics)或诊断工具(Profiling),也可以从系统层面关联用户终端、网关、应用、中间件、容器与基础设施。通过链路追踪,我们可以构建一张轨迹拓扑大图。这张拓扑图覆盖的范围越广,链路追踪就能发挥的价值就越大。全链路追踪是覆盖全部关联 IT 系统的最佳实践方案,能够完整记录用户行为在系统间的调用路径与状态。


文/Thoughtworks 尹中浩
原文链接:如何使用链路追踪快速定位问题-Thoughtworks洞见

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,835评论 4 364
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,598评论 1 295
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,569评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,159评论 0 213
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,533评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,710评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,923评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,674评论 0 203
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,421评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,622评论 2 245
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,115评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,428评论 2 254
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,114评论 3 238
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,097评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,875评论 0 197
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,753评论 2 276
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,649评论 2 271

推荐阅读更多精彩内容