tomcat性能优化

Tomcat性能指标:吞吐量、响应时间、错误数、线程池、CPU 、内存等。
使用jmeter进行压测,然后观察相关指标

使用命令查看相关指标
01 查看tomcat进程pid
ps -ef | grep tomcat

02 查看进程的信息
cat /pro/pid/status

03 查看进程的cpu和内存
top -p pid

使用工具查看相关指标
jconsole、jvisualvm、arthas、psi-probe等

优化思路

conf/server.xml核心组件

  • Server
    官网描述 :Server interface which is rarely customized by users. 【pass】
  • Service
    官网描述 :The Service element is rarely customized by users. 【pass】
  • Connector
    官网描述 :Creating a customized connector is a significant effort. 【 need 】
  • Engine
    官网描述 :The Engine interface may be implemented to supply custom Engines, though this is uncommon.【pass】
  • Host
    官网描述 :Users rarely create custom Hosts because the StandardHost implementation provides significant additional functionality. 【pass】
  • Context
    官网描述 :The Context interface may be implemented to create custom Contexts, but this is rarely the case because the StandardContext provides significant additional functionality. 【 maybe 】 Context既然代表的是web应用,是和我们比较接近的,这块我们考虑对其适当的优化

conclusion:Connector and Context

conf/server.xml非核心组件

官网 :https://tomcat.apache.org/tomcat-8.0-doc/config/index.html

  • Listener
    Listener(即监听器)定义的组件,可以在特定事件发生时执行特定的操作;被监听的事件通常是Tomcat的启动和停止。
<Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="on" /> <!--监听内存溢出--> 
<Listener className="org.apache.catalina.core.JreMemoryLeakPreventionListener" /> 
<Listener className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" /> 
<Listener className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />
  • Global Resources
    GlobalNamingResources元素定义了全局资源,通过配置可以看出,该配置是通过读取$TOMCAT_HOME/ conf/tomcat-users.xml实现的。
    The GlobalNamingResources element defines the global JNDI resources for the [Server] (https://tomcat.apache.org/tomcat-8.0-doc/config/server.html)
<GlobalNamingResources>
 <Resource name="UserDatabase" auth="Container" 
type="org.apache.catalina.UserDatabase" 
description="User database that can be updated and saved" 
factory="org.apache.catalina.users.MemoryUserDatabaseFactory" pathname="conf/tomcat-users.xml" />
 </GlobalNamingResources>
  • Valve
<Valve className="org.apache.catalina.valves.AccessLogValve"
 directory="logs"
 prefix="localhost_access_log" suffix=".txt" 
pattern="%h %l %u %t &quot;%r&quot; %s %b" />
  • Realm
    Realm,可以把它理解成“域”;Realm提供了一种用户密码与web应用的映射关系,从而达到角色安全管理的作用。在本例 中,Realm的配置使用name为UserDatabase的资源实现。而该资源在Server元素中使用GlobalNamingResources配置
    A Realm element represents a "database" of usernames, passwords, and roles (similar to Unix groups) assigned to those users.
<Realm className="org.apache.catalina.realm.LockOutRealm"> 
<!-- This Realm uses the UserDatabase configured in the global JNDI resources under the key "UserDatabase". Any edits that are performed against this UserDatabase are immediately available for use by the Realm. --> 
<Realm className="org.apache.catalina.realm.UserDatabaseRealm" resourceName="UserDatabase"/>
 </Realm>

conf/web.xml

全局的web.xml文件有些标签用不到的,可以删除掉。

JVM层面

因为Tomcat运行起来本身就是一个Java进程,所以这块可以参照JVM部分的优化思路。

配置优化

减少web.xml/server.xml中标签

最终观察tomcat启动日志[时间/内容],线程开销,内存大小,GC等

  • DefaultServlet
    官网 :User Guide->Default Servlet
    The default servlet is the servlet which serves static resources as well as serves the directory listings (if directory listings are enabled).
<servlet>
  <servlet-name>default</servlet-name> 
  <servlet-class>org.apache.catalina.servlets.DefaultServlet</servlet-class>
   <init-param> 
    <param-name>debug</param-name> 
    <param-value>0</param-value>
   </init-param>

   <init-param> 
    <param-name>listings</param-name>
     <param-value>false</param-value> 
  </init-param> 

  <load-on-startup>1</load-on-startup> 
</servlet> 

<servlet-mapping>
   <servlet-name>default</servlet-name> 
  <url-pattern>/</url-pattern>
 </servlet-mapping>
  • JspServlet
<servlet> 
    <servlet-name>jsp</servlet-name>
   <servlet-class>org.apache.jasper.servlet.JspServlet</servlet-class> 
  
  <init-param>
     <param-name>fork</param-name> 
    <param-value>false</param-value>
     </init-param> 

    <init-param> 
      <param-name>xpoweredBy</param-name>
      <param-value>false</param-value> 
    </init-param> 

    <load-on-startup>3</load-on-startup> 
</servlet>
<servlet-mapping>
     <servlet-name>jsp</servlet-name> 
     <url-pattern>*.jsp</url-pattern>
     <url-pattern>*.jspx</url-pattern>
</servlet-mapping>
  • welcome-list-file
<welcome-file-list> 
    <welcome-file>index.html</welcome-file>
     <welcome-file>index.htm</welcome-file> 
    <welcome-file>index.jsp</welcome-file>
</welcome-file-list>
  • mime-mapping移除响应的内容
    支持的下载打开类型
<mime-mapping> 
    <extension>123</extension>
     <mime-type>application/vnd.lotus-1-2-3</mime-type>
     </mime-mapping> <mime-mapping> 
    <extension>3dml</extension> 
    <mime-type>text/vnd.in3d.3dml</mime-type>
</mime-mapping>
  • session-config
    默认jsp页面有session,就是在于这个配置
<session-config>
     <session-timeout>30</session-timeout>
</session-config>

调整优化server.xml中标签

1.Connector标签

  • protocol属性
<Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />

对于protocol="HTTP/1.1",查看源码
构造函数

public Connector(String protocol) { setProtocol(protocol); }

setProtocol(protocol)因为配置文件中传入的是HTTP/1.1 并且这里没有使用APR

    else  {
        if ("HTTP/1.1".equals(protocol)) {
            setProtocolHandlerClassName("org.apache.coyote.http11.Http11NioProtocol");
        } else if ("AJP/1.3".equals(protocol)) {
            setProtocolHandlerClassName("org.apache.coyote.ajp.AjpNioProtocol");
        } else if (protocol != null) {
            setProtocolHandlerClassName(protocol);
        }
    }

发现这里调用的是Http11NioProtocol,也就是说明tomcat8.0.x中默认使用的是NIO使用同样的方式看tomcat7和tomcat8.5,你会发现tomcat7默认使用的是BIO,tomcat8.5默认使用的是NIO

针对BIO和NIO的方式进行压测
(1)BIO
来到tomcat官网Configuration/HTTP/protocol

org.apache.coyote.http11.Http11Protocol - blocking Java connector 
org.apache.coyote.http11.Http11NioProtocol - non blocking Java NIO connector 
org.apache.coyote.http11.Http11Nio2Protocol - non blocking Java NIO2 connector 
org.apache.coyote.http11.Http11AprProtocol - the APR/native connector.

(2)NIO
tomcat8.0中默认使用的是NIO
(3)APR
调用本地方法库进行IO操作

executor属性
最佳线程数公式 :((线程等待时间+线程cpu时间)/线程cpu时间) * cpu数量
默认的可以查看StandardExecutor类
设置一些属性
官网:https://tomcat.apache.org/tomcat-8.0-doc/config/http.html
(1)acceptCount:达到最大连接数之后,等待队列中还能放多少连接,超过即拒绝,配置太大也没有意义
(2)maxConnections
达到这个值之后,将继续接受连接,但是不处理,能继续接受多少根据acceptCount的值
BIO:maxThreads
NIO/NIO2:10000 ——— AbstractEndpoint.maxConnections
APR:8192
(3)maxThreads:最大工作线程数,也就是用来处理request请求的,默认是200,如果自己配了executor,并且和Connector有关联了,则之前默认的200就会被忽略,取决于CPU的配置。监控中就可以看到所有的工作线程是什么状态,通过监控就能知道开启多少个线程合适
(4)minSpareThreads
最小空闲线程数
可以实践一下,Connector配合自定义的线程池

<Connector executor="tomcatThreadPool" port="8080" 
protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />
<Executor name="tomcatThreadPool" namePrefix="catalina-exec-" 
maxThreads="150" minSpareThreads="4"/>

其实这块最好的方式是结合BIO来看,因为BIO是一个request对应一个线程
值太低,并发请求多了之后,多余的则进入等待状态。 值太高,启动Tomcat将花费更多的时间。 比如可以改成250。

  • enableLookups
    设置为false
  • 删掉AJP的Connector

2.Host标签

autoDeploy :Tomcat运行时,要用一个线程拿出来进行检查,生产环境之下一定要改成false

3.Context标签

reloadable:false

reloadable:如果这个属性设为true,tomcat服务器在运行状态下会监视在WEB-INF/classes和WEB-INF/lib目录下 class文件的改动,如果监测到有class文件被更新的,服务器会自动重新加载Web应用。 在开发阶段将reloadable属性设为true,有助于调试servlet和其它的class文件,但这样用加重服务器运行负荷,建议 在Web应用的发存阶段将reloadable设为false。

启动速度优化

  • 删除没用的web应用
    因为tomcat启动每次都会部署这些应用
  • 关闭WebSocket
    websocket-api.jar和tomcat-websocket.jar
  • 随机数优化
    设置JVM参数:-Djava.security.egd=file:/dev/./urandom
  • 多个线程启动Web应用
<Host startStopThreads="0"> </Host>

其他方面的优化

  • Connector
    配置压缩属性compression="500",文件大于500bytes才会压缩
  • 数据库优化
    减少对数据库访问等待的时间,可以从数据库的层面进行优化,或者加缓存等等各种方案。
  • 开启浏览器缓存,nginx静态资源部署

常见问题排查

  • CPU使用率过高
    可能原因
    GC频繁或者创建了很多业务线程
    排查
    哪些线程比较消耗CPU,或者多线程上下文频繁切换
    解决思路
    top -H -p pid 查看某个Java进程各个线程使用CPU的情况,找到哪个线程占用CPU比较高
    jstack pid 打印出线程信息,定位到上述的线程名称

  • 拒绝连接
    java.net.BindException: Address already in use: JVM_Bind
    端口被占用,可以使用netstat -an 查看端口占用情况,关闭对应的进程或者tomcat换端口
    java.net.ConnectException: Connection refused: connect
    ping一下服务端的IP,可能服务端机器有问题
    java.net.SocketException: Too many open files
    可能在高并发的情况下,创建的Socket过多,文件句柄不够用了,可以关闭无用的句柄,如果都有用,可以增加文件句柄数:ulimit -n 10000

    ——学自咕泡学院

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 157,298评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 66,701评论 1 290
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 107,078评论 0 237
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,687评论 0 202
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,018评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,410评论 1 211
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,729评论 2 310
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,412评论 0 194
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,124评论 1 239
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,379评论 2 242
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,903评论 1 257
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,268评论 2 251
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,894评论 3 233
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,014评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,770评论 0 192
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,435评论 2 269
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,312评论 2 260

推荐阅读更多精彩内容