1）在你的代码中自己做统计，使用微秒级的计时骥和函数挪用计较器，每隔10秒把统计log到文件中。

在起头这篇文章之前，巨匠可以移步去看一下酷壳以前揭晓的《代码优化概要》，这篇文章根基上告诉你——要进行优化，先得找到机能瓶颈！ 可是在讲若何定位系统机能瓶劲之前，请让我讲一下系统机能的界说和测试，因为没有这两件事，后面的定位和优化无年夜谈起。

一、系统机能界说

让我们先来说说若何什么是系统机能。这个界说很是关头，如不美观我们不清嚣张什么是系统机能，那么我们将无法定位之。我见过良多伴侣会感受这很轻易，可是细心一问，其实他们并没有一个斗劲系统的体例，所以，在这里我想告诉巨匠若何系统地来定位机能。 总体来说，系统机能就是两个事：

1. Throughput ，吞吐量。也就是每秒钟可以措置的请求数，使命数。
2. Latency， 系统延迟。也就是系统在措置一个请求或一个使命时的延迟。

接下来，我们需要使用机能检测工具，也就是使用某个Profiler来差看一下我们轨范的运行机能。如：Java的JProfiler/TPTP/CodePro Profiler，GNU的gprof，IBM的PurifyPlus，Intel的VTune，AMD的CodeAnalyst，还有Linux下的OProfile/perf，后面两个可以让你对你的代码优化到CPU的微指令级别，如不美观你关心CPU的L1/L2的缓存调优，那么你需要考虑一下使用VTune。 使用这些Profiler工具，可以让你轨范中各个模块函数甚至指令的良多工具，如：运行的时刻 ，挪用的次数，CPU的操作率，等等。这些工具对我们来说很是有用。

一般来说，一个系统的机能受到这两个前提的约束，缺一不成。好比，我的系统可以极点住一百万的并发，可是系统的延迟是2分钟以上，那么，这个一百万的负载毫无意义。系统延迟很短，可是吞吐量很低，同样没有意义。所以，一个好的系统的机能测试必然受到这两个前提的同时浸染。 有经验的伴侣必然知道，这两个工具的一些关系：

• Throughput越年夜，Latency会越差。因为请求量过年夜，系统太忙碌，所以响应速度自然会低。
• Latency越好，能撑持的Throughput就会越高。因为Latency短声名措置速度快，于是就可以措置更多的请求。

我们重点不雅察看运行时刻最多，挪用次数最多的那些函数和指令。这里注重一下，对于挪用次数多可是时刻很短的函数，你可能只需要轻细优化一下，你的机能就上去了（好比：某函数一秒种被挪用100万次，你想想如不美观你让这个函数提高0.01毫秒的时刻 ，这会给你带来多年夜的机能）

经由上述的声名，我们知道要测试系统的机能，需要我们收集系统的Throughput和Latency这两个值。 

• 首先，需要界说Latency这个值，好比说，对于网站系统响应时刻必需是5秒以内（对于某些实时系统可能需要界说的更短，好比5ms以内，这个更按照分歧的营业来界说）

• 其次，开发机能测试工具，一个工具用来制造高强度的Throughput，另一个工具用来测量Latency。对于第一个工具，你可以参考一下"十个免费的Web压力测试工具"，关于若何测量Latency，你可以在代码中测量，可是这样会影响轨范的执行，而且只能测试到轨范内部的Latency，真正的Latency是整个系统都算上，搜罗操作系统和收集的延时，你可以使用Wireshark来抓收集包来测量。这两个工具具体怎么做，这个还请巨匠自己思虑去了。

• 最后，起头机能测试。你需要不竭地晋升测试的Throughput，然后不雅察看系统的负载情形，如不美观系统极点住，那就不雅察看Latency的值。这样，你就可以找到系统的最年夜负载，而且你可以知道系统的响应延时是若干好多。

再多说一些，

• 关于Latency，如不美观吞吐量很少，这个值估量会很是不变，当吞吐量越来越年夜时，系统的Latency会呈现很是强烈的股栗，所以，我们在测量Latency的时辰，我们需要注重到Latency的分布，也就是说，有百分之几的在我们许可典型围，有百分之几的超出了，有百分之几的完全不成接管。也许，平均下来的Latency达标了，可是其中仅有50%的达到了我们可接管典型围。那也没有意义。

• 关于机能测试，我们还需要界说一个时刻段。好比：在某个吞吐量上持续15分钟。因为当负载达到的时辰，系统会变得不不变，当过了一两分钟后，系统才会不变。此外，也有可能是，你的系统在这个负载下前几分钟还默示正常，然后就不不变了，甚至垮了。所以，需要这么一段时刻。这个值，我们叫做峰值极限。

• 机能测试还需要做Soak Test，也就是在某个吞吐量下，系统可以持续跑一周甚至更长。这个值，我们叫做系统的正常运行的负载极限。

二、系统机能测试

机能测试有良多很复要的工具，好比：burst test等。 这里不能一一胪陈，这里只说了一些和机能调优相关的工具。总之，机能测试是一细活和累活。

2）然后，我们可以看一下IO年夜不年夜，IO和CPU一般是反着来的，CPU操作率高则IO不年夜，IO年夜则CPU就小。关于IO，我们要看三个事，一个是磁盘文件IO，一个是驱动轨范的IO（如：网卡），一个是内存换页率。这三个事城市影响系统机能。

三、定位机能瓶颈

首先，当我们系统有问题的时辰，我们不要急于去发芽拜访我们代码，这个毫无意义。我们首要需要看的是操作系统的陈述。看看操作系统的CPU操作率，看看内存使用率，看看操作系统的IO，还有收集的IO，收集链接数，等等。Windows下的perfmon是一个很不错的工具，Linux下也有良多相关的呼吁和工具，好比：SystemTap，LatencyTOP，vmstat, sar, iostat, top, tcpdump等等 。经由过程不雅察看这些数据，我们就可以知道我们的软件的机能根基上出在哪里。好比：

1）先看CPU操作率，如不美观CPU操作率不高，可是系统的Throughput和Latency上不去了，这声名我们的轨范并没有忙于计较，而是忙于此外一些事，好比IO。（此外，CPU的操作率还要看内核态的和用户态的，内核态的一上去了，整个系统的机能就下来了。而对于多核CPU来说，CPU 0 是相当关头的，如不美观CPU 0的负载高，那么会影响其它核的机能，因为CPU各核间是需要有调剂的，这靠CPU0完成）

最后再说一点，对于机能测试，分歧的Throughput会呈现分歧的测试结不美观，分歧的测试数据也会有分歧的测试结不美观。所以，用于机能测试的数据很是主要，机能测试中，我们需要不美观测试分歧Throughput的结不美观。

有了膳缦沔的铺垫，我们就可以测试到到系统的机能了，再调优之前，我们先来说说若何找到机能的瓶颈。我见过良多伴侣会感受这很轻易，可是细心一问，其实他们并没有一个斗劲系统的体例。

3）然后，查看一下收集带宽使用情形，在Linux下，你可以使用iftop, iptraf, ntop, tcpdump这些呼吁来查看。或是用Wireshark来查看。

4）如不美观CPU不高，IO不高，内存使用不高，收集带宽使用不高。可是系统的机能上不去。这声名你的轨范有问题，好比，你的轨范被梗阻了。可能是因为等阿谁锁，可能是因为等某个资本，或者是在切换上下文。

经由过程体味操作系统的机能，我们才知道机能的问题，好比：带宽不够，内存不够，TCP缓冲区不够，等等，良多时辰，不需要调整轨范的，只需要调整一下硬件或操作系统的设置装备摆设就可以了。

3.2）使用Profiler测试

关于机能优化这是一个斗劲年夜的话题，在《由12306.cn谈谈网站机能手艺》中我年夜营业和设计上说过一些可用的手艺以及那些手艺的优错误谬误，今天，想年夜一些手艺细节上谈谈机能优化，主若是一些代码级此外手艺和体例。本文的工具是我的一些经验和常识，并不必然全对，但愿巨匠匡正和填补。

3.1）查看操作系统负载

使用Profiler有个问题我们需要注重一下，因为Profiler会让你的轨范运行的机能变低，像PurifyPlus这样的工具会在你的代码中插入良多代码，会导致你的轨范运行效率变低，年夜而没发测试出在高吞吐量下的系统的机能，对此，一般有两个体例来定位系统瓶颈：

2）分段注释你的代码块，让一些函数空转，做Hard Code的Mock，然后再测试一下系统的Throughput和Latency是否有质的转变，如不美观有，那么被注释的函数就是机能瓶颈，再在这个函数体内注释代码，直到找到最耗机能的语句。