從一個(gè)簡(jiǎn)單的ping延遲出發(fā)了解CPU電源管理

性能優(yōu)化大師Brendan Gregg曾說：“性能問題可能來源于任何地方，包括系統(tǒng)中因你一無所知而不曾檢查的地方”，CPU電源管理就是在性能優(yōu)化過程中經(jīng)常被忽略的地方。在這篇文章中，我們從一個(gè)簡(jiǎn)單的ping延遲出發(fā)，以小見大，一起了解CPU電源管理。

之前在項(xiàng)目中觀測(cè)到一個(gè)奇怪的現(xiàn)象（如下圖所示），在測(cè)試網(wǎng)絡(luò)延遲時(shí)，從服務(wù)器A ping服務(wù)器B延時(shí)只有0.04ms左右，但是從服務(wù)器B ping服務(wù)器A延遲確有0.12ms左右，結(jié)果相差三倍多！而兩臺(tái)服務(wù)器是直連的，中間也沒有經(jīng)過路由器或交換機(jī)，那么延時(shí)差到底是怎么產(chǎn)生的呢？

在分析此問題時(shí)，我們將ping時(shí)延做一個(gè)簡(jiǎn)單的拆分，它包括了在鏈路中的傳播時(shí)延和在服務(wù)器端的處理時(shí)延。我們首先判斷下網(wǎng)絡(luò)狀況是否良好，用tcpdump分別在收發(fā)兩端抓包，沒有發(fā)現(xiàn)丟包、亂序等問題，速率也沒有問題，網(wǎng)絡(luò)狀態(tài)良好。既然網(wǎng)絡(luò)傳輸沒有問題，那就重點(diǎn)分析下處理時(shí)延。

再來分析下抓到的ping報(bào)文，主要分析在兩臺(tái)服務(wù)器收到ICMP報(bào)文后發(fā)送回復(fù)報(bào)文的時(shí)間差，發(fā)現(xiàn)服務(wù)器A的回復(fù)時(shí)間更長。再使用ftrace分析代碼層的執(zhí)行時(shí)間，圖1是服務(wù)器A的處理時(shí)間，圖2是服務(wù)器B的處理時(shí)間，對(duì)比可見，服務(wù)器A的ICMP reply執(zhí)行時(shí)間比服務(wù)器B要長。那什么會(huì)影響函數(shù)執(zhí)行的時(shí)間呢？是CPU。

圖1

圖2

在觀察服務(wù)器B ping服務(wù)器A的輸出（圖3）時(shí)發(fā)現(xiàn)，延時(shí)的變化范圍很大，有時(shí)延時(shí)也很短。

圖3

如圖4所示，CPU的頻率也是變化的，那么CPU頻率是怎么變的又是因何而變，跟延遲的變化有關(guān)系嗎？我們能否控制CPU頻率的這種變化呢？要了解這些我們首先要知道CPU的變頻和電源管理方面的知識(shí)。

圖4

CPU的變頻和電源管理

OS會(huì)根據(jù)工作負(fù)載選擇工作頻率和電壓，當(dāng)負(fù)載較低時(shí)（例如此問題的ping報(bào)文收發(fā)），會(huì)對(duì)CPU進(jìn)行降壓降頻以節(jié)省用電。在大部分場(chǎng)景下，CPU并不需要7X24小時(shí)滿負(fù)荷工作，為了省電和延長CPU的使用壽命就有了各種變頻省電技術(shù)。其中常見的有以下幾種：

■C states (Power states)

1. 在空閑狀態(tài)時(shí)，通過關(guān)閉不同子系統(tǒng)（時(shí)鐘或者緩存等）達(dá)到不同省電狀態(tài)。 關(guān)閉的組件越多，耗電量越低，但恢復(fù)工作就越慢。

2. 常用的有以下幾個(gè)狀態(tài)

   C0: 工作狀態(tài)，沒有組件關(guān)閉。

   C1: 使用HLT或MWAIT指令進(jìn)入該狀態(tài)，C1狀態(tài)會(huì)關(guān)閉內(nèi)部時(shí)鐘，但是可以立刻回到C0狀態(tài)。

   C3: 使用MWAIT指令進(jìn)入該狀態(tài)，會(huì)將L1和L2緩存刷到LLC/L3緩存，并進(jìn)一步關(guān)閉了PLL，但仍處于供電狀態(tài)。（C1，C3狀態(tài)下，Cache一致性是得到保證的，從而恢復(fù)現(xiàn)場(chǎng)速度也很快）

   C6: 使用MWAIT指令進(jìn)入該狀態(tài)，內(nèi)部設(shè)備的上下文信息（Context）被封存和凍結(jié)，Catch被清空和關(guān)閉，電壓也被降為0。恢復(fù)現(xiàn)場(chǎng)會(huì)更耗時(shí)。

   （idle_intel 驅(qū)動(dòng)可能在Cstates關(guān)閉時(shí)，仍使core進(jìn)入省電狀態(tài)。）

圖5

**■P states (Performance states) **

1. 根據(jù)處理器負(fù)載自動(dòng)調(diào)節(jié)電壓和頻率，以減少耗電量和發(fā)熱量，大大減少了CPU在低工作量的能耗。（只有在C-states狀態(tài)為C0時(shí)才會(huì)有效，因?yàn)楸仨殲槠涔╇姴拍軋?zhí)行指令）

• OS控制的P-states

  OS設(shè)定特定的P-states，即選擇工作頻率，處理器再根據(jù)頻率計(jì)算電壓。

• 硬件控制的P-states

  OS只給出負(fù)載，由硬件選擇對(duì)應(yīng)的P-states，并設(shè)置電壓和頻率。

• Intel_pstate驅(qū)動(dòng)

  此驅(qū)動(dòng)程序通過內(nèi)置調(diào)頻器，實(shí)現(xiàn)面向Intel Core（SandyBridge 和更新的型號(hào)）處理器的調(diào)頻驅(qū)動(dòng)?？梢酝ㄟ^cpupower命令設(shè)置最大最小頻率。

■monitor/mwait

1. 在core空閑或者等待寫入時(shí)，使當(dāng)前core進(jìn)入C1等C-states的特殊指令。

■Turbo

1. 在個(gè)別核非常繁忙同時(shí)其他核又因?yàn)榭臻e進(jìn)入C-States時(shí)，內(nèi)置的電源管理模塊將其電能輸送給忙碌的core，升高其電壓和頻率，使其獲得比標(biāo)頻更高的頻率。

BIOS選項(xiàng)

• 以DELL服務(wù)器為例，在System Profile Setting中可以找到有關(guān)電源管理的選項(xiàng)。disable C-States、Monitor/Wait相關(guān)選項(xiàng)，可以使CPU始終保持高頻率工作。

圖6

使用工具查看CPU運(yùn)行等級(jí)

■corefreq-cli工具

1. 可以查看各種系統(tǒng)狀態(tài)和CPU狀態(tài)，包括電壓，頻率，C-states，Turbo，溫度等。

圖7

問題解決

再回到剛開始的問題，通過corefreq-cli工具看到兩臺(tái)服務(wù)器的CPU確實(shí)工作在不同的C-States等級(jí)，如圖8所示，服務(wù)器B在C1而服務(wù)器A在C6。

圖8

調(diào)整服務(wù)器A的bios選項(xiàng)，在關(guān)閉了C-States、Monitor/Mwait后，兩臺(tái)服務(wù)的CPU都處在C1狀態(tài)（圖9），這時(shí)再分別在兩臺(tái)服務(wù)器執(zhí)行ping操作，延時(shí)終于不相上下了！

圖9

總結(jié)

現(xiàn)代CPU電源管理功能十分強(qiáng)大，我們可以選擇經(jīng)濟(jì)環(huán)保的方式讓CPU根據(jù)負(fù)載選擇工作頻率和電壓，在追求極致性能時(shí)也可以讓CPU不管任務(wù)量大小都滿負(fù)荷工作，在了解以上內(nèi)容后，我們可以根據(jù)實(shí)際使用需求進(jìn)行選擇。