聊聊在手機(jī)上開啟快速swap的可能性

導(dǎo)語

在使用移動設(shè)備時，用戶同時打開多個app是很常見的。而這很容易造成移動設(shè)備的內(nèi)存緊缺。在現(xiàn)有的方法中，無論是殺死進(jìn)程（lmkd）來釋放內(nèi)存還是基于壓縮算法的in-memory swap方式，都面臨用戶切換回被殺死的進(jìn)程過程效率低下問題，這會影響用戶體驗(yàn)。

ASAP是一種全新的swap機(jī)制，基于預(yù)取策略很好地改進(jìn)了用戶體驗(yàn)。其來自韓國首爾大學(xué)/谷歌等合作，發(fā)表于ATC 21。接下來本文將分成背景和動機(jī)、設(shè)計(jì)和實(shí)現(xiàn)和測試結(jié)果評估三個部分分別介紹ASAP誕生的背景、具體設(shè)計(jì)和效能。

背景和動機(jī)

安卓操作系統(tǒng)的內(nèi)存管理機(jī)制

在安卓操作系統(tǒng)中，用戶正在使用的app被認(rèn)為是在前臺（foreground），而其他啟動過但是當(dāng)前沒有被使用的app則是在后臺的。

內(nèi)存緊缺時，Android有個守護(hù)進(jìn)程lmkd，負(fù)責(zé)殺死最不重要的進(jìn)程（比如某個后臺進(jìn)程），而該進(jìn)程的數(shù)據(jù)自然就被釋放了。內(nèi)存中有個數(shù)據(jù)集存儲被移入后臺的進(jìn)程的狀態(tài)，用戶切換回被lmkd殺死的進(jìn)程時，根據(jù)這個數(shù)據(jù)集恢復(fù)進(jìn)程數(shù)據(jù)。除此之外還有另一種方式即使用基于壓縮算法的in-memory swap（ZRAM），下圖為安卓操作系統(tǒng)in-memory swap機(jī)制示意圖，其特點(diǎn)是需要壓縮和解壓縮匿名頁，比通過I/O將匿名頁寫入磁盤更快，但是壓縮的頁依然占用內(nèi)存空間且壓縮解壓縮占用CPU時鐘周期。通常來說，lmkd會比這個機(jī)制先執(zhí)行。

安卓操作系統(tǒng)in-memoryswap機(jī)制示意圖

為了更加直白地展示lmkd和in-memory swap、普通的swap之間的差異，此處定義兩個變量：

1） Launch Time：應(yīng)用數(shù)據(jù)已經(jīng)不在內(nèi)存中，但是內(nèi)存中依然有它的狀態(tài)信息。應(yīng)用利用這些狀態(tài)信息從頭重建所有活動所需要的時間，即被lmkd殺死的進(jìn)程的重啟時間；

2） Switch Time：應(yīng)用數(shù)據(jù)依然在內(nèi)存中。此使啟動應(yīng)用所需要的時間。

根據(jù)文件頁和匿名頁是否在內(nèi)存中，進(jìn)而進(jìn)一步分成四個不同的時間：

1） Ideal Switch Time：進(jìn)程的文件頁和匿名頁都在內(nèi)存中

2） Switch Time（file-backed pages in disk）：進(jìn)程的文件頁在磁盤中，匿名頁在內(nèi)存中

3） Switch Time（most pages not in memory）：大部分頁都不在內(nèi)存中

4） Launch Time：所有頁都不在內(nèi)存中

下圖展示了四種時間的差異。橫軸是用來測試的八個應(yīng)用和平均值，縱軸是四種時間的值，可見使用lmkd會比理想情況滿四倍左右，應(yīng)該盡可能減少lmkd的使用。

四種時間的比較

請求調(diào)頁的缺陷

內(nèi)存壓力下，switch time的overhead來自于以下兩個方面：

1）解壓縮匿名頁

2）從磁盤檢索文件頁

而造成switch time大大增加的罪魁禍?zhǔn)拙褪钦埱笳{(diào)頁的低效率。下圖表示switch過程中CPU和磁盤帶寬利用率。在switch的過程中，CPU的平均利用率僅僅34.2%；，而磁盤帶寬利用率僅9.4%。究其原因， 在于解壓縮和讀磁盤操作只在一次page fault時啟動。

同時，實(shí)驗(yàn)者們發(fā)現(xiàn)，文件頁和匿名頁的交換足跡（footprint）不一樣。文件頁更加“不變”。即同一個應(yīng)用被重新啟動時，往往訪問大量相同的文件頁。原因是要訪問許多相同的庫文件。因此這給予實(shí)驗(yàn)者一個啟示——為匿名頁和文件頁設(shè)計(jì)不同的預(yù)取器，利用預(yù)取來提高硬件利用率。

switch過程中CPU和磁盤帶寬利用率

設(shè)計(jì)和實(shí)現(xiàn)

正如前文所說，為文件頁和匿名頁設(shè)計(jì)不同的預(yù)取器。對于文件頁，利用不變的特點(diǎn)減少負(fù)載；對于匿名頁，則利用實(shí)時信息追蹤變化的switch footprint。其中的挑戰(zhàn)是，如何準(zhǔn)確地預(yù)測footprint。

1）針對文件頁，如下圖，設(shè)計(jì)了以下五個部分：

?Offline profiling

利用前十次交換，把訪問超過八次的頁當(dāng)作預(yù)取的候選頁。其結(jié)果被存儲在一個文件中。（ offline candidate table ）。

?Fault logging

記錄每次交換時的缺頁信息。存放在fault buffer中。

?Prepaging Target Management – Insertion

匹配fault buffer和offline candidate table，能匹配到，則插入prepaging target table。

?Prepaging Target Management – Extent Merging

Extent：一次切換時同一文件中被訪問的頁的集合。

兩個extent相近（小于16頁的差距），則合并。

?Prepaging Target Management – Eviction

被預(yù)取的頁只要在一次交換中沒有被用到（檢查mapcount是否為0），則從prepaging target table中移除。

文件頁的預(yù)取過程

2）針對匿名頁，如下圖，設(shè)計(jì)了如下五個部分：

?Fault logging

記錄所有匿名頁的缺頁中斷。

?Access logging

根據(jù)頁表的訪問位，記錄Prepaging Target Table和Online Candidate Table中的頁在應(yīng)用切換時的訪問情況。

?Prepaging Target Management – Check & Insertion

把新的缺頁中斷加入Online Candidate Table。

?Prepaging Target Management – Promotion

若在Online Candidate Table中的頁被訪問了，則加入prepaging target table。

?Prepaging Target Management – Eviction

在prepaging target table和Online Candidate Table中的頁有個超時計(jì)時器，每次切換時計(jì)時器減小，而頁被訪問時計(jì)時器重置，超時后頁被丟棄。

匿名頁的預(yù)取過程

測試結(jié)果評估

1. 在switch latency方面，在兩種不同設(shè)備上（Pixel 4代表高端設(shè)備，Pixel 3a代表低端設(shè)備），基于baseline，平均性能提高了22.2%、28.3%。

寫延遲示意圖

2. 在預(yù)測器性能方面，平均準(zhǔn)確率分別為匿名頁68.4%，文件頁79.3%；平均召回率分別為匿名頁60.4%，文件頁52.2%。

預(yù)測器性能示意圖

3. 在資源利用率方面，平均提高CPU利用率1.18倍（反映了預(yù)取匿名頁的影響）；平均提高I/O帶寬的使用率25.2%（反映了預(yù)取文件頁的影響）。

總結(jié)

ASAP通過合理設(shè)計(jì)預(yù)取機(jī)制，在兩種設(shè)備上，平均性能分別提高了22.2%、28.3%，取得了不錯的效果。