0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

什么是OOM機制?怎么防止進程因為OOM機制而被殺掉?

CPP開發(fā)者 ? 來源:Linux內(nèi)核那些事 ? 2023-02-06 11:45 ? 次閱讀

有時候我們會發(fā)現(xiàn)系統(tǒng)中某個進程會突然掛掉,通過查看系統(tǒng)日志發(fā)現(xiàn)是由于OOM機制導(dǎo)致進程被殺掉。

今天我們就來介紹一下什么是OOM機制以及怎么防止進程因為OOM機制而被殺掉。

什么是OOM機制

OOM是 Out Of Memory 的縮寫,中文意思是內(nèi)存不足。而OOM機制是指當(dāng)系統(tǒng)內(nèi)存不足時,系統(tǒng)觸發(fā)的應(yīng)急機制。

當(dāng) Linux 內(nèi)核發(fā)現(xiàn)系統(tǒng)中的物理內(nèi)存不足時,首先會對系統(tǒng)中的可回收內(nèi)存進行回收,能夠被回收的內(nèi)存有如下:

讀寫文件時的頁緩存。

為了性能而延遲釋放的空閑 slab 內(nèi)存頁。

當(dāng)系統(tǒng)內(nèi)存不足時,內(nèi)核會優(yōu)先釋放這些內(nèi)存頁。因為使用這些內(nèi)存頁只是為了提升系統(tǒng)的性能,釋放這些內(nèi)存頁也不會影響系統(tǒng)的正常運行。

如果釋放上述的內(nèi)存后,還不能解決內(nèi)存不足的情況,那么內(nèi)核會如何處理呢?答案就是:觸發(fā)OOM killer殺掉系統(tǒng)中占用內(nèi)存最大的進程。如下圖所示:

5f40b53c-a3bd-11ed-bfe3-dac502259ad0.png

可以看出,OOM killer 是防止系統(tǒng)崩潰的最后一個手段,不到迫不得已的情況是不會觸發(fā)的。

OOM killer 實現(xiàn)

接下來,我們分析一下內(nèi)核是如何實現(xiàn) OOM killer 的。

由于在 Linux 系統(tǒng)中,進程申請的都是虛擬內(nèi)存地址。所以當(dāng)程序調(diào)用malloc()申請內(nèi)存時,如果虛擬內(nèi)存空間足夠的話,是不會觸發(fā) OOM 機制的。

當(dāng)進程訪問虛擬內(nèi)存地址時,如果此虛擬內(nèi)存地址還沒有映射到物理內(nèi)存地址的話,那么將會觸發(fā)缺頁異常。

在缺頁異常處理例程中,將會申請新的物理內(nèi)存頁,并且將進程的虛擬內(nèi)存地址映射到剛申請的物理內(nèi)存。

如果在申請物理內(nèi)存時,系統(tǒng)中的物理內(nèi)存不足,那么內(nèi)核將會回收一些能夠被回收的文件頁緩存。如果回收完后,物理內(nèi)存還是不足的話,那么將會觸發(fā)swapping機制(如果開啟了的話)。

swapping機制會將某些進程不常用的內(nèi)存頁寫入到交換區(qū)(硬盤分區(qū)或文件)中,然后釋放掉這些內(nèi)存頁,從而達到緩解內(nèi)存不足的情況。

如果通過上面的手段還不能解決內(nèi)存不足的情況,那么內(nèi)核將會調(diào)用pagefault_out_of_memory()函數(shù)來殺掉系統(tǒng)中占用物理內(nèi)存最多的進程。

我們來看看pagefault_out_of_memory()函數(shù)的實現(xiàn):

voidpagefault_out_of_memory(void)
{
...
out_of_memory(NULL,0,0,NULL,false);
...
}

可以看出,pagefault_out_of_memory()函數(shù)最終會調(diào)用out_of_memory()來殺死系統(tǒng)中占用內(nèi)存最多的進程。

我們繼續(xù)來看看out_of_memory()函數(shù)的實現(xiàn):

voidout_of_memory(structzonelist*zonelist,gfp_tgfp_mask,intorder,
nodemask_t*nodemask,boolforce_kill)
{
...

//1.從系統(tǒng)中選擇一個最壞(占用內(nèi)存最多)的進程
p=select_bad_process(&points,totalpages,mpol_mask,force_kill);
...

//2.如果找到最壞的進程,那么調(diào)用oom_kill_process函數(shù)殺掉進程
if(p!=(void*)-1UL){
oom_kill_process(p,gfp_mask,order,points,totalpages,NULL,
nodemask,"Outofmemory");
killed=1;
}
...
}

out_of_memory()函數(shù)的邏輯比較簡單,主要完成兩個事情:

調(diào)用select_bad_process()函數(shù)從系統(tǒng)中選擇一個最壞(占用物理內(nèi)存最多)的進程。

如果找到最壞的進程,那么調(diào)用oom_kill_process()函數(shù)將此進程殺掉。

從上面的分析可知,找到最壞的進程是 OOM killer 最為重要的事情。

那么我們來看看select_bad_process()函數(shù)是怎樣選擇最壞的進程的:

staticstructtask_struct*
select_bad_process(unsignedint*ppoints,unsignedlongtotalpages,
constnodemask_t*nodemask,boolforce_kill)
{
structtask_struct*g,*p;
structtask_struct*chosen=NULL;
unsignedlongchosen_points=0;
...

//1.遍歷系統(tǒng)中所有的進程和線程
for_each_process_thread(g,p){
unsignedintpoints;
...

//2.計算進程最壞分?jǐn)?shù)值,選擇分?jǐn)?shù)最大的進程作為殺掉的目標(biāo)進程
points=oom_badness(p,NULL,nodemask,totalpages);
if(!points||points

select_bad_process()函數(shù)的主要工作如下:

遍歷系統(tǒng)中所有的進程和線程,并且調(diào)用oom_badness()函數(shù)計算進程的最壞分?jǐn)?shù)值。

選擇最壞分?jǐn)?shù)值最大的進程作為被殺掉的目標(biāo)進程。

所以,計算進程的最壞分?jǐn)?shù)值就是 OOM killer 的核心工作。我們接著來看看oom_badness()函數(shù)是怎么計算進程的最壞分?jǐn)?shù)值的:

unsignedlong
oom_badness(structtask_struct*p,structmem_cgroup*memcg,
constnodemask_t*nodemask,unsignedlongtotalpages)
{
longpoints;
longadj;

//1.如果進程不能被殺掉(init進程和內(nèi)核進程是不能被殺的)
if(oom_unkillable_task(p,memcg,nodemask))
return0;
...

//2.我們可以通過/proc/{pid}/oom_score_adj文件來設(shè)置進程的被殺建議值,
//這個值越小,進程被殺的機會越低。如果設(shè)置為-1000時,進程將被禁止殺掉。
adj=(long)p->signal->oom_score_adj;
if(adj==OOM_SCORE_ADJ_MIN){
...
return0;
}

//3.統(tǒng)計進程使用的物理內(nèi)存數(shù)
points=get_mm_rss(p->mm)
+atomic_long_read(&p->mm->nr_ptes)
+get_mm_counter(p->mm,MM_SWAPENTS);
...

//4.加上進程被殺建議值,得出最終的分?jǐn)?shù)值
adj*=totalpages/1000;
points+=adj;

returnpoints>0?points:1;
}

oom_badness()函數(shù)主要按照以下步驟來計算進程的最壞分?jǐn)?shù)值:

如果進程不能被殺掉(init進程和內(nèi)核進程是不能被殺的),那么返回分?jǐn)?shù)值為 0。

可以通過/proc/{pid}/oom_score_adj文件來設(shè)置進程的 OOM 建議值(取值范圍為 -1000 ~ 1000)。建議值越小,進程被殺的機會越低。如果將其設(shè)置為 -1000 時,進程將被禁止殺掉。

統(tǒng)計進程使用的物理內(nèi)存數(shù),包括實際使用的物理內(nèi)存、頁表占用的物理內(nèi)存和 swap 機制占用的物理內(nèi)存。

最后加上進程的 OOM 建議值,得出最終的分?jǐn)?shù)值。

通過oom_badness()函數(shù)計算出進程的最壞分?jǐn)?shù)值后,系統(tǒng)就能從中選擇一個分?jǐn)?shù)值最大的進程殺死,從而解決內(nèi)存不足的情況。

禁止進程被 OOM 殺掉

有時候,我們不希望某些進程被 OOM killer 殺掉。例如 MySQL 進程如果被 OOM killer 殺掉的話,那么可能導(dǎo)致數(shù)據(jù)丟失的情況。

那么如何防止進程被 OOM killer 殺掉呢?從上面的分析可知,在內(nèi)核計算進程最壞分?jǐn)?shù)值時,會加上進程的oom_score_adj(OOM建議值)值。如果將此值設(shè)置為-1000時,那么系統(tǒng)將會禁止 OOM killer 殺死此進程。

例如使用如下命令,將會禁止殺死 PID 為 2000 的進程:

$echo-1000>/proc/2000/oom_score_adj

這樣,我們就能防止一些重要的進程被 OOM killer 殺死。







審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • PID
    PID
    +關(guān)注

    關(guān)注

    35

    文章

    1467

    瀏覽量

    85083
  • MySQL
    +關(guān)注

    關(guān)注

    1

    文章

    791

    瀏覽量

    26351
  • LINUX內(nèi)核
    +關(guān)注

    關(guān)注

    1

    文章

    315

    瀏覽量

    21580

原文標(biāo)題:細(xì)說:Linux Out Of Memory 機制

文章出處:【微信號:CPP開發(fā)者,微信公眾號:CPP開發(fā)者】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    容器JVM內(nèi)存配置最佳實踐

    Killer)機制,此時系統(tǒng)會終止內(nèi)存占用較多的進程以保證系統(tǒng)的正常運行。特別是在容器環(huán)境下,不合理的JVM堆參數(shù)設(shè)置會導(dǎo)致各種異?,F(xiàn)象產(chǎn)生,例如應(yīng)用堆大小還未到達JVM設(shè)置的堆閾值或應(yīng)用的規(guī)格限制,就因為
    發(fā)表于 06-20 09:45 ?829次閱讀
    容器JVM內(nèi)存配置最佳實踐

    怎么才能避免SD卡頻繁讀寫防止死機機制 ?

    怎么才能避免SD卡頻繁讀寫防止死機機制
    發(fā)表于 10-23 08:14

    linux內(nèi)核oom機制分析

    Linux 內(nèi)核有個機制OOM killer(Out-Of-Memory killer),該機制會監(jiān)控那些占用內(nèi)存過大,尤其是瞬間很快消耗大量內(nèi)存的進程,為了
    發(fā)表于 11-13 17:01 ?1253次閱讀
    linux內(nèi)核<b class='flag-5'>oom</b><b class='flag-5'>機制</b>分析

    一個線上服務(wù)OOM的問題分享

    大家都知道,如果出現(xiàn)了線上OOM問題,為了不影響用戶的正常使用,最快的解決辦法就是重啟服務(wù)。
    的頭像 發(fā)表于 10-24 10:47 ?863次閱讀

    OOM Killer機制學(xué)習(xí)

    當(dāng)系統(tǒng)內(nèi)存不足以分配時,Linux內(nèi)核會使用一種OOM Killer(Out-Of-Memory Killer)機制釋放內(nèi)存,該機制通過一系列比較選擇出最適合的進程并將其kill掉,從
    的頭像 發(fā)表于 12-19 16:17 ?1084次閱讀

    細(xì)說Linux Out Of Memory機制

    有時候我們會發(fā)現(xiàn)系統(tǒng)中某個進程會突然掛掉,通過查看系統(tǒng)日志發(fā)現(xiàn)是由于 OOM機制 導(dǎo)致進程被殺掉。
    的頭像 發(fā)表于 02-12 09:57 ?858次閱讀

    一圖解析K8S OOM和CPU節(jié)流

    使用 Kubernetes 時,內(nèi)存不足 (OOM) 錯誤和 CPU 節(jié)流是云應(yīng)用程序中資源處理的主要難題。
    的頭像 發(fā)表于 02-15 17:17 ?1218次閱讀

    SpringBoot實現(xiàn)MySQL百萬級數(shù)據(jù)量導(dǎo)出并避免OOM的解決方案

    全量加載不可行,那我們的目標(biāo)就是如何實現(xiàn)數(shù)據(jù)的分批加載了。實事上,Mysql本身支持Stream查詢,我們可以通過Stream流獲取數(shù)據(jù),然后將數(shù)據(jù)逐條刷入到文件中,每次刷入文件后再從內(nèi)存中移除這條數(shù)據(jù),從而避免OOM。
    的頭像 發(fā)表于 03-16 13:50 ?2402次閱讀

    什么是OOM機制?怎么防止進程因為OOM機制被殺掉

    有時候我們會發(fā)現(xiàn)系統(tǒng)中某個進程會突然掛掉,通過查看系統(tǒng)日志發(fā)現(xiàn)是由于 OOM機制 導(dǎo)致進程被殺掉。
    的頭像 發(fā)表于 06-21 08:59 ?7537次閱讀
    什么是<b class='flag-5'>OOM</b><b class='flag-5'>機制</b>?怎么<b class='flag-5'>防止</b><b class='flag-5'>進程</b><b class='flag-5'>因為</b><b class='flag-5'>OOM</b><b class='flag-5'>機制</b><b class='flag-5'>而</b><b class='flag-5'>被殺掉</b>?

    進程間通信的機制有哪些

    通信比較難,Linux內(nèi)核提供了多種進程間通信的機制。 同一個進程的不同模塊(譬如不同的函數(shù))之間進行通信都是很簡單的,譬如使用全局變量等。 通常情況下,大部分的程序是不要考慮進程間通
    的頭像 發(fā)表于 07-21 11:23 ?850次閱讀
    <b class='flag-5'>進程</b>間通信的<b class='flag-5'>機制</b>有哪些

    OOM會導(dǎo)致JVM虛擬機退出嗎

    熟悉Java開發(fā)的人,應(yīng)該會經(jīng)常遇到的異常:OOM,那么這個異常會導(dǎo)致 JVM 虛擬機退出嗎? 1、結(jié)論 Java虛擬機(JVM)在運行Java應(yīng)用時,可能會遇到內(nèi)存不足的情況,從而拋出
    的頭像 發(fā)表于 09-30 10:14 ?726次閱讀

    jvm哪些區(qū)域會發(fā)生oom

    of Memory,OOM),本文將詳細(xì)介紹 JVM 內(nèi)容可能發(fā)生 OOM 的區(qū)域。OOM 是指應(yīng)用程序在申請分配內(nèi)存時,沒有足夠的內(nèi)存供其使用,導(dǎo)致程序無法正常執(zhí)行。 堆(Heap)區(qū)域: 堆是 JVM 中最大的一塊內(nèi)存區(qū)域
    的頭像 發(fā)表于 12-05 11:51 ?1258次閱讀

    Java oom異常的原因分析

    據(jù),棧內(nèi)存用于存儲方法調(diào)用和局部變量。 當(dāng)程序需要使用更多內(nèi)存時,會向操作系統(tǒng)請求更多的內(nèi)存空間。如果操作系統(tǒng)無法分配足夠的內(nèi)存空間,就會導(dǎo)致OOM異常的發(fā)生。 導(dǎo)致OOM異常的原因有多種,下面將詳細(xì)介紹一些常見的原因。 內(nèi)存
    的頭像 發(fā)表于 12-05 13:43 ?686次閱讀

    oom異常的原因和解決方法

    一、OOM異常的原因 OOM異常的出現(xiàn)通常是由于以下幾個原因造成的: 1.1 內(nèi)存泄漏 內(nèi)存泄漏是指資源在使用完畢后沒有被正確釋放或回收,從而導(dǎo)致內(nèi)存不斷占用的現(xiàn)象。常見的內(nèi)存泄漏問題包括對象未被
    的頭像 發(fā)表于 12-05 13:45 ?6076次閱讀

    Java怎么排查oom異常

    Java中的OOM(Out of Memory)異常是指當(dāng)Java虛擬機的堆內(nèi)存不足以容納新的對象時拋出的異常。OOM異常是一種常見的運行時異常,經(jīng)常出現(xiàn)在長時間運行的Java應(yīng)用程序或處理大數(shù)
    的頭像 發(fā)表于 12-05 13:47 ?1126次閱讀