0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

什么是OOM機制?怎么防止進程因為OOM機制而被殺掉?

Linux閱碼場 ? 來源:Linux內(nèi)核那些事 ? 2023-06-21 08:59 ? 次閱讀

有時候我們會發(fā)現(xiàn)系統(tǒng)中某個進程會突然掛掉,通過查看系統(tǒng)日志發(fā)現(xiàn)是由于OOM機制導致進程被殺掉。

今天我們就來介紹一下什么是OOM機制以及怎么防止進程因為OOM機制而被殺掉。

什么是OOM機制

OOM是 Out Of Memory 的縮寫,中文意思是內(nèi)存不足。而OOM機制是指當系統(tǒng)內(nèi)存不足時,系統(tǒng)觸發(fā)的應急機制。

Linux 內(nèi)核發(fā)現(xiàn)系統(tǒng)中的物理內(nèi)存不足時,首先會對系統(tǒng)中的可回收內(nèi)存進行回收,能夠被回收的內(nèi)存有如下:

讀寫文件時的頁緩存。

為了性能而延遲釋放的空閑 slab 內(nèi)存頁。

當系統(tǒng)內(nèi)存不足時,內(nèi)核會優(yōu)先釋放這些內(nèi)存頁。因為使用這些內(nèi)存頁只是為了提升系統(tǒng)的性能,釋放這些內(nèi)存頁也不會影響系統(tǒng)的正常運行。

如果釋放上述的內(nèi)存后,還不能解決內(nèi)存不足的情況,那么內(nèi)核會如何處理呢?答案就是:觸發(fā)OOM killer殺掉系統(tǒng)中占用內(nèi)存最大的進程。如下圖所示:

84e31e08-0fc7-11ee-962d-dac502259ad0.png

可以看出,OOM killer 是防止系統(tǒng)崩潰的最后一個手段,不到迫不得已的情況是不會觸發(fā)的。

OOM killer 實現(xiàn)

接下來,我們分析一下內(nèi)核是如何實現(xiàn) OOM killer 的。

由于在 Linux 系統(tǒng)中,進程申請的都是虛擬內(nèi)存地址。所以當程序調(diào)用malloc()申請內(nèi)存時,如果虛擬內(nèi)存空間足夠的話,是不會觸發(fā) OOM 機制的。

當進程訪問虛擬內(nèi)存地址時,如果此虛擬內(nèi)存地址還沒有映射到物理內(nèi)存地址的話,那么將會觸發(fā)缺頁異常。

在缺頁異常處理例程中,將會申請新的物理內(nèi)存頁,并且將進程的虛擬內(nèi)存地址映射到剛申請的物理內(nèi)存。

如果在申請物理內(nèi)存時,系統(tǒng)中的物理內(nèi)存不足,那么內(nèi)核將會回收一些能夠被回收的文件頁緩存。如果回收完后,物理內(nèi)存還是不足的話,那么將會觸發(fā)swapping機制(如果開啟了的話)。

swapping機制會將某些進程不常用的內(nèi)存頁寫入到交換區(qū)(硬盤分區(qū)或文件)中,然后釋放掉這些內(nèi)存頁,從而達到緩解內(nèi)存不足的情況。

如果通過上面的手段還不能解決內(nèi)存不足的情況,那么內(nèi)核將會調(diào)用pagefault_out_of_memory()函數(shù)來殺掉系統(tǒng)中占用物理內(nèi)存最多的進程。

我們來看看pagefault_out_of_memory()函數(shù)的實現(xiàn):

voidpagefault_out_of_memory(void)
{
...
out_of_memory(NULL,0,0,NULL,false);
...
}

可以看出,pagefault_out_of_memory()函數(shù)最終會調(diào)用out_of_memory()來殺死系統(tǒng)中占用內(nèi)存最多的進程。

我們繼續(xù)來看看out_of_memory()函數(shù)的實現(xiàn):

voidout_of_memory(structzonelist*zonelist,gfp_tgfp_mask,intorder,
nodemask_t*nodemask,boolforce_kill)
{
...

//1.從系統(tǒng)中選擇一個最壞(占用內(nèi)存最多)的進程
p=select_bad_process(&points,totalpages,mpol_mask,force_kill);
...

//2.如果找到最壞的進程,那么調(diào)用oom_kill_process函數(shù)殺掉進程
if(p!=(void*)-1UL){
oom_kill_process(p,gfp_mask,order,points,totalpages,NULL,
nodemask,"Outofmemory");
killed=1;
}
...
}

out_of_memory()函數(shù)的邏輯比較簡單,主要完成兩個事情:

調(diào)用select_bad_process()函數(shù)從系統(tǒng)中選擇一個最壞(占用物理內(nèi)存最多)的進程。

如果找到最壞的進程,那么調(diào)用oom_kill_process()函數(shù)將此進程殺掉。

從上面的分析可知,找到最壞的進程是 OOM killer 最為重要的事情。

那么我們來看看select_bad_process()函數(shù)是怎樣選擇最壞的進程的:

staticstructtask_struct*
select_bad_process(unsignedint*ppoints,unsignedlongtotalpages,
constnodemask_t*nodemask,boolforce_kill)
{
structtask_struct*g,*p;
structtask_struct*chosen=NULL;
unsignedlongchosen_points=0;
...

//1.遍歷系統(tǒng)中所有的進程和線程
for_each_process_thread(g,p){
unsignedintpoints;
...

//2.計算進程最壞分數(shù)值,選擇分數(shù)最大的進程作為殺掉的目標進程
points=oom_badness(p,NULL,nodemask,totalpages);
if(!points||points

select_bad_process()函數(shù)的主要工作如下:

遍歷系統(tǒng)中所有的進程和線程,并且調(diào)用oom_badness()函數(shù)計算進程的最壞分數(shù)值。

選擇最壞分數(shù)值最大的進程作為被殺掉的目標進程。

所以,計算進程的最壞分數(shù)值就是 OOM killer 的核心工作。我們接著來看看oom_badness()函數(shù)是怎么計算進程的最壞分數(shù)值的:

unsignedlong
oom_badness(structtask_struct*p,structmem_cgroup*memcg,
constnodemask_t*nodemask,unsignedlongtotalpages)
{
longpoints;
longadj;

//1.如果進程不能被殺掉(init進程和內(nèi)核進程是不能被殺的)
if(oom_unkillable_task(p,memcg,nodemask))
return0;
...

//2.我們可以通過/proc/{pid}/oom_score_adj文件來設置進程的被殺建議值,
//這個值越小,進程被殺的機會越低。如果設置為-1000時,進程將被禁止殺掉。
adj=(long)p->signal->oom_score_adj;
if(adj==OOM_SCORE_ADJ_MIN){
...
return0;
}

//3.統(tǒng)計進程使用的物理內(nèi)存數(shù)
points=get_mm_rss(p->mm)
+atomic_long_read(&p->mm->nr_ptes)
+get_mm_counter(p->mm,MM_SWAPENTS);
...

//4.加上進程被殺建議值,得出最終的分數(shù)值
adj*=totalpages/1000;
points+=adj;

returnpoints>0?points:1;
}

oom_badness()函數(shù)主要按照以下步驟來計算進程的最壞分數(shù)值:

如果進程不能被殺掉(init進程和內(nèi)核進程是不能被殺的),那么返回分數(shù)值為 0。

可以通過/proc/{pid}/oom_score_adj文件來設置進程的 OOM 建議值(取值范圍為 -1000 ~ 1000)。建議值越小,進程被殺的機會越低。如果將其設置為 -1000 時,進程將被禁止殺掉。

統(tǒng)計進程使用的物理內(nèi)存數(shù),包括實際使用的物理內(nèi)存、頁表占用的物理內(nèi)存和 swap 機制占用的物理內(nèi)存。

最后加上進程的 OOM 建議值,得出最終的分數(shù)值。

通過oom_badness()函數(shù)計算出進程的最壞分數(shù)值后,系統(tǒng)就能從中選擇一個分數(shù)值最大的進程殺死,從而解決內(nèi)存不足的情況。

禁止進程被 OOM 殺掉

有時候,我們不希望某些進程被 OOM killer 殺掉。例如 MySQL 進程如果被 OOM killer 殺掉的話,那么可能導致數(shù)據(jù)丟失的情況。

那么如何防止進程被 OOM killer 殺掉呢?從上面的分析可知,在內(nèi)核計算進程最壞分數(shù)值時,會加上進程的oom_score_adj(OOM建議值)值。如果將此值設置為-1000時,那么系統(tǒng)將會禁止 OOM killer 殺死此進程。

例如使用如下命令,將會禁止殺死 PID 為 2000 的進程:

$echo-1000>/proc/2000/oom_score_adj

這樣,我們就能防止一些重要的進程被 OOM killer 殺死。





審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • Linux系統(tǒng)
    +關(guān)注

    關(guān)注

    4

    文章

    588

    瀏覽量

    27265
  • PID控制
    +關(guān)注

    關(guān)注

    10

    文章

    449

    瀏覽量

    39980
  • MYSQL數(shù)據(jù)庫
    +關(guān)注

    關(guān)注

    0

    文章

    95

    瀏覽量

    9372

原文標題:細說|Linux Out Of Memory機制

文章出處:【微信號:LinuxDev,微信公眾號:Linux閱碼場】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    容器JVM內(nèi)存配置最佳實踐

    Killer)機制,此時系統(tǒng)會終止內(nèi)存占用較多的進程以保證系統(tǒng)的正常運行。特別是在容器環(huán)境下,不合理的JVM堆參數(shù)設置會導致各種異?,F(xiàn)象產(chǎn)生,例如應用堆大小還未到達JVM設置的堆閾值或應用的規(guī)格限制,就因為
    發(fā)表于 06-20 09:45 ?829次閱讀
    容器JVM內(nèi)存配置最佳實踐

    怎么才能避免SD卡頻繁讀寫防止死機機制 ?

    怎么才能避免SD卡頻繁讀寫防止死機機制
    發(fā)表于 10-23 08:14

    linux內(nèi)核oom機制分析

    Linux 內(nèi)核有個機制OOM killer(Out-Of-Memory killer),該機制會監(jiān)控那些占用內(nèi)存過大,尤其是瞬間很快消耗大量內(nèi)存的進程,為了
    發(fā)表于 11-13 17:01 ?1253次閱讀
    linux內(nèi)核<b class='flag-5'>oom</b><b class='flag-5'>機制</b>分析

    一個線上服務OOM的問題分享

    大家都知道,如果出現(xiàn)了線上OOM問題,為了不影響用戶的正常使用,最快的解決辦法就是重啟服務。
    的頭像 發(fā)表于 10-24 10:47 ?863次閱讀

    OOM Killer機制學習

    當系統(tǒng)內(nèi)存不足以分配時,Linux內(nèi)核會使用一種OOM Killer(Out-Of-Memory Killer)機制釋放內(nèi)存,該機制通過一系列比較選擇出最適合的進程并將其kill掉,從
    的頭像 發(fā)表于 12-19 16:17 ?1084次閱讀

    什么是OOM機制?怎么防止進程因為OOM機制被殺掉?

    有時候我們會發(fā)現(xiàn)系統(tǒng)中某個進程會突然掛掉,通過查看系統(tǒng)日志發(fā)現(xiàn)是由于 OOM機制 導致進程被殺掉。
    的頭像 發(fā)表于 02-06 11:45 ?2688次閱讀

    細說Linux Out Of Memory機制

    有時候我們會發(fā)現(xiàn)系統(tǒng)中某個進程會突然掛掉,通過查看系統(tǒng)日志發(fā)現(xiàn)是由于 OOM機制 導致進程被殺掉
    的頭像 發(fā)表于 02-12 09:57 ?858次閱讀

    一圖解析K8S OOM和CPU節(jié)流

    使用 Kubernetes 時,內(nèi)存不足 (OOM) 錯誤和 CPU 節(jié)流是云應用程序中資源處理的主要難題。
    的頭像 發(fā)表于 02-15 17:17 ?1218次閱讀

    SpringBoot實現(xiàn)MySQL百萬級數(shù)據(jù)量導出并避免OOM的解決方案

    全量加載不可行,那我們的目標就是如何實現(xiàn)數(shù)據(jù)的分批加載了。實事上,Mysql本身支持Stream查詢,我們可以通過Stream流獲取數(shù)據(jù),然后將數(shù)據(jù)逐條刷入到文件中,每次刷入文件后再從內(nèi)存中移除這條數(shù)據(jù),從而避免OOM
    的頭像 發(fā)表于 03-16 13:50 ?2402次閱讀

    進程間通信的機制有哪些

    通信比較難,Linux內(nèi)核提供了多種進程間通信的機制。 同一個進程的不同模塊(譬如不同的函數(shù))之間進行通信都是很簡單的,譬如使用全局變量等。 通常情況下,大部分的程序是不要考慮進程間通
    的頭像 發(fā)表于 07-21 11:23 ?850次閱讀
    <b class='flag-5'>進程</b>間通信的<b class='flag-5'>機制</b>有哪些

    OOM會導致JVM虛擬機退出嗎

    熟悉Java開發(fā)的人,應該會經(jīng)常遇到的異常:OOM,那么這個異常會導致 JVM 虛擬機退出嗎? 1、結(jié)論 Java虛擬機(JVM)在運行Java應用時,可能會遇到內(nèi)存不足的情況,從而拋出
    的頭像 發(fā)表于 09-30 10:14 ?726次閱讀

    jvm哪些區(qū)域會發(fā)生oom

    of Memory,OOM),本文將詳細介紹 JVM 內(nèi)容可能發(fā)生 OOM 的區(qū)域。OOM 是指應用程序在申請分配內(nèi)存時,沒有足夠的內(nèi)存供其使用,導致程序無法正常執(zhí)行。 堆(Heap)區(qū)域: 堆是 JVM 中最大的一塊內(nèi)存區(qū)域
    的頭像 發(fā)表于 12-05 11:51 ?1258次閱讀

    Java oom異常的原因分析

    據(jù),棧內(nèi)存用于存儲方法調(diào)用和局部變量。 當程序需要使用更多內(nèi)存時,會向操作系統(tǒng)請求更多的內(nèi)存空間。如果操作系統(tǒng)無法分配足夠的內(nèi)存空間,就會導致OOM異常的發(fā)生。 導致OOM異常的原因有多種,下面將詳細介紹一些常見的原因。 內(nèi)存
    的頭像 發(fā)表于 12-05 13:43 ?686次閱讀

    oom異常的原因和解決方法

    一、OOM異常的原因 OOM異常的出現(xiàn)通常是由于以下幾個原因造成的: 1.1 內(nèi)存泄漏 內(nèi)存泄漏是指資源在使用完畢后沒有被正確釋放或回收,從而導致內(nèi)存不斷占用的現(xiàn)象。常見的內(nèi)存泄漏問題包括對象未被
    的頭像 發(fā)表于 12-05 13:45 ?6076次閱讀

    Java怎么排查oom異常

    Java中的OOM(Out of Memory)異常是指當Java虛擬機的堆內(nèi)存不足以容納新的對象時拋出的異常。OOM異常是一種常見的運行時異常,經(jīng)常出現(xiàn)在長時間運行的Java應用程序或處理大數(shù)
    的頭像 發(fā)表于 12-05 13:47 ?1126次閱讀