AmpereOne QoS功能原理解析

您是否注意到，盡管我們的個(gè)人設(shè)備加載了多個(gè)應(yīng)用程序，但我們幾乎可以不間斷地觀看喜歡的比賽，這背后是服務(wù)質(zhì)量 （QoS） 功能在支持。QoS確保系統(tǒng)資源在后臺(tái)運(yùn)行時(shí)，在重要的和不那么重要的關(guān)鍵應(yīng)用程序之間得以充分平衡。QoS 功能提供的緩存容量和內(nèi)存帶寬使系統(tǒng)機(jī)制能夠確保系統(tǒng)資源（如緩存容量和內(nèi)存帶寬）在資源密集型和非資源密集型工作負(fù)載之間實(shí)現(xiàn)平衡。

在多租戶 IaaS/PaaS 環(huán)境中，第三方和首要工作負(fù)載運(yùn)行在 Ampere SOC 上，QoS 功能可確保將共享微架構(gòu)資源的最低閾值分配給更高優(yōu)先級(jí)的軟件，例如虛擬機(jī) （VM）、容器和進(jìn)程，還可以限制較低優(yōu)先級(jí)軟件對(duì)較高優(yōu)先級(jí)軟件性能的影響。

QoS 允許在相互競(jìng)爭(zhēng)的虛擬機(jī)之間有效地分配共享內(nèi)存資源，例如系統(tǒng)級(jí)緩存 （SLC） 容量和內(nèi)存帶寬。QoS 功能提供了一種機(jī)制，通過這些機(jī)制，諸如虛擬機(jī)之類的軟件實(shí)體可以與稱為分區(qū) ID （PARTID） 的唯一標(biāo)識(shí)符相關(guān)聯(lián)，然后分配給 PARTID 使用的共享 SLC 容量和內(nèi)存帶寬的最小容量或最大容量。

這使系統(tǒng)軟件能夠有效地識(shí)別優(yōu)先級(jí)更高的軟件，并確保將共享資源分配給該軟件。例如，SLC 和內(nèi)存帶寬的最高優(yōu)先級(jí)將提供給在 SOC 上運(yùn)行的操作系統(tǒng)和虛擬機(jī)管理程序。在此過程中，它使用 PARTID 識(shí)別該軟件，并對(duì) SLC 和內(nèi)存帶寬 QoS 控制進(jìn)行編程以提供內(nèi)存訪問，PARTID 可以根據(jù)需要完全訪問 SLC 和內(nèi)存帶寬。

同樣，使用此機(jī)制，當(dāng)多個(gè)虛擬機(jī)爭(zhēng)奪資源時(shí)，QoS 功能通過 SLA（服務(wù)級(jí)別協(xié)議）將共享資源的必要容量提供給優(yōu)先級(jí)較高的虛擬機(jī)，而優(yōu)先級(jí)較低的虛擬機(jī)可以限制為緩存和內(nèi)存帶寬容量，因此它不會(huì)影響優(yōu)先級(jí)較高的虛擬機(jī)。

QoS 是如何工作的？AmpereOne QoS 支持兩種方法，在系統(tǒng)軟件控制下協(xié)同工作，以分配內(nèi)存系統(tǒng)的性能資源：

內(nèi)存系統(tǒng)資源（內(nèi)存帶寬、緩存容量）分區(qū)

內(nèi)存系統(tǒng)資源使用監(jiān)控

通過使用狀態(tài)監(jiān)控，系統(tǒng)軟件可以確定更高優(yōu)先級(jí)的虛擬機(jī)需要的緩存和帶寬容量，然后將其與資源分區(qū)功能相結(jié)合，以確保虛擬機(jī)獲得可用容量。因此，具有 SLA 的高優(yōu)先級(jí)虛擬機(jī)可以保證內(nèi)存帶寬和對(duì) SLC 容量的訪問，因?yàn)?QoS 可確保對(duì)共享資源（緩存、內(nèi)存 BW）所需的訪問。相反，可以限制低優(yōu)先級(jí)虛擬機(jī)以限制對(duì)共享資源（緩存容量、內(nèi)存帶寬）的訪問。將較低優(yōu)先級(jí)的 VM 限制為較低的使用率也會(huì)限制由于應(yīng)用程序爭(zhēng)用資源而對(duì)高優(yōu)先級(jí)虛擬機(jī)產(chǎn)生的任何性能影響。

在兩個(gè)不同核心上共同執(zhí)行延遲敏感型的視頻服務(wù)和帶寬密集型的郵件服務(wù)，這種場(chǎng)景將會(huì)導(dǎo)致爭(zhēng)用訪問共享 SLC 和內(nèi)存。在沒有 QoS 的情況下，由于 BW 密集型郵件應(yīng)用程序不受限制地共享緩存和/或很高的內(nèi)存帶寬占用率，延遲敏感型應(yīng)用的響應(yīng)時(shí)間可能會(huì)受到影響。QoS 感知系統(tǒng)可確保分配共享資源的最小閾值，從而將內(nèi)存帶寬劃分到一定限制，以確保對(duì)延遲敏感的應(yīng)用程序的響應(yīng)時(shí)間不會(huì)受到負(fù)面影響。

對(duì)于 Ampere 生態(tài)系統(tǒng)合作伙伴來(lái)說，QoS在工作負(fù)載整合密度、性能一致性和可預(yù)測(cè)的服務(wù)交付方面實(shí)現(xiàn)了飛躍，并為云服務(wù)提供商（CSP）的最終客戶提供了更好的SLA，這確實(shí)令人興奮。此外，高效和優(yōu)化的資源利用率還降低了 CSP 的總體總擁有成本，使他們能夠提高 IaaS/PaaS 利潤(rùn)率。最后，由于某些應(yīng)用程序可以優(yōu)先訪問內(nèi)存/SLC，因此它允許在整個(gè)堆棧中實(shí)現(xiàn)更大的靈活性和可調(diào)性，并保證在高負(fù)載情況下為某些關(guān)鍵任務(wù)應(yīng)用程序/線程和進(jìn)程提供更快的響應(yīng)速度和性能。

對(duì)于那些想要使用它的人來(lái)說，好消息是：Linux 對(duì)此功能的支持將很快被廣泛推廣。QoS 功能在固件設(shè)置中啟用。無(wú)需對(duì)應(yīng)用程序或虛擬機(jī)進(jìn)行任何更改或重新編譯。

這只是我即將分享的眾多 AmpereOne 云原生功能之一。敬請(qǐng)期待更多后續(xù)內(nèi)容！

關(guān)于 Ampere Computing

Ampere Computing 是一家現(xiàn)代化半導(dǎo)體企業(yè)，致力于塑造云計(jì)算的未來(lái)，并推出了世界上首款云原生處理器。為可持續(xù)云而生，Ampere 云原生處理器兼具最高性能和最佳每瓦性能，助力加速多種云計(jì)算應(yīng)用的交付，為云提供行業(yè)領(lǐng)先的性能、能效和可擴(kuò)展性。