AI計(jì)算需求激增，英偉達(dá)H100功耗成挑戰(zhàn)

伴隨著人工智能技術(shù)飛躍式的進(jìn)步，對(duì)于計(jì)算機(jī)運(yùn)算能力的需求同樣大幅提升。目前，英偉達(dá)公司的H100芯片銷售火爆。值得關(guān)注的是，單片H100芯片的峰值功率高達(dá)700瓦。隨著此類芯片的廣泛使用，預(yù)計(jì)到2024年末，其總體功耗將相當(dāng)于甚至超越某些歐洲小型國(guó)家。

根據(jù)預(yù)測(cè)，若H100的年利用率保持在61%，那么單臺(tái)設(shè)備每年將耗電3740千瓦小時(shí)左右。如果英偉達(dá)在2023年售出150萬塊H100，2024年再增加至200萬塊，那么到2024年底，將有350萬塊H100芯片投入使用，其總年用電量將高達(dá)130.91億千瓦小時(shí)（13091.82GWh）。相對(duì)而言，一些國(guó)家的年平均發(fā)電水平，如格魯吉亞、立陶宛和危地馬拉，也是這個(gè)數(shù)量級(jí)。

盡管H100的電力消耗數(shù)字讓人瞠目結(jié)舌，但我們可以看到，AI以及高性能計(jì)算GPU的能效正逐步改善。英偉達(dá)下一代Blackwell架構(gòu)的B100芯片不僅可能擁有超過H100的功耗，而且還能實(shí)現(xiàn)更高的性能表現(xiàn)，從而在相同能耗下完成更多任務(wù)。

很明顯，隨著AI技術(shù)的持續(xù)發(fā)展，如何妥善處理算力與能耗之間的矛盾，成為了未來亟待解決的重大問題。