cache

如何處理SoC中的性能瓶頸呢？

SoC 中不斷添加處理核心，但它們不會都得到充分利用，因為真正的瓶頸沒有得到解決。

2024-05-01 標簽：處理器DRAMSoC芯片 634 0

看看PCIe設備之間的通信方式

PCIe是以包（Packet）為單位傳輸數(shù)據(jù)的。和計算機網(wǎng)絡類似，其協(xié)議也是分層的。

2024-03-01 標簽：寄存器CachePCIe 5239 0

AMBA總線之AXI設計的關鍵問題講解

首先我們看一下針對AXI接口的IP設計，在介紹之前我們先回顧一下AXI所具有的一些feature。

2024-02-20 標簽：寄存器DDRCache 1491 0

先楫 HPM片上 Cache使用指南

賈工先楫資深FAE工程師12年產品研發(fā)經驗，具有變頻器、伺服等工業(yè)產品開發(fā)經驗，也負責過激光投影顯示系統(tǒng)開發(fā)、AI應用開發(fā)、PYQT、Linux驅動開發(fā)...

2024-01-26 標簽：CacheHPM先楫半導體 674 0

【BBuf的CUDA筆記】OpenAI Triton入門筆記一

這里來看官方的介紹：https://openai.com/research/triton ，從官方的介紹中我們可以看到OpenAI Triton的產生動...

2024-01-23 標簽：sram多處理器Cache 2376 0

先楫HPM片上Cache使用指南經驗分享

高速緩存（Cache）主要是為了解決CPU運算速度與內存（Memory）讀寫速度不匹配的矛盾而存在， 是CPU與存儲設備之間的臨時存貯器，容量小，但是交...

2024-01-22 標簽：sram高速緩存Cache 1141 0

深入淺出理解PagedAttention CUDA實現(xiàn)

vLLM 中，LLM 推理的 prefill 階段 attention 計算使用第三方庫 xformers 的優(yōu)化實現(xiàn)，decoding 階段 atte...

2024-01-09 標簽：寄存器Cache內存管理 1593 0

深入理解Linux RCU：從硬件說起之內存屏障

上一篇文章我們談到了內存Cache，并且描述了典型的Cache一致性協(xié)議MESI。Cache的根本目的，是解決內存與CPU速度多達兩個數(shù)量級的性能差異。

2023-12-25 標簽：緩沖器LinuxCache 734 0

CPU Cache是如何保證緩存一致性的？

我們介紹`CPU Cache`的組織架構及其進行**讀操作**時的尋址方式，但是緩存不僅僅只有讀操作，還有 **寫操作** ，這會帶來一個新的問題

2023-12-04 標簽：處理器Cache狀態(tài)機 1209 0

如何利用緩存讓CPU更有效率地執(zhí)行代碼？

我們先來看一個很經典的例子(例子是C語言寫的，其他語言實現(xiàn)也都是差不多的)

2023-12-04 標簽：寄存器存儲器C語言 799 0

Arm最新處理器架構分析—X4、A720和A520

上一篇文章我們介紹了Arm的Cortex-X1至Cortex-X3系列處理器，2023年的5月底，Arm如期發(fā)布了新一年的處理器架構

2023-11-29 標簽：TSMCARM處理器Cache 4392 0

Spring Cache緩存常規(guī)配置

作者最近在開發(fā)公司項目時使用到 Redis 緩存，并在翻看前人代碼時，看到了一種關于 @Cacheable 注解的自定義緩存有效期的解決方案，感覺比較實...

2023-11-28 標簽：Cache緩存器Redis 544 0

Arm微架構學習—開啟Armv9時代

在上一篇文章“從A76到A78——在變化中學習Arm微架構”中，我們了解了Arm處理器微架構的基本組成，介紹了Armv8架構最后幾代經典處理器架構。

2023-11-27 標簽：TSMCARM處理器Cache 1087 0

如何處理cache miss問題以提高加速器效率呢？

帶寬是影響FPGA加速器的重要因素，因為大量的并行計算對數(shù)據(jù)量要求很大。

2023-11-16 標簽：存儲器加速器比較器 1319 0