懶貓后花園

摘要： 之前 blog [1] 十分感性地總結了“半導體科研工程導向強”。“工程”語境相對于“科學”而言。那么何為“科學”，何為“工程”？“科學是認識世界，工程是改變世界”，即所謂工程導向即不光要考慮技術原理、還要考慮可行性，再升華點便是需要同時思考供給和需求側特點。本文嘗試感性地構建一個量化分析框架解釋這 閱讀全文

摘要： 范疇論概念辨析 范疇 (Category) 包含對象（Object）和態射，對比集合概念，范疇不僅定義了靜態的成員，也定義了成員之間的動態交互關系。不是任意對象和態射都能稱為范疇，態射中至少包含一個單位態射，任何對象經過該態射得到本身。 不僅態射可以讓對象發生變換，態射本身也可以看作一個對象處理進行 閱讀全文

摘要： 什么時候需要并發？ 由于片上buffer 寶貴，且不同程序中的同一個計算操作對存儲開銷具有動態性，同一個程序中不同計算操作的先后順序具有動態性，多個計算單元往往共享同一塊片上 buffer 資源以便提高 buffer 利用率以及交換上下文數據。多對一便存在仲裁競爭等問題。 最簡單的 baseline 閱讀全文

摘要： zhihu-title: GPGPU？ NPU？ zhihu-topics: - GPGPU - NPU zhihu-link: https://zhuanlan.zhihu.com/p/1926295995316172022 zhihu-created-at: 2025-08-06 17:26 起 閱讀全文

摘要： 整形算術單元容易預測實現硬件行為，而浮點單元由于 （1）不遵守結合律（2）rounding 模式和特殊情況處理（subnormal、nan、-0、+inf、-inf） 往往更難預測硬件計算結果。神經網絡中運算 MAC 運算累加超長數組同時涉及 (1) 和 (2) 問題，不滿足交換律使得遍歷保證 10 閱讀全文

摘要： 很早在紙上推導過梯度的計算方法，但每次都忘記推導過程反復推導。于此想總結新的記憶方法。 梯度下降推導過程難以記憶來自于矩陣微積分，矩陣微積分中涉及標量、向量、矩陣之間兩兩求導操作，其定義如下圖，√ 表示存在定義，x 表示不存在定義[1]： 函數 \ 自變量 scalar vector matrix 閱讀全文

摘要： DeepSeek ISCA 2025 [1] 6.4 小節中提到無論 load/store 語義的 scale-up 網絡，還是 message 語義的 scale-out 網絡，維護一致性都會明顯增加額外的通信開銷。期望一種既需要程序員通過 acquire/release 等語義編程保證一致性，硬 閱讀全文

摘要： 在四月的尾巴終于把第一次流片交出去了。許多前輩曾告誡我流片如何困難，而想要請教卻很難得到統一的回答。經過這一輪流片切身怯魅，積攢了一些淺薄的流片 know how 經驗分享。 流片要見實物，而想要讓數百萬千萬至數億晶體管老老實實守本分工作并不是那么輕松。從算法到編譯器到RTL到網表到GDS到電路板， 閱讀全文

摘要： 熟悉的 AI 加速器領域 on-chip buffer 往往使用 scratchpad memory，對傳統 cache 結構接觸不多。但 cache 可謂是傳統 CPU 架構中最最基礎和重要的一個組件，從 cache 的設計思想上或許可以借鑒學習 AI 的訪存問題。 SRAM + 映射 = Cac 閱讀全文

摘要： 去 ICAC 蹭完飯有一陣了，懶癌發作拖到現在才做心得總結。ICAC 印象最深刻的是復旦陳遲曉老師帶來的 《2.5D/3D/3.5D Integration: Fabrication and Chiplet Partition》 演講。因為先前純數字架構接觸更多一些，對 chiplet 更多是門外漢 閱讀全文