10 2021 檔案
摘要：前文我們提到了 autograd 引擎的靜態架構，本文開始我們從動態角度看看引擎是如何運作的。
閱讀全文
摘要：前文最終我們提到了如下代碼就是調用引擎來進行反向傳播，本文我們首先從靜態角度來看引擎，就是看看其數據結構和靜態性質。
閱讀全文
摘要：本系列將通過大概十篇左右文章來分析 PyTorch 的自動微分功能如何實現。本文是后向傳播的第一篇，介紹調用流程：如何從 Python 代碼進入到 C++ autograd 引擎。
閱讀全文
摘要：本系列將通過大概十篇左右文章來分析 PyTorch 的自動微分功能如何實現。本文是前向傳播的第三篇，介紹具體實現機制。
閱讀全文
摘要：本系列將通過大概十篇左右文章來分析 PyTorch 的自動微分功能如何實現。本文是前向傳播的第二篇，介紹自動微分（梯度計算）所涉及的部分 PyTorch 基礎類。因為字數太多（1萬兩千字），所以拆分成上下兩篇。
閱讀全文
摘要：本系列將通過大概十篇左右文章來分析 PyTorch 的自動微分功能如何實現。本文是前向傳播的第一篇，介紹自動微分（梯度計算）所涉及的部分 PyTorch 基礎類。因為字數太多（1萬兩千字），所以拆分成上下兩篇。
閱讀全文
摘要：本文從 PyTorch 兩篇官方文檔開始為大家解讀兩個示例。本文不會逐句翻譯，而是選取重點并且試圖加入自己的理解。
閱讀全文
摘要：本文和上文以 [Automatic Differentiation in Machine Learning: a Survey](https://arxiv.org/pdf/1502.05767.pdf )為基礎，逐步分析自動微分這個機器學習的基礎利器。
閱讀全文
摘要：本文和下文以 Automatic Differentiation in Machine Learning: a Survey 這篇論文為基礎，逐步分析自動微分這個機器學習的基礎利器。
閱讀全文
摘要：前幾篇文章我們介紹了 PyTorch 流水線并行的基本知識，自動平衡機制和切分數據，本文我們結合論文內容來看看如何實現并行。
閱讀全文
摘要：前幾篇文章我們介紹了 PyTorch 流水線并行的基本知識，自動平衡機制和切分數據等，本文我們結合論文內容來看看如何實現流水線依賴，核心就是如何建立這些小批次之間的跨設備依賴關系。
閱讀全文
浙公網安備 33010602011771號