摘要： 作為早期的 AI 框架，Caffe 中卷積的實現(xiàn)采用的是基于 Im2Col 的方法，至今仍是卷積重要的優(yōu)化方法之一。 從上一篇文章的介紹中可以看到，在 CNN 中卷積直接計算的定義中，卷積核在輸入圖片上滑動，對應(yīng)位置的元素相乘后相加求和，滑窗的大小由卷積核決定。由于滑動操作時的窗口的數(shù)據(jù)橫向是連續(xù)的 閱讀全文

摘要： 2024年9月21日，《AI系統(tǒng)：原理與架構(gòu)》新書發(fā)布會在上海世博館華為HC大會順利舉辦。本書由華為昇騰技術(shù)專家、B站AI科普博主ZOMI醬和哈工大軟件學(xué)院副院長蘇統(tǒng)華教授聯(lián)合編寫，是領(lǐng)域內(nèi)AI系統(tǒng)方面填補空白的重磅之作 發(fā)布會上，《AI系統(tǒng)：原理與架構(gòu)》的作者、編輯代表分別介紹了相關(guān)情況，闡述了本 閱讀全文

摘要： 在人工智能技術(shù)的浪潮中，寶通科技始終致力于探索和應(yīng)用前沿技術(shù)，推動工業(yè)智能化的發(fā)展。7月26日，寶通科技特邀昇騰生態(tài)技術(shù)首席陳仲銘博士，為寶通員工帶來了一場主題為《工業(yè)大模型與業(yè)界發(fā)展生態(tài)》的技術(shù)分享會。本次分享會不僅為寶通提供了一個了解工業(yè)大模型領(lǐng)域最新發(fā)展趨勢和業(yè)界動態(tài)的平臺，也進一步推動了寶通 閱讀全文

摘要： 最近給領(lǐng)導(dǎo)匯報研發(fā)搗鼓的AI編譯器，里面有一個東西很吊炸天，研發(fā)天天說自己搞了個自研很牛逼的IR。我給領(lǐng)導(dǎo)一匯報，就被領(lǐng)導(dǎo)刁飛了，IR、IR，IR有啥用，能節(jié)約我的研發(fā)成本嗎？IR能解決啥問題？我真的想知道，AI編譯器中的IR是什么？ 閱讀全文

摘要： 目前主流的深度學(xué)習(xí)框架都選擇使用計算圖來抽象神經(jīng)網(wǎng)絡(luò)計算表達(dá)，通過通用的數(shù)據(jù)結(jié)構(gòu)（張量）來理解、表達(dá)和執(zhí)行神經(jīng)網(wǎng)絡(luò)模型，通過計算圖可以把 AI 系統(tǒng)化的問題形象地表示出來。 本節(jié)將會以AI概念落地的時候，遇到的一些問題與挑戰(zhàn)，因此引出了計算圖的概念來對神經(jīng)網(wǎng)絡(luò)模型進行統(tǒng)一抽象。接著展開什么是計算，計算圖的基本構(gòu)成來深入了解誒計算圖。最后簡單地學(xué)習(xí)PyTorch如何表達(dá)計算圖。 閱讀全文

摘要： 我給領(lǐng)導(dǎo)匯報AI框架用函數(shù)式編程好，沒講明白，說函數(shù)式就是寫函數(shù)那樣方便，都被領(lǐng)導(dǎo)吊飛了，啥玩意，寫啥不是寫函數(shù)，狗屁不通！網(wǎng)上搜說用tensorflow那就是用聲明式編程，用pytorch就是命令式編程。有兄弟能講清楚，AI框架的編程范式到底如何區(qū)分？AI框架中的不同編程范式有什么作用嗎？ 閱讀全文

摘要： 都2023年，才來回答這個問題，自然毫無懸念地選擇PyTorch，TensorFlow在大模型這一波浪潮中沒有起死回生，有點惋惜，現(xiàn)在GLM、GPT、LLaMA等各種大模型都是基于PyTorch框架構(gòu)建。這個事情已經(jīng)水落石出。 不過呢，我覺得可以一起去回顧下，在AI框架發(fā)展的過程中，都沉陷了哪些技術(shù)點，為什么一開始這么多人在糾結(jié)到底用哪個框架。 閱讀全文

摘要： 最近一個月朋友老來挑戰(zhàn)我：“什么才是AI框架？”，于是趁著夜深人靜的時候，真正地去梳理什么是AI框架，下面是我對AI框架的一些思考。 到底什么是AI算法？什么是神經(jīng)網(wǎng)絡(luò)？神經(jīng)網(wǎng)絡(luò)有什么用？為什么神經(jīng)網(wǎng)絡(luò)需要訓(xùn)練？什么是模型？AI框架有什么用？AI框架能解決什么問題？ 上面的幾個問題其實還挺有挑戰(zhàn)的。 閱讀全文

摘要： 【AI編譯器】深度學(xué)習(xí)的編譯與優(yōu)化就是將當(dāng)前的深度學(xué)習(xí)計算任務(wù)通過一層或多層中間表達(dá)進行翻譯和優(yōu)化，最終轉(zhuǎn)化成目標(biāo)硬件上的可執(zhí)行代碼的過程。本系列將圍繞現(xiàn)有【AI編譯器】中的編譯和優(yōu)化工作的內(nèi)容展開介紹。 閱讀全文