摘要:
揭開注意力機制的神秘面紗,深入探討它們在大語言模型中的應用和重要性。從加性注意力到Flash Attention,每一種注意力機制都有獨特的魅力和作用。讓我們一同探索這些令人著迷的技術細節,了解它們如何幫助模型更聰明地理解和生成文本。
閱讀全文
posted @ 2025-03-01 17:33
重慶Debug
閱讀(947)
推薦(1)
摘要:
你有沒有想過,為什么AI大神們處理日語時,總是會撓頭?其實,這都要從“token”這個神奇的小東西說起。
閱讀全文
posted @ 2025-02-20 16:07
重慶Debug
閱讀(877)
推薦(5)
摘要:
Yolov8 Yolov10 Detect 物件識別 后處理實現 代碼
閱讀全文
posted @ 2024-06-07 17:16
重慶Debug
閱讀(4032)
推薦(4)
摘要:
blob_vkallocator workspace_vkallocator staging_vkallocator 區別
閱讀全文
posted @ 2023-12-25 17:43
重慶Debug
閱讀(153)
推薦(0)
摘要:
將ncnn靜態鏈接vulkan改成動態加載vulkan的形式,用到了KhronosGroup組織下的Vulkan-SDK里面的CPP部分。
閱讀全文
posted @ 2023-09-14 15:55
重慶Debug
閱讀(371)
推薦(0)
摘要:
NVIDIA Maxine Video Effects SDK 編程指南 NVIDIA Maxine Video Effects支持基于 AI 的視覺效果,這些效果可以輸入標準網絡攝像頭畫面數據,同時也可以傳入一張圖或者來自ffmpeg解碼器的幀數據,讓使用者可以輕松集成到視頻會議和視頻特效內容創建管道中;底層深度學習模型使用 NVIDIA? TensorRT? 通過 NVIDIA AI 進行優化以實現高性能推理,使開發人員能夠在實時應用程序中應用多種效果。本文由重慶Debug原創
閱讀全文
posted @ 2023-06-13 15:42
重慶Debug
閱讀(1528)
推薦(0)
摘要:
三大顯卡廠商(Intel NVIDIA AMD)產品對硬件解碼編碼支持程度列表
閱讀全文
posted @ 2023-06-08 16:40
重慶Debug
閱讀(17292)
推薦(1)
摘要:
Vulkan Support Check and Dynamic Loader C++ code sample
閱讀全文
posted @ 2023-04-28 12:21
重慶Debug
閱讀(559)
推薦(0)
摘要:
如果設備不支持vulkan,就用swiftshader,否則就加載系統的vulkan的正確姿勢,讓程序能夠智能的在vulkan-1.dll和libvk_swiftshader.dll之間切換
閱讀全文
posted @ 2023-03-21 11:45
重慶Debug
閱讀(2862)
推薦(0)
摘要:
NCNN 內存分配器 顯存分配器 ncnn::Allocator ncnn::VkAllocator
閱讀全文
posted @ 2023-03-14 20:49
重慶Debug
閱讀(460)
推薦(0)
摘要:
Vulkan的VkImage和OpenGL的Texture2D互轉的3種方法
閱讀全文
posted @ 2023-02-10 13:36
重慶Debug
閱讀(1414)
推薦(0)
摘要:
用vs2017 qt5.12 靜態編譯onnxruntime-gpu CUDA cuDNN TensorRT的完整教程
閱讀全文
posted @ 2022-12-13 18:56
重慶Debug
閱讀(4363)
推薦(4)
摘要:
OpenCV簡單實現AR需用到的算法函數介紹。OpenCV內置提供的追蹤算法,目標追蹤算法、稠密(密集)光流法、稀疏光流法
閱讀全文
posted @ 2022-08-08 18:39
重慶Debug
閱讀(1306)
推薦(0)
摘要:
OpenCV視頻防抖 AIS智能防抖 圖形學
閱讀全文
posted @ 2022-07-22 16:42
重慶Debug
閱讀(6192)
推薦(1)
摘要:
因為工作上的需求,需要實現一個類似Photoshop里面的鋼筆工具, 分析一下它的功能,包括: 1. 有兩種點:節點和控制點,節點是構成圖形的基本端點,控制點是影響貝塞爾曲線的系數。 2. 創建節點:鼠標左鍵點擊空白區域,即可創建一個方形節點。 3. 刪除節點:鼠標左鍵單擊一個已存在的節點,即可將當
閱讀全文
posted @ 2022-06-17 11:23
重慶Debug
閱讀(748)
推薦(0)
摘要:
近日網上大家都在熱議阿里開除了利用js腳本搶內部月餅的5位員工。 新聞詳見:http://business.sohu.com/20160913/n468382014.shtml 新聞后續跟進:http://toutiao.com/i6330260731623113217/ 其實我從技術的角度上來分析
閱讀全文
posted @ 2016-09-15 23:26
重慶Debug
閱讀(961)
推薦(0)
摘要:
這周二下班之后我在軟件園的草坪下看到一只鳥,它旁邊還有三只雛鳥,有兩只已經橫躺著,有一只已經奄奄一息在抖動翅膀;我走近過去想仔細看,那大鳥立即就飛到我頭頂的樹枝上,依然警惕的矚視著我。等我在那只大鳥的目送下離開大約有十米左右,它才重新飛下來救它孩子。不知道是誰那么缺德搗了它窩,也許是老鼠,也許是清潔
閱讀全文
posted @ 2016-07-31 15:15
重慶Debug
閱讀(401)
推薦(0)
摘要:
接觸背景 因為工作上某項目的需要設計一種分布式處理耗時的運算,每個節點然后將運算結果返回給中心服務器,而最初未了解RPC這部分之前我的設計是在每一個RPC服務器上搭建一個webserver,然后部署運算的service在上面,用json的方式通訊,這樣肯定是可以實現的,但是部署極其麻煩又讓webse
閱讀全文
posted @ 2016-04-09 16:50
重慶Debug
閱讀(6037)
推薦(3)
摘要:
對于開源菜譜的思考近年廚師這行業越來越吃香了,特別是廚師長越來越拽了,甚至和餐館老板關系弄僵了帶著一群徒弟反炒老板的魷魚,但是大家都只看到表層現象,為什么沒有思考一下烹飪和編程有什么相似之處嗎?今天我就是要拿廚師來和程序員做一做比較,剖析一下菜譜和廚藝、廚師這些與之對應的關系。現在我們可以做一個大膽...
閱讀全文
posted @ 2015-09-17 23:09
重慶Debug
閱讀(476)
推薦(1)
摘要:
其實在此之前我并不了解WMI相關的知識,最初是因為今晚上不小心從某軟件站里下載了某所謂綠色軟件,Firefox被挾持首頁到360上網導航了,有問題本身并不可怕,重要的是解決過程,因此我按照正常排查問題的順序:1.首先在Firefox中打開about:config標簽頁,然后看到browser.sta...
閱讀全文
posted @ 2015-09-07 00:34
重慶Debug
閱讀(840)
推薦(2)
摘要:
前一段時間,無意在網上看到了一篇文章感覺找到了同類。文章原文:http://www.guancha.cn/europe/2014_04_15_222159.shtml原來這個世界上還有與我同類的人,只不過他們可能比我更嚴重。文中有提到英國埃塞克斯大學的研究員也在2007年進行了類似實驗。實驗結果顯示...
閱讀全文
posted @ 2015-07-11 22:08
重慶Debug
閱讀(600)
推薦(0)
摘要:
前二天突然發現家里所用的長城寬帶的www.12306.cn無法正常顯示,點擊余票查詢或者車票預訂均打不開,加載時間非常長,現象好似CSS等資源文件未載入成功(如圖所示)更換chrome、firefox、IE均不行,起初我還以為是12306網站被大量刷不到票的黃牛DDOS攻擊的結果,后來等待了幾天一直...
閱讀全文
posted @ 2015-04-26 15:32
重慶Debug
閱讀(5649)
推薦(0)
摘要:
協程的介紹協程(coroutine),意思就是“協作的例程”(co-operative routines),最早由Melvin Conway在1963年提出并實現。跟主流程序語言中的線程不一樣,線程屬于侵入式組件,線程實現的系統稱之為搶占式多任務系統,而協程實現的多任務系統成為協作式多任務系統。線程...
閱讀全文
posted @ 2014-11-12 17:11
重慶Debug
閱讀(1439)
推薦(1)
摘要:
我幾年前曾經遇到過這事情,當時在大街上人很少,就在一個醫院旁邊,一個老人突然倒地抽泣打擺子,有點像羊癲瘋,癲癇的癥狀。 我立即跑到附近30米內的醫院,通知里面窗口的人跟他們說明了情況,他說必須要有負責人才會出救,還說誰知道他是不是流浪漢?后來我又一直就站在旁邊詢問那老人家在那,他抽搐著沒法說話...
閱讀全文
posted @ 2014-09-14 16:51
重慶Debug
閱讀(371)
推薦(1)
摘要:
其實最初不是為了解決這個問題而來的,是Peter兄給我的提示解決另一個問題卻讓我誤打誤撞解決了另外一個問題之后也把這個隱藏了很久的bug找到(之前總是有一些特別短的視頻產生不知所措還以為是視頻素材本身有問題呢),今天真是收獲頗豐啊,對libav的理解更深。 一直以來我的程序架構是讓讀一幀av_re...
閱讀全文
posted @ 2014-09-02 16:42
重慶Debug
閱讀(5502)
推薦(1)
摘要:
OpenCV學習之CvMat的用法詳解及實例CvMat是OpenCV比較基礎的函數。初學者應該掌握并熟練應用。但是我認為計算機專業學習的方法是,不斷的總結并且提煉,同時還要做大量的實踐,如編碼,才能記憶深刻,體會深刻,從而引導自己想更高層次邁進。1.初始化矩陣:方式一、逐點賦值式:CvMat* ma...
閱讀全文
posted @ 2014-08-22 13:26
重慶Debug
閱讀(15160)
推薦(0)
摘要:
距離上一次教程又過去了將近一個多月,相信大家已經都將我上節課所說的東西所完全消化掉了。這節課就來點輕松的,說說libav的命令使用吧。注:遇到不懂的或者本文沒有提到的可以用例如命令后加 --help full或者man 命令(man avconv)查看全部參數細節,或者進libav.org網站查:h...
閱讀全文
posted @ 2014-08-13 17:50
重慶Debug
閱讀(2546)
推薦(1)
摘要:
Bezier曲線的原理Bezier曲線是應用于二維圖形的曲線。曲線由頂點和控制點組成,通過改變控制點坐標可以改變曲線的形狀。一次Bezier曲線公式:一次Bezier曲線是由P0至P1的連續點,描述的一條線段二次Bezier曲線公式:二次Bezier曲線是 P0至P1 的連續點Q0和P1至P2 的連...
閱讀全文
posted @ 2014-07-29 14:32
重慶Debug
閱讀(18632)
推薦(0)
摘要:
突然發現又有好久沒有寫技術blog了,主要原因是最近時間都用來研究libav去了(因為api極類似ffmpeg,雖然出自同一份代碼的另外一個分支,因項目選用libav,故下文均用libav代替),其實要從知道這個庫的時候已經很久了,早在加入avplayer開源社區的已經略有耳聞,看著他們討論我卻一...
閱讀全文
posted @ 2014-07-01 18:11
重慶Debug
閱讀(4677)
推薦(0)
摘要:
最近一段時間在編譯Android 的source code的部分工作,網上的許多資料都廢話太多,下面是我將其精簡出來的版本。(我的編譯環境是 ubuntu linux 12.04 64bit)首先需要安裝一些依賴環境:(http://source.android.com/source/initializing.html)一、配置環境根據我這種環境需要執行的命令有:$ sudo apt-get install sun-java6-jdk$ sudo apt-get install git gnupg flex bison gperf build-essential \ zip curl lib.
閱讀全文
posted @ 2013-12-05 15:41
重慶Debug
閱讀(2613)
推薦(0)
摘要:
how to set html format string to clipboard
copy clipboard to memory
閱讀全文
posted @ 2013-10-19 17:32
重慶Debug
閱讀(2148)
推薦(0)
摘要:
伯樂在線編注:這篇文章綜合了兩位博主(wallwind和DoEver)對一則故事的感觸,這則故事出自張錦喜的一本職場書:《挖一口屬于自己的井》。兩個和尚的故事兩個和尚住在隔壁,所謂隔壁就是隔壁那座山,他們分別住在相鄰的兩座山上的廟里。兩座山之間有一條溪,這兩個和尚每天都會在同一時間下山去溪邊挑水,久而久之,他們便成為了好朋友。就這樣,時間在每天挑水中不知不覺已經過了5年。突然有一天,左邊這座山的和尚沒有下山挑水,右邊那座山的和尚心想:“他大概睡過頭了。”便不以為意。哪知道第二天左邊這座山的和尚還是沒有下山挑水,第三天也一樣。過了一個星期還是一樣,直到過了一個月,右邊那座山的和尚終于忍不住了,他
閱讀全文
posted @ 2013-09-10 13:37
重慶Debug
閱讀(1317)
推薦(0)
摘要:
我們知道實現C++和Javascript通訊有下表5種接口: 引擎編寫語言API接口C、C++與JavaScript交互(變量、函數、類)vc2005編譯靜態庫的大小示例EXE的大小執行、解析JavaScript的速度Google V8C++C++可以23.1M1.1M最快Firefox3.5以前 SpiderMonkeyCC可以1.3M500K慢Firefox高版本SpiderMonkeyC++C可以15.3M1.7M一般Webkit JavaScriptCoreC++C可以26.2M1.4M一般IE未知COM可以未知100K(沒有鏈接庫)一般IE的Trident引擎是非開源的,...
閱讀全文
posted @ 2013-09-09 10:06
重慶Debug
閱讀(2104)
推薦(0)
摘要:
本來是一件很簡單的事情,就是將View上使用OpenGL畫出來的數據生成圖片讓其實現打印的功能,我們知道MFC提供打印的接口是不支持OpenGL的(至少我不清楚),必須將它轉成GDI再畫在Print的pDC上。OpenGL一直都有一個函數名字叫:glReadPixels,它能read a block of pixels from the frame buffer,但是誰都沒想到它竟然轉換成CImage竟然是這樣的規則。http://www.opengl.org/sdk/docs/man/xhtml/glReadPixels.xml中說到:Specify the window coordinat
閱讀全文
posted @ 2013-08-12 10:03
重慶Debug
閱讀(2047)
推薦(0)
摘要:
在調試公司項目代碼的時候,有一個系統設置的功能,里面需要從注冊表中去讀取數據,因為使用了MFC框架所以,為了簡化代碼直接使用了CWinAppEx::GetString 、CWinAppEx::SetString、CWinAppEx::GetInt、CWinAppEx::SetInt等等框架內函數,因為使用它之間只需要SetRegistryKey(_T("Application Name"));設置一下就好了,遠比自己調用win32 API或者CRegKey類用起來方便多了。發現一個GetString的在實現的時候有一個bug,起初是我在讀取一個注冊表String時發現,CW
閱讀全文
posted @ 2013-08-07 13:41
重慶Debug
閱讀(1608)
推薦(0)
摘要:
因為公司的個項目最近開始寫MFC了,又遇到一個坑爹的問題,使用的View視圖模式在VS2010中創建的工程,默認就帶入了許多的Style,例如Office 2007的許多漂亮樣式確實很方便,但是同樣也會造成一些字體模糊問題(見下圖),后來整了半天才解決,特此做個記錄。首先這確定是MS的Bug,http://connect.microsoft.com/VisualStudio/feedback/details/505466/mfc-visual-style-font-size-too-small-to-display-chinese-character-clearly-on-windows-xp
閱讀全文
posted @ 2013-07-23 15:28
重慶Debug
閱讀(1659)
推薦(0)
摘要:
因為初次接觸OpenGL,圖形學也后悔當初在學校沒有認真學,隱約記得教授當時講過圖像變形的問題,而且我的bitmap也是2的N次方:16*16的,在網絡上找到的大多都是一句話:“視口的縱橫比一般和視景體的縱橫比相同,若不同則當圖像投影到視口時就會變形。”太奇怪了,如果說是因為視口和是視景的比例不同的話,應該也會是圖像全部是同樣的變形啊,實際上是同一個層級下,不同的icon會不同的扭曲!無語了。。難道這個實現不了就不能讓用戶放大地圖到某一個層級了嗎?有沒有OpenGL大神能否救救我這個可憐的。。。
閱讀全文
posted @ 2013-06-21 17:25
重慶Debug
閱讀(1968)
推薦(0)
摘要:
因為公司的原因需要很多數據處理的功能,某些功能需要在網頁上進行操作,因此很多情況不能使用桌面版C#、C++、Air程序來實現,對于javascript這一塊我又不想重復造輪子,找了找JQuery又發現很多plugin功能不是我想的功能太符合。終于在某一個機緣下發現了ExtJS這個好框架,首先就被它里面的example所折服,功能看起來比Flex里面的還強大很多,很多功能在Flex中是需要重寫的很多控件才能實現的,在ExtJS中都是原生就帶了只需要設置一個屬性就可以了的。從此我就下定決心所有頁面多的需求和功能變態的需求盡量都用ExtJS來嘗試。但是實際學起來可沒有想象中的那么容易上手哎,全部都是
閱讀全文
posted @ 2013-06-16 15:12
重慶Debug
閱讀(1416)
推薦(1)
摘要:
最近公司有個小任務,需要做一個排程并且能有一個頁面顯示所有用到的服務狀態。排程程序我當然是用python在最快之間內就完成了,剩下來的就是顯示網頁部分,我這個人不甘隨便弄一個最基本丑陋的網頁湊合著來顯示,當然也可以用MVC架構的后臺腳本框架來view產生網頁,但是我偏不想這樣做,原因有幾點:1、頁面實時更新不方便,整個頁面都要刷新,用戶體驗差。2、布局不方便,不如單獨寫一個html頁面用ajax更能夠專心的編寫頁面。3、對ajax不是很熟練,正好借這個機會鍛煉一下。實際開發中我采用了幾個庫:jquery、jquery-ui、google jsapijquery主要用來控制DOM的,jquery
閱讀全文
posted @ 2013-05-30 23:04
重慶Debug
閱讀(1174)
推薦(0)
摘要:
記不住是在哪一篇文章上看到flash player 11之后支持3d,并且是使用顯卡來繪制,速度相當可觀,我身為"flex鐵桿粉絲"的程序員怎么能不嘗試一下呢?立馬試之。。1、首先從官方網站上下載了http://away3d.com/的swc庫文件,并且另外下載了example的zip文件2、創建一個actionscript項目(我吃虧在這里,創建的是Flex項目,查看了很多教程都沒有說清楚這個,唉)3、將目錄下的/away3d-examples-fp11_4_1_1_Beta/ 所有文件、文件夾拷貝到剛剛創建的actionscript項目中4、然后選中一個as例子程序設置
閱讀全文
posted @ 2013-05-17 16:27
重慶Debug
閱讀(832)
推薦(0)