1直在路上1

摘要： 一、seq2seq和encoder-decoder關(guān)系 seq2seq是從解決問(wèn)題的目的角度來(lái)說(shuō)的，利用的框架是encoder-decoder 二、項(xiàng)目例子 比如我們有兩個(gè)文件letters_source.txt和letters_target.txt，他們行數(shù)一致，也就是我們的訓(xùn)練集合，他們每一行互 閱讀全文

摘要： 一、背景介紹 假設(shè)我們的訓(xùn)練集每個(gè)樣本都有兩個(gè)特征-$x_1, x_2$，也就是下面的$i_1, i_2$，每個(gè)樣本的標(biāo)簽為$o_1, o_2$（假設(shè)標(biāo)簽是二分類(lèi)，我們用one-hot表示標(biāo)簽） 我們要用下面的神經(jīng)網(wǎng)絡(luò)來(lái)進(jìn)行訓(xùn)練： 二、前向傳播與反向傳播 現(xiàn)在對(duì)他們賦上初值，如下圖：（你暫時(shí)可以認(rèn)為 閱讀全文

摘要： 一、目的 主要以實(shí)例講解HMM，防止公式嚇跑大家 HMM兩個(gè)假設(shè)： 齊次馬爾可夫性假設(shè)：當(dāng)前狀態(tài)只依賴上一個(gè)狀態(tài) 觀測(cè)獨(dú)立性假設(shè)：當(dāng)前觀測(cè)只依賴當(dāng)前狀態(tài) 二、實(shí)例 假設(shè)生活中的天氣只有三種狀態(tài)：sun，cloud，rain，并且我們知道他們之間相互轉(zhuǎn)換的概率，也就是說(shuō)： 昨天是sun，今天天氣轉(zhuǎn)換成 閱讀全文

摘要： 一、XGBoost起源 XGBoost的全稱(chēng)是ExtremeGradient Boosting，2014年2月誕生，作者為華盛頓大學(xué)研究機(jī)器學(xué)習(xí)的大牛——陳天奇。 他在研究中深深的體會(huì)到現(xiàn)有庫(kù)的計(jì)算速度和精度問(wèn)題，為此而著手搭建完成 xgboost 項(xiàng)目。 XGBoost問(wèn)世后，因其優(yōu)良的學(xué)習(xí)效果以 閱讀全文

摘要： 一、背景介紹 奇異值分解（Singular value decomposition）簡(jiǎn)稱(chēng)SVD，是將矩陣分解為特征值和特征向量的另一種方法。 奇異值分解可以將一個(gè)比較復(fù)雜的矩陣用更小更簡(jiǎn)單的幾個(gè)子矩陣相乘來(lái)表示，這些小矩陣描述的都是矩陣的重要的特性。 奇異值分解在圖形降噪、推薦系統(tǒng)中都有很重要的應(yīng)用 閱讀全文

摘要： 一、接著上一節(jié)說(shuō)正定矩陣 所謂正定，就是$x^TAx > 0$（$except \space for \space x = 0$）成立，我們通常也可以通過(guò)特征值，主元，行列式來(lái)判斷 雖然我們知道了什么是正定矩陣，如何判斷正定矩陣，那么正定矩陣是從何而來(lái)的呢？主要來(lái)自：最小二乘法 實(shí)際上，大量的物理問(wèn) 閱讀全文

摘要： 一、本講的目標(biāo) 1）怎么判斷一個(gè)矩陣是否是正定矩陣 2）為什么我們對(duì)正定矩陣如此感興趣 二、正定矩陣 我們從2*2的對(duì)稱(chēng)矩陣開(kāi)始講，注意：線性代數(shù)的范圍內(nèi)正定矩陣需要是對(duì)稱(chēng)矩陣 設(shè)$A = \left[\begin{array}{ll}{a} & {b} \\ {b} & {c}\end{array 閱讀全文

摘要： 一、習(xí)題 本章主要復(fù)習(xí)前面講解的內(nèi)容，我們可以一一自己作答，后期把習(xí)題補(bǔ)上 閱讀全文

摘要： 一、馬爾可夫矩陣 馬爾可夫矩陣?yán)樱?$A=\left[\begin{array}{ccc}{0.1} & {0.01} & {0.3} \\ {0.2} & {0.99} & {0.3} \\ {0.7} & {0} & {0.4}\end{array}\right]$ 1）馬爾可夫矩陣性質(zhì)： 1 閱讀全文

摘要： 一、對(duì)角化 由$Ax=\lambda x$，根據(jù)上一節(jié)所講，我們可以求出若干個(gè)特征值和特征向量，那么我們?nèi)缓罂梢杂脕?lái)干什么呢？ 我們假設(shè)經(jīng)過(guò)求解得到$n$個(gè)線性無(wú)關(guān)的特征向量，按列組成矩陣$S$，我們稱(chēng)$S$為特征向量矩陣，我們先來(lái)算一下$AS$： $AS=A[x_1 \space x_2 \spa 閱讀全文