重要術語詞匯

LLM 模型： 大型語言模型或 LLM 是一種機器學習模型，可以學習 NLP 任務的文本數據的底層結構和語義。他們通過學習一組代表文本高級概念和特征的潛在變量來做到這一點。從本質上講，LLM 模型試圖捕捉文本的內容，而不僅僅關注使用的單詞。
預訓練模型：預訓練模型是經過大量數據訓練以促進特定任務（例如圖像分類、語音識別或自然語言處理）的機器學習模型。這些模型已經學習了有效執行任務所需的最佳權重和參數集，以便它們可以用作進一步訓練新數據或用于其他應用程序的起點。
參數：參數是模型在訓練過程中學習的值/變量，用于對新數據進行預測或分類。參數通常表示為神經網絡中的權重和偏差，它們控制輸入數據如何轉換為輸出預測。
遷移學習：遷移學習是指采用為特定任務開發的預訓練模型，并將其重新用作新的相關任務的起點。這涉及使用預訓練模型的學習特征表示作為新模型的起點，然后在特定于新任務的較小數據集上進行訓練。
微調：微調是一種特定類型的遷移學習，其中預訓練模型的權重在新的特定于任務的數據集上進行調整或微調。預訓練模型用作此過程的起點，但在訓練過程中會調整權重以更好地適應新數據。微調的量可能會有所不同，具體取決于可用數據量以及原始任務和新任務之間的相似性。
填充：填充是微調語言模型過程中用于處理可變長度輸入序列的常用技術。這是向輸入序列添加特殊標記（通常是“填充”標記）以使其達到固定長度的過程。
隱藏表示：隱藏表示是預訓練模型層學習的輸入數據的內部表示。這些表示捕獲輸入數據的不同抽象級別，并且可以用作特征來為手頭的任務訓練新模型。
少樣本學習：少樣本學習是一種機器學習技術，旨在基于有限數量的標記數據（通常在幾十到幾百個示例的范圍內）訓練模型，然后僅用很少甚至是單個標記的示例。少樣本學習算法可以通過利用相關任務或領域的先驗知識，通過很少的示例來學習識別新的對象、類別或概念。

什么是PEFT？

參數高效微調（PEFT）是自然語言處理（NLP）中使用的一種技術，用于提高預訓練語言模型在特定下游任務上的性能。它涉及重用預訓練模型的參數并在較小的數據集上對其進行微調，與從頭開始訓練整個模型相比，這可以節省計算資源和時間。
PEFT 通過凍結預訓練模型的某些層并僅微調特定于下游任務的最后幾層來實現這種效率。這樣，模型就可以以更少的計算開銷和更少的標記示例來適應新任務。盡管 PEFT 是一個相對新穎的概念，但自從引入遷移學習以來，更新最后一層模型已經在計算機視覺領域得到實踐。即使在 NLP 領域，靜態和非靜態詞嵌入的實驗也很早就進行了。
參數高效的微調旨在提高預訓練模型（例如 BERT 和 RoBERTa）在各種下游任務（包括情感分析、命名實體識別和問答）上的性能。它在數據和計算資源有限的低資源環境中實現了這一點。它僅修改模型參數的一小部分，并且不太容易出現過度擬合。

微調和參數高效微調有什么區別？

微調和參數高效微調是機器學習中用于提高預訓練模型在特定任務上的性能的兩種方法。
微調是采用預先訓練的模型，并使用新數據進一步訓練新任務。整個預訓練模型通常經過微調訓練，包括其所有層和參數。此過程的計算成本可能很高且耗時，尤其是對于大型模型。
另一方面，參數高效微調是一種微調方法，專注于僅訓練預訓練模型參數的子集。這種方法涉及識別新任務最重要的參數，并僅在訓練期間更新這些參數。這樣做，PEFT 可以顯著減少微調所需的計算量。

在計算資源有限或涉及大型預訓練模型的情況下，參數高效的微調特別有用。在這種情況下，PEFT 可以提供一種更有效的方法來微調模型，而不會犧牲性能。然而，值得