Big-Yellow-J

摘要： From：https://www.big-yellow-j.top/posts/2025/10/11/Quantized.html 模型量化技術 簡單了解幾個概念： 量化：是一種模型壓縮的常見方法，將模型權重從高精度（如FP16或FP32）量化為低比特位（如INT8、INT4）。常見的量化策略可以分 閱讀全文

摘要： 評價指標 準確率/精確率/召回率 Positive (預測到的正例) Negative (預測到的反例) True (預測結果為真) TP TN False (預測結果為假) FP FN 爭對正案例的計算： 1、準確率計算方式（ACC）：\(Acc= \frac{TP+TN}{TP+TN+FP+FN 閱讀全文

摘要： 本文詳細解析QwenVL2.5模型的處理流程及微調方法，包括模板化輸入（通過processor.apply_chat_template處理對話messages，含<|im_start|>等標記模擬用戶/assistant對話）、編碼輸入（圖像處理采用smart_resize動態調整分辨率確保可被patch_size整除，經歸一化后轉為Vit的patch序列；文本通過tokenizer編碼）、模型處理（視覺Transformer對pixel_values進行Conv3d處理生成特征，結合window-attention計算）。同時，闡述了SFT微調流程：數據層面構建對話模板生成input_ids、pixel_values等輸入，模型層面采用QLoRA優化并結合gradient_checkpointing等顯存優化策略。強化學習部分涵蓋DPO（處理三元組數據計算chosen/rejected_logps，通過KL散度等計算loss）和GRPO（無需ref_model，利用reward_function及高熵過濾優化loss），為QwenVL2.5-3B的實際應用與性能提升提供技 閱讀全文

摘要： 最新內容：https://www.big-yellow-j.top/posts/2025/08/28/MultiModal2.html 對于多模態系列模型大致的多模態大語言模型的通用模型框架和每個模塊的一些實現方法[1]： 基本上就是對于圖片/視頻等通過不同的視覺編碼器（Vit/Clip等）進行編碼 閱讀全文

摘要： 本文介紹基座擴散模型，涵蓋基于Unet的SD1.5、SDXL、Imagen及基于DiT框架的Hunyuan-DiT等。對比SD1.5與SDXL差異：SDXL采用雙CLIP編碼器（OpenCLIP-ViT/G+CLIP-ViT/L）提升文本理解，默認輸出1024x1024圖像；解析Imagen多階段生成策略、DiT的patch分割與adaLN結構，以及ControlNet、DreamBooth等Adapter技術在圖像生成控制中的應用。 閱讀全文

摘要： 圖像擦除是圖像生成模型重要應用，本文介紹CVPR-2025相關的SmartEraser、Erase Diffusion、OmniEraser模型，涵蓋數據集構建（實體過濾、混合高斯算法MOG）、關鍵技術（語義分割SAM、CLIP、IoU、alpha blending、GroundDINO+SAM2）及模型優化（輸入改進、mask處理、微調FLUX.1-dev）等內容。 閱讀全文

摘要： 一致性模型（consistency model）是擴散模型（Diffusion Models）的圖像生成加速方法，通過將隨機過程轉化為常微分方程（ODE），引入Consistency Regularization實現一步或少數幾步生成。LCM/LCM-Lora進一步通過Skipping-Step和Classifier-free guidance（CFG）優化，代碼可參考diffusers庫實踐。 閱讀全文

摘要： 更加好的排版：https://www.big-yellow-j.top/posts/2025/06/11/ImageEraser1.html 本文主要介紹幾篇圖像擦除論文模型：PixelHacker、PowerPanint等，并且實際測試模型的表現效果 PixelHacker Code: https 閱讀全文

摘要： 擴散模型通過前向加噪與反向去噪過程實現圖像生成，核心為噪聲調度控制加噪權重，反向過程用神經網絡近似分布。介紹條件擴散模型（文本等條件指導生成）、潛在擴散模型（低維潛在空間建模）及DDPM、DDIM等變體，涉及Unet、Dit等模型結構，訓練目標為預測噪聲以優化去噪生成效果。 閱讀全文