浦語書生大模型實戰訓練營02筆記和作業
bash # 請每次使用 jupyter lab 打開終端時務必先執行 bash 命令進入 bash 中
bash /root/share/install_conda_env_internlm_base.sh internlm-demo # 執行該腳本文件來安裝項目實驗環境
激活環境:conda activate internlm-demo
安裝運行依賴庫:
# 升級pip
python -m pip install --upgrade pip
?
pip install modelscope==1.9.5
pip install transformers==4.35.2
pip install streamlit==1.24.0
pip install sentencepiece==0.1.99
pip install accelerate==0.24.1
2.下載模型:最快的方式是復制算力機上共享模型
mkdir -p /root/model/Shanghai_AI_Laboratory
cp -r /root/share/temp/model_repos/internlm-chat-7b /root/model/Shanghai_AI_Laboratory
拉取代碼,與教程git保持一致:cd InternLM
git checkout 3028f07cb79e5b1d7342f4ad8d11efad3fd13d17
更換本地模型:
將 /root/code/InternLM/web_demo.py 中 29 行和 33 行的模型更換為本地的 /root/model/Shanghai_AI_Laboratory/internlm-chat-7b。/root/model/Shanghai_AI_Laboratory/internlm-chat-7b
-
創建模型運行代碼 python cli_demo.py
4.運行:效果如下:

基礎 作業:

下載模型 :加入鏡像源后下載成功:

進階作業:


浙公網安備 33010602011771號