多应用+插件架构,代码干净,支持一键云编译,码云点赞13K star,4.8-4.12 预售价格198元 广告
[TOC] ## 离线模式 > [官方离线模式教程](https://huggingface.co/docs/transformers/installation#offline-mode) ## 禁止检测网络,查询更新环境变量 如果不想每次都去下载,使用变量,尤其是在局域网内使用时,可减少联网检查 ``` // linux export HF_DATASETS_OFFLINE=1 export TRANSFORMERS_OFFLINE=1 //win set HF_DATASETS_OFFLINE=1 set TRANSFORMERS_OFFLINE=1 ``` ### 手动获取离线时使用的模型和分词器 ![](https://img.kancloud.cn/4c/4c/4c4c779ddd2fdd383dea8a41e6f59830_2618x1574.png) 手动下载模型相关文件到指定位置 ### 使用代码下载到指定位置 方式一: **推荐** ``` tokenizer = AutoTokenizer.from_pretrained("wangrongsheng/MiniGPT-4-LLaMA", cache_dir="MiniGPT-4-LLaMA") model = AutoModel.from_pretrained("wangrongsheng/MiniGPT-4-LLaMA", cache_dir="MiniGPT-4-LLaMA") ``` 指定缓存位置为当前目录下的`MiniGPT-4-LLaMA` 方式二: ``` from transformers import AutoTokenizer, AutoModelForSeq2SeqLM tokenizer = AutoTokenizer.from_pretrained("bigscience/T0_3B") model = AutoModelForSeq2SeqLM.from_pretrained("bigscience/T0_3B") tokenizer.save_pretrained("./your/path/bigscience_t0") model.save_pretrained("./your/path/bigscience_t0") ``` 之后即可在离线模式下使用了 ``` tokenizer = AutoTokenizer.from_pretrained("./your/path/bigscience_t0") model = AutoModel.from_pretrained("./your/path/bigscience_t0") ``` ### 在代码中限制 1. 预先使用 PreTrainedModel.from_pretrained() 下载文件: ``` from transformers import AutoTokenizer, AutoModelForSeq2SeqLM tokenizer = AutoTokenizer.from_pretrained("bigscience/T0_3B") model = AutoModelForSeq2SeqLM.from_pretrained("bigscience/T0_3B") //保存到指定地方 tokenizer.save_pretrained("./your/path/bigscience_t0") model.save_pretrained("./your/path/bigscience_t0") ``` 3. 现在,你可以在离线时从指定目录使用 PreTrainedModel.from_pretrained() 重新加载你的文件: ``` tokenizer = AutoTokenizer.from_pretrained("./your/path/bigscience_t0") model = AutoModel.from_pretrained("./your/path/bigscience_t0") ``` ### 使用 huggingface_hub 下载 安装模块 ``` python -m pip install huggingface_hub ``` 下载 ``` from huggingface_hub import hf_hub_download hf_hub_download(repo_id="bigscience/T0_3B", filename="config.json", cache_dir="./your/path/bigscience_t0") ``` 使用 ``` from transformers import AutoConfig config = AutoConfig.from_pretrained("./your/path/bigscience_t0/config.json") ```