
pytorch 中加载 bert 模型
发布日期:2021-05-04 21:01:54
浏览次数:34
分类:原创文章
本文共 1215 字,大约阅读时间需要 4 分钟。
import torchfrom transformers import BertTokenizer, BertModel#MODELNAME='hfl/chinese-bert-wwm-ext' #ok#MODELNAME ='hfl/chinese-bert-wwm' #ok#MODELNAME='hfl/rbt3'#ok#MODELNAME='hfl/rbtl3'#ok#MODELNAME='hfl/chinese-roberta-wwm-ext-large' #okMODELNAME='hfl/chinese-roberta-wwm-ext' # oktokenizer = BertTokenizer.from_pretrained(MODELNAME)roberta = BertModel.from_pretrained(MODELNAME)
可以根据需要选择不同的模型。
如果它自动下载时出错,报如下异常:
Exception has occurred: OSError
Unable to load weights from pytorch checkpoint file. If you tried to load a PyTorch model from a TF 2.0 checkpoint, please set from_tf=True.
清除 ~/.cache/torch/transformers下的所有文件后重试。 ~表示你的 home目录,如root用户就是 /root, 其它用户是 /home/username
模型来源于哈工大 ,需要在pytorch中安装transformers
pip install transformers
使用Huggingface-Transformers依托于Huggingface-Transformers 2.2.2,可轻松调用以上模型。tokenizer = BertTokenizer.from_pretrained("MODEL_NAME")model = BertModel.from_pretrained("MODEL_NAME")注意:本目录中的所有模型均使用BertTokenizer以及BertModel加载,请勿使用RobertaTokenizer/RobertaModel!其中MODEL_NAME对应列表如下:模型名 MODEL_NAMERoBERTa-wwm-ext-large hfl/chinese-roberta-wwm-ext-largeRoBERTa-wwm-ext hfl/chinese-roberta-wwm-extBERT-wwm-ext hfl/chinese-bert-wwm-extBERT-wwm hfl/chinese-bert-wwmRBT3 hfl/rbt3RBTL3 hfl/rbtl3
发表评论
最新留言
网站不错 人气很旺了 加油
[***.192.178.218]2025年03月28日 04时24分09秒
关于作者

喝酒易醉,品茶养心,人生如梦,品茶悟道,何以解忧?唯有杜康!
-- 愿君每日到此一游!
推荐文章
vue.js常用指令及用法
2019-03-04
GET和POST的区别
2019-03-04
vuex的核心概念和运行机制
2019-03-04
v-if和v-show的区别
2019-03-04
System V共享内存的基本使用与实现
2019-03-04
SSLOJ1210最佳游览问题
2019-03-04
P1026 统计单词个数&&SSL1017
2019-03-04
SSLOJ1692 USACO 3.2 Magic Squares 魔板&P2730
2019-03-04
SSLOJ1063 统计数字
2019-03-04
P4305 [JLOI2011]不重复数字
2019-03-04
P5854 【模板】笛卡尔树
2019-03-04
SpringMVC的基础配置之注解驱动
2019-03-04
在Ubuntu上安装GCC编译器
2019-03-04
SecureCRT注册机
2019-03-04
菜鸟程序员,被无良HR欺骗,因祸得福,竟“意外”拿下美团offer
2019-03-04
吓我一跳?看了线程和线程池的对比,才知道池化技术到底有多牛
2019-03-04
给公司妹子讲了好久,头都大了,一个SQL语句是如何执行的?
2019-03-04
阿里大牛手撕SpringBoot,Cloud,Nginx与Docker,你凭什么搞不懂
2019-03-04
结局已定,一点不慌,秋招京东三面,给了意料之中的20KOffer。
2019-03-04
Java开发5年的我偶然被几条朋友圈打击,成功点燃,别说了,不去阿里对不起自己!
2019-03-04