Huggingface是一家公司，在Google发布BERT模型不久之后，这家公司推出了BERT的pytorch实现，形成一个开源库pytorch-pretrained-bert。后来这家公司又实现了其他的预训练模型，如GPT、GPT2、ToBERTa、T5等。此时，开源库的名字还叫pytorch-pretrained-bert就不太合适了，于是他们就将开源库的名字改成transformers，transformers包括各种模型的实现。

简而言之：Google发布的原始BERT预训练模型（训练好的参数）是基于Tensorflow的，Huggingface是基于pytorch的。

下载

使用预训练模型需要下载模型的文件，最关键的是三个文件：

第一个是配置文件，config.json
第二个是词典文件，vocab.json或vocab.txt
第三个是预训练模型文件，pytorch_model.bin或tf_model.h5。 根据你使用的框架选择

下面具体看看下载方式：首先，打开预训练模型所在网址，比如ERNIE是：https://huggingface.co/nghuyong/ernie-1.0

其次，点击Files and versions选项卡，就可以找到需要下载的文件：config.json、pytorch_model.bin、vocab.txt。

链接: https://fly63.com/nav/3989