使用 🤗 PEFT 加载adapters
参数高效微调（PEFT）方法在微调过程中冻结预训练模型的参数，并在其顶部添加少量可训练参数（adapters）。adapters被训练以学习特定任务的信息。这种方法已被证明非常节省内存，同时具有较低的计算使用量，同时产生与完全微调模型相当的结果。
使用PEFT训练的adapters通常比完整模型小一个数量级，使其方便共享、存储和加载。
如果您对学习更多关于🤗 PEFT库感兴趣，请查看文档。
设置
首先安装 🤗 PEFT：
pip install peft
如果你想尝试全新的特性，你可能会有兴趣从源代码安装这个库：
pip install git+https://github.com/huggingface/peft.git
支持的 PEFT 模型
Transformers原生支持一些PEFT方法，这意味着你可以加载本地存储或在Hub上的adapter权重，并使用几行代码轻松运行或训练它们。以下是受支持的方法：
如果你想使用其他PEFT方法，例如提示学习或提示微调，或者关于通用的 🤗 PEFT库，请参阅文档。
加载 PEFT adapter
要从huggingface的Transformers库中加载并使用PEFTadapter模型，请确保Hub仓库或本地目录包含一个adapter_config.json文件和adapter权重，如上例所示。然后，您可以使用AutoModelFor类加载PEFT adapter模型。例如，要为因果语言建模加载一个PEFT adapter模型：
- 指定PEFT模型id
- 将其传递给
AutoModelForCausalLM类
你可以使用AutoModelFor类或基础模型类（如OPTForCausalLM或LlamaForCausalLM）来加载一个PEFT adapter。
您也可以通过load_adapter方法来加载 PEFT adapter。
基于8bit或4bit进行加载
bitsandbytes集成支持8bit和4bit精度数据类型，这对于加载大模型非常有用，因为它可以节省内存（请参阅bitsandbytes指南以了解更多信息）。要有效地将模型分配到您的硬件，请在from_pretrained()中添加load_in_8bit或load_in_4bit参数，并将device_map="auto"设置为：
添加新的adapter
你可以使用add_adapter方法为一个已有adapter的模型添加一个新的adapter，只要新adapter的类型与当前adapter相同即可。例如，如果你有一个附加到模型上的LoRA adapter：
添加一个新的adapter：
现在您可以使用set_adapter来设置要使用的adapter。
启用和禁用adapters
一旦您将adapter添加到模型中，您可以启用或禁用adapter模块。要启用adapter模块：
要禁用adapter模块：
训练一个 PEFT adapter
PEFT适配器受Trainer类支持，因此您可以为您的特定用例训练适配器。它只需要添加几行代码即可。例如，要训练一个LoRA adapter：
如果你不熟悉如何使用Trainer微调模型，请查看微调预训练模型教程。
- 使用任务类型和超参数定义adapter配置（参见
LoraConfig以了解超参数的详细信息）。
- 将adapter添加到模型中。
- 现在可以将模型传递给
Trainer了！
要保存训练好的adapter并重新加载它：