PEFT documentation
AutoPeftModels
快速入门
指南
方法
API 参考
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v0.21.0).
AutoPeftModels
AutoPeftModel 类会根据任务类型自动从配置文件中推断并加载相应的 PEFT 模型。它们旨在让你无需关心具体需要哪个模型类,也无需手动加载 PeftConfig,即可用一行代码快速、轻松地加载 PEFT 模型。
AutoPeftModel
from_pretrained
< source >( pretrained_model_name_or_pathadapter_name: str = 'default'is_trainable: bool = Falseconfig: Optional[PeftConfig] = Nonerevision: Optional[str] = Noneimport_allowlist: Optional[list[str]] = None**kwargs )
一个封装了用户加载 PEFT 模型所需执行的所有预处理步骤的类。kwargs 会传递给 PeftConfig,后者会自动处理 Hub 方法和 config 对象初始化中的 kwargs 过滤。
这些参数与 PeftModel.from_pretrained() 的参数等效。差异如下所述。
AutoPeftModelForCausalLM
AutoPeftModelForSeq2SeqLM
AutoPeftModelForSequenceClassification
AutoPeftModelForTokenClassification
AutoPeftModelForQuestionAnswering
AutoPeftModelForFeatureExtraction
Update on GitHub