PEFT documentation

AutoPeftModels

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.21.0).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

AutoPeftModels

AutoPeftModel 类会根据任务类型自动从配置文件中推断并加载相应的 PEFT 模型。它们旨在让你无需关心具体需要哪个模型类,也无需手动加载 PeftConfig,即可用一行代码快速、轻松地加载 PEFT 模型。

AutoPeftModel

类 peft.AutoPeftModel

< >

( *args**kwargs )

from_pretrained

< >

( pretrained_model_name_or_pathadapter_name: str = 'default'is_trainable: bool = Falseconfig: Optional[PeftConfig] = Nonerevision: Optional[str] = Noneimport_allowlist: Optional[list[str]] = None**kwargs )

参数

  • import_allowlist (list[str],可选,默认为 {get_default_import_allowlist()}) — AutoPeftModel 将尝试实例化适配器配置中指定的基础模型。 由于此操作可能需要导入其他包,此允许列表是一种安全机制,用于防止导入恶意包。如果默认列表中不包含您的包的导入名称,您可能需要在此处指定它。

一个封装了用户加载 PEFT 模型所需执行的所有预处理步骤的类。kwargs 会传递给 PeftConfig,后者会自动处理 Hub 方法和 config 对象初始化中的 kwargs 过滤。

这些参数与 PeftModel.from_pretrained() 的参数等效。差异如下所述。

AutoPeftModelForCausalLM

类 peft.AutoPeftModelForCausalLM

< >

( *args**kwargs )

AutoPeftModelForSeq2SeqLM

类 peft.AutoPeftModelForSeq2SeqLM

< >

( *args**kwargs )

AutoPeftModelForSequenceClassification

类 peft.AutoPeftModelForSequenceClassification

< >

( *args**kwargs )

AutoPeftModelForTokenClassification

类 peft.AutoPeftModelForTokenClassification

< >

( *args**kwargs )

AutoPeftModelForQuestionAnswering

类 peft.AutoPeftModelForQuestionAnswering

< >

( *args**kwargs )

AutoPeftModelForFeatureExtraction

类 peft.AutoPeftModelForFeatureExtraction

< >

( *args**kwargs )

Update on GitHub