PEFT documentation
AutoPeftModels
AutoPeftModels
Las clases AutoPeftModel cargan el modelo PEFT adecuado para el tipo de tarea inferiéndolo automáticamente desde el archivo de configuración. Están diseñadas para cargar un modelo PEFT de forma rápida y sencilla en una sola línea de código, sin tener que preocuparse por qué clase de modelo exacta se necesita ni por cargar manualmente una PeftConfig.
AutoPeftModel
from_pretrained
< source >( pretrained_model_name_or_pathadapter_name: str = 'default'is_trainable: bool = Falseconfig: Optional[PeftConfig] = Nonerevision: Optional[str] = Noneimport_allowlist: Optional[list[str]] = None**kwargs )
Parámetros
- import_allowlist (
list[str], opcional, valor predeterminado{get_default_import_allowlist()}) — AutoPeftModel intentará instanciar el modelo base configurado en la configuración del adaptador. Dado que esta operación puede requerir importar otros paquetes, esta lista de permisos actúa como una salvaguarda para evitar la importación de paquetes maliciosos. Es posible que deba especificar aquí el nombre de importación de su paquete si no está incluido en los valores predeterminados.
Un envoltorio para todas las etapas de preprocesamiento que un usuario necesita realizar para cargar un modelo PEFT. Los kwargs se pasan a PeftConfig, que se encarga automáticamente de filtrar los kwargs de los métodos de Hub y de la inicialización del objeto de configuración.
Los parámetros son equivalentes a los de PeftModel.from_pretrained(). Las diferencias se documentan a continuación.