Hugging Face's logo

PEFT documentation

구성

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.21.0).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

구성

PeftConfigMixin은 PeftModel의 어댑터 구성을 저장하기 위한 기본 구성 클래스이며, PromptLearningConfig는 소프트 프롬프트 방법(p-tuning, prefix tuning, prompt tuning)의 기본 구성 클래스입니다. 이러한 기본 클래스에는 Hub에서 모델 구성을 저장하고 로드하는 방법, 사용할 PEFT 방법, 수행할 작업 유형, 레이어 수와 어텐션 헤드 수와 같은 모델 구성을 지정하는 메서드가 포함되어 있습니다.

PeftConfigMixin

class peft.config.PeftConfigMixin

< >

( task_type: Optional[TaskType] = Nonepeft_type: Optional[PeftType] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = None )

매개변수

  • peft_type (Union[~peft.utils.config.PeftType, str]) — 사용할 Peft 메서드의 유형입니다.

이것은 PEFT 어댑터 모델의 기본 구성 클래스입니다. 모든 PEFT 어댑터 모델에 공통적인 모든 메서드를 포함합니다. 이 클래스는 모델을 Hub에 푸시하는 메서드를 포함하는 PushToHubMixin을 상속합니다. save_pretrained 메서드는 어댑터 모델의 구성을 디렉터리에 저장합니다. from_pretrained 메서드는 디렉터리에서 어댑터 모델의 구성을 로드합니다.

check_kwargs

< >

( **kwargs )

config 인스턴스를 초기화하기 전에 kwargs를 확인합니다.

Subclasses는 이 메서드를 오버라이드하여 특정 체크를 추가할 수 있습니다.

from_json_file

< >

( path_json_file: str**kwargs )

매개변수

  • path_json_file (str) — json 파일의 경로입니다.

json 파일에서 구성 파일을 로드합니다.

from_peft_type

< >

( **kwargs )

매개변수

  • kwargs (configuration keyword arguments) — 구성 초기화에 전달되는 키워드 인자.

이 메서드는 kwargs 집합에서 어댑터 모델의 구성을 로드합니다.

peft_type 인수를 통해 적절한 구성 유형이 결정됩니다. peft_type이 제공되지 않으면 호출된 클래스 유형이 인스턴스화됩니다.

from_pretrained

< >

( pretrained_model_name_or_path: strsubfolder: Optional[str] = None**kwargs )

매개변수

  • pretrained_model_name_or_path (str) — 설정이 저장된 디렉터리 또는 Hub 저장소 id입니다.
  • subfolder (str, 선택 사항) — pretrained_model_name_or_path 하위의 선택적 서브폴더입니다.
  • kwargs (추가 키워드 인자, 선택) — huggingface_hub.hf_hub_download로 전달되는 키워드 인자(예: token, revision, cache_dir). task_type 또는 r과 같은 PEFT 설정 전용 인자는 오버라이드로 전달할 수 없습니다. 속성을 변경하려면 로드된 설정에 직접 설정하세요.

이 메서드는 디렉터리에서 어댑터 모델의 구성을 로드합니다.

save_pretrained

< >

( save_directory: str**kwargs )

매개변수

  • save_directory (str) — 설정이 저장될 디렉터리입니다.
  • kwargs (추가 키워드 인자, 선택 사항) — push_to_hub 메서드로 전달되는 추가 키워드 인자입니다.

이 메서드는 어댑터 모델의 구성을 디렉터리에 저장합니다.

to_dict

< >

( )

어댑터 모델의 구성을 사전으로 반환합니다.

PeftConfig

클래스 peft.PeftConfig

< >

( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = False )

매개변수

  • peft_type (Union[~peft.utils.config.PeftType, str]) — 사용할 Peft 메서드의 유형입니다.
  • task_type (Union[~peft.utils.config.TaskType, str]) — 수행할 작업의 유형입니다.
  • inference_mode (bool, 기본값 False) — Peft 모델을 추론 모드로 사용할지 여부.

이것은 PeftModel의 구성을 저장하기 위한 기본 구성 클래스입니다.

PromptLearningConfig

클래스 peft.PromptLearningConfig

< >

( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = Falsenum_virtual_tokens: int = Nonetoken_dim: int = Nonenum_transformer_submodules: Optional[int] = Nonenum_attention_heads: Optional[int] = Nonenum_layers: Optional[int] = Nonemodules_to_save: Optional[list[str]] = None )

매개변수

  • num_virtual_tokens (int) — 사용할 가상 토큰의 수입니다.
  • token_dim (int) — 기본 transformer 모델의 숨겨진 임베딩 차원입니다.
  • num_transformer_submodules (int) — 기본 transformer 모델에 포함된 transformer 서브모듈의 수입니다.
  • num_attention_heads (int) — 기본 transformer 모델의 attention head 수입니다.
  • num_layers (int) — 기본 transformer 모델의 레이어 수입니다.

PrefixTuning, PromptEncoder, 또는 PromptTuning의 구성을 저장하기 위한 기본 구성 클래스입니다.

get_peft_config

peft.get_peft_config

< >

( config_dict: dict[str, Any] )

매개변수

  • config_dict (Dict[str, Any]) — 구성 매개변수를 포함하는 사전.

사전에서 Peft config 객체를 반환합니다.

Update on GitHub

←PEFT 유형 Tuner→