Transformers documentation

Optimum

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.13.0).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Optimum

Optimum은 Intel, Furiosa, ONNX Runtime, GPTQ를 위한 양자화와 저수준 PyTorch 양자화 함수를 지원하는 최적화 라이브러리입니다. 이 라이브러리는 Intel CPU/HPU, AMD GPU, Furiosa NPU 등 특정 하드웨어와 ONNX Runtime과 같은 모델 가속기에서의 성능을 향상시키도록 설계되었습니다.

Update on GitHub