PEFT

🤗 PEFT (Parameter-Efficient Fine-Tuning) là một thư viện để thích ứng hiệu quả các mô hình tiền huấn luyện lớn với nhiều ứng dụng hạ nguồn khác nhau mà không cần tinh chỉnh tất cả các tham số của mô hình, vì việc này có chi phí quá cao. Các phương pháp PEFT chỉ tinh chỉnh một số lượng nhỏ các tham số (thêm) của mô hình - giảm đáng kể chi phí tính toán và lưu trữ - trong khi vẫn đạt được hiệu suất tương đương với mô hình được tinh chỉnh hoàn toàn. Điều này giúp việc huấn luyện và lưu trữ các mô hình ngôn ngữ lớn (LLM) và các mô hình lớn khác trở nên dễ tiếp cận hơn trên phần cứng tiêu dùng.

PEFT được tích hợp với các thư viện Transformers, Diffusers và Accelerate để cung cấp cách nhanh hơn và dễ dàng hơn để tải, huấn luyện và sử dụng các mô hình lớn cho suy luận.

Có rất nhiều phương pháp để "thích ứng" các mô hình hiện có, thường tích hợp sâu rộng vào mô hình. PEFT có thể được xem như một khung làm việc cho các phương pháp thích ứng mô hình tùy ý (sửa đổi trọng số, bọc các lớp, thao tác trên KV-caches, ...) đồng thời đóng vai trò là một bản tham chiếu cho nhiều phương pháp tinh chỉnh.