HuggingFace官方库，用<1%参数高效微调大模型(7B-70B)，支持LoRA/QLoRA等25+方法，显存需求降至6GB即可训练70B模型
说明：
## 核心用法
PEFT (Parameter-Efficient Fine-Tuning) 是 HuggingFace 官方维护的轻量级微调库，专为大语言模型 (7B-70B 参数) 在有限显存下的高效训练而设计。核心机制是在冻结原模型参数的基础上，引入少量可训练的低秩矩阵 (LoRA) 或量化适配器 (QLoRA)，实现以 =0.13.0, transformers>=4.45.0, torch>=2.0.0, bitsandbytes>=0.43.0
– **许可证**: MIT (宽松开源)
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
会员专属
