Hugging Face PEFT
Hugging Face PEFT 是面向训练数据、模型预训练、微调、对齐、实验或模型生命周期的 AI 模型训练工具。
分类:参数高效微调 / 开源库
公司 / 团队:Hugging Face
详细介绍
该产品的主要能力包括LoRA、AdaLoRA、IA3、Prompt Tuning、Prefix Tuning、Adapter 加载与合并、Transformers、Diffusers 和 Accelerate 集成。
模型训练质量受到数据、模板、Tokenizer、超参数、并行策略、硬件、随机种子和评估方法影响。详情页应把支持模型、训练方法、硬件、数据格式、许可证、费用、版本和复现条件拆成动态字段维护。
适合场景
- 单卡和低显存微调
- 多任务 Adapter
- 文本
- 视觉和扩散模型
- 快速实验
使用注意
- PEFT 只训练部分参数,不一定适合所有知识注入任务
- 合并 Adapter 前需验证精度和量化影响
- 基座模型许可证仍适用
- 训练产物上线前应通过独立评测、安全测试、人工审核和真实流量灰度验证。