torchtune
torchtune 是面向训练数据、模型预训练、微调、对齐、实验或模型生命周期的 AI 模型训练工具。
分类:PyTorch 原生 LLM 微调 / 开源库
公司 / 团队:PyTorch
详细介绍
该产品的主要能力包括模块化 Recipe、全参数、LoRA、QLoRA、DPO、知识蒸馏、分布式训练、QAT、数据集和推理导出。
模型训练质量受到数据、模板、Tokenizer、超参数、并行策略、硬件、随机种子和评估方法影响。详情页应把支持模型、训练方法、硬件、数据格式、许可证、费用、版本和复现条件拆成动态字段维护。
适合场景
- PyTorch 团队
- 研究复现
- 可读训练代码
- 单机和多 GPU LLM 微调
使用注意
- torchtune 偏底层和可定制
- 版本与 PyTorch、torchao 需匹配
- 生产训练要补充日志、调度和容错
- 训练产物上线前应通过独立评测、安全测试、人工审核和真实流量灰度验证。