你好呀!该目录应该为您提供如何从头到尾 llama 2 模型的简要概述。我们正在训练的示例模型将从对食谱进行分类。库 llama 2 模型。您应该按以下顺序查看此目录中的笔记本:
- :演示如何生成 gpt-4 完成的示例数据集,使用 openpipe 存储它,然后以适合训练模型的格式导出它。
- :在步骤 (1) 的数据集上训练 llama 2 7b 模型。
- :使用我们在步骤 (1) 中预留的特殊测试集来评估我们训练的模型。
- :用于比较我们的微调模型 gpt-3.5 和 gpt-4 之间的成本和完成延迟的脚本。
如果您想自己跟进,我建议使用。我们使用的训练脚本将在任何具有 24gb 或更多 vram 的 gpu 上运行。
未经允许不得转载:凯发k8国际真人 » 教程:微调你自己的 llama 2