NVIDIA 详解如何用 Nemotron-Personas 数据集微调 Nemotron 3.5 Lightning
NVIDIA 发布 Nemotron-Personas 法国和比利时数据集,并给出用其微调 Nemotron 3.5 Lightning 的完整后训练流程。流程包括定义行为契约、用 persona 生成合成对话、在 NVIDIA NeMo 上用 LoRA 微调、合并适配器,再与基座模型在冻结测试集上逐条对比评测。法国数据集与 Pleias 合作构建,比利时数据集由 Pleias 与 KU Leuven 参与,Nemotron 仓库提供数据生成、训练和评测的可复用步骤及 agent skills。

rk,建议使用 NVIDIA 托管的 API。在本示例中,我们使用 vLLM 在本地部署 Nemotron 3.5 Lightning。 docker run -d --gpus all --ipc=host --network host \ -v /.cache/huggingface:/root/.cache/huggingface vllm/vllm-openai:v0.26.0 \ --model nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 \ --served-model-name lightning --port 8000 --reasoning-parser nemotron v3 点 config/sdg data designer.yaml 在该服务器上: output path: use-case-examples/french-public-service-assistant/data/sdg/sft raw.jsonl num records: 2000 seed dataset: path: use-ca
匹配字段正文




