热点事件

Fireworks预览嵌入模型微调

1 篇正式报道1 条事件动态更新于 7月29日 08:34

先了解这件事

事件摘要

还没有公开综述，先看下面的报道时间线。

最新进展 · 正式报道7月29日 08:34

1 个已确认进展

按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。

08:34
A6 a6-052 · Fireworks AI一手
Fireworks 教你用一杯咖啡的成本把 LLM 微调成嵌入模型
Fireworks 发布教程，介绍如何用对比学习把 Qwen3-Embedding-8B 微调成领域嵌入模型，训练约 150 步即可完成。在 LegalBench 法律引用检索上 nDCG@10 提升 36%，全判决案件匹配约提升 2 倍；LoRA rank-32 与全参微调差距约 1 个点，训练窗口从 512 扩到 8k–16k 时 nDCG 和 MRR 接近翻倍。Fireworks Training 同时预览 embedding、cos_similarity_matrix、contrastive_loss 三种模式，分别权衡损失自定义自由度与训练效率。