Kakao 在 Hugging Face 开源两款韩语优化 AI 搜索嵌入模型
Kakao Open-Sources Two AI Search Models Optimized for Korean
Kakao 于 10 月 29 日在 Hugging Face 开源 Kanana-2-3b-embedding(30 亿参数)和 Kanana-2-1.3b-embedding(13 亿参数)两款嵌入模型,面向个性化 AI 智能体与 RAG 场景。Kakao 称内部评测中两款模型韩语检索性能优于同规模 llama-nemotron-embed-1b-v2 和 Qwen3-Embedding-4B,英语性能相当,推理效率更高,内存占用与推理速度较前代 Kanana 嵌入模型提升数十倍以上。模型采用 MRL 支持开发者调节嵌入向量大小,并以 Kanana Open License 允许商用。
正文 · AI 翻译
Kakao于10月29日发布了两款开源嵌入模型,用于开发个性化AI智能体。(图片来源:Kakao)
PC본문_6월 Mouser(文章中)//
AD Manager | AD178089411676 //
// AD Manager | AD178089411676
Kakao发布了两款专为开发个性化人工智能(AI)智能体而设计的开源嵌入模型。这两款模型提升了韩语检索性能,并缩小了模型规模以提高运行效率。
Kakao于10月29日表示,已在全球AI模型共享平台Hugging Face上发布了两款Kanana-2-embedding模型。继该公司于7月发布四款小型语言模型(SLM)之后,此次发布进一步开放了其专有AI技术的使用渠道。
新发布的模型分别是拥有30亿参数的Kanana-2-3b-embedding和拥有13亿参数的Kanana-2-1.3b-embedding。
嵌入技术可将句子的含义转换为数值表示,以检索相关信息。即使确切词语不匹配,它也能识别语义上相似的信息,因此适用于个性化AI智能体和检索增强生成(RAG)系统。
例如,即使用户记不起之前对话中提到的餐厅名称,系统也能通过“我们之前聊过的那家安静的餐厅”这样的查询检索到相关信息。Kakao计划将该技术作为个性化AI智能体的核心基础,将用户过去的对话与相关信息关联起来。
据Kakao称,内部评估显示,这两款模型在韩语检索性能上均优于同等规模的全球开源模型,包括llama-nemotron-embed-1b-v2和Qwen3-Embedding-4B。英语性能相当,推理效率也高于Qwen3-Embedding。
与Kakao此前的Kanana嵌入模型相比,检索性能也有所提升。该公司表示,已确认在内存占用和推理速度方面实现了数十倍甚至更高的效率提升。
Kakao使用其专有小型语言模型Kanana-2-SLM开发了这些新模型。该公司首先将语言理解能力应用于检索任务,开发出30亿参数模型,随后利用知识蒸馏技术——一种将较大模型的学习成果迁移至较小模型的技术——构建了13亿参数模型。
该公司还融入了相关技术,使开发者能够根据其服务环境在检索性能与资源消耗之间取得平衡。借助套娃表示学习(MRL),开发者可以调整嵌入向量的大小,以优化存储需求和处理速度。
两款模型均以Kanana开放许可证发布,该许可证允许在遵守其许可条款的前提下进行商业使用。韩国及海外的企业和开发者可以使用这些模型构建语义检索服务和个性化AI智能体。
Kakao计划扩大利用更大语言模型进行嵌入训练和知识蒸馏的研究。