文章目录一、嵌入模型1.度量语义二、应用场景1.语义搜索2.检索增强生成3.异常检测三、主流的嵌入模型四、嵌入模型的接入方式1.API接入2.本地部署一、嵌入模型嵌入模型是一类专门将非结构化数据如文本、图片、声音转换为稠密数值向量的机器学习模型。这个转换过程被称为 Embedding。嵌入模型自身并不真正“理解”自然语言而是通过捕捉不同数据在嵌入空间中的距离远近挖掘它们背后隐藏的语义关系通过数学运算模拟出对语言的理解能力。以下三句话嵌入后的语义关系“苹果手机真好用”“我有一部 iPhone”“今天天气不错”模型会将这些句子转化为数字向量。其中“苹果手机真好用”和“我有一部 iPhone”在语义上很接近因此它们的向量也十分相似而“今天天气不错”和它们表达的内容差别较大因此在向量空间中距离更远。1.度量语义文本转化为向量之后就需要一种数学方法来衡量向量之间的“语义距离”即向量相似度可以分为以下两种方式欧氏距离欧氏距离衡量的是多维空间中两个向量之间的直线距离它受向量长度的影响较大。例如对两篇主题相同但篇幅差异较大的文档分别做嵌入它们在欧氏距离上可能相距甚远不利于判断真正语义上的一致性余弦相似度衡量的是两个向量之间的夹角关注的是方向而非长度。这样即使两篇文档篇幅差异巨大只要语义方向一致余弦相似度仍然很高。由于文本嵌入更关注“语义方向”因此绝大多数嵌入模型在文本场景中都推荐使用余弦相似度举例来说我们分别以下面两句话进行一个文字片段对比句子 A“这道东坡肉肥而不腻入口即化真是一绝。”句子 B“色泽红亮软烂入味轻轻一夹就断开了。”这两个句子明显都在形容同一道菜的色香味。如果我们对比它们的嵌入向量计算出的余弦相似度可能高达 0.92说明它们的语义方向非常接近。但如果计算欧氏距离可能会因为两句的字数和用词不同而偏大。这就解释了为什么在大部分文本检索场景里余弦相似度是衡量语义关系的最优选择。二、应用场景1.语义搜索传统的关键词搜索如使用 Elasticsearch 倒排索引、BM25 算法侧重于精确的字面匹配无法理解同义词或不同的描述方式。而语义搜索则是基于向量进行相似度检索能够检索出“语义相近但字面不同”的内容从而解决了传统搜索中“搜‘苹果手机’找不出‘iPhone’”这类体验痛点。实际的现代搜索系统往往采用混合检索方案融合稀疏向量如 BM25 提升召回率和密集向量利用嵌入模型进行语义重排序结合各自的优势。例如在一个法律数据库中进行关键字搜索时用户如果输入“精神损失赔偿”关键词搜索往往只会返回标题或正文中精确包含“精神”、“损失”、“赔偿”这三个词的法律条文。如果某条法规的原文写的是“精神损害抚慰金”虽然核心意思完全一致但关键词匹配可能会漏掉它。语义搜索由于利用了嵌入模型将查询和文档都转化为向量因此它虽然可能忘记收录包含原词“精神损失赔偿”但能成功检索出含有“精神损害抚慰金”的条款只要这两个词组在嵌入空间中的距离非常接近。2.检索增强生成检索增强生成RAG将大语言模型LLM与外部知识库进行集成让 LLM 能够在生成回答前先检索到相关的背景知识。它的核心流程分为三步① 离线索引阶段——将私有文档切块后转化为向量存入向量数据库② 在线检索阶段——将用户查询实时转化为向量在库中搜索出最相似的 Top-K 个文档片段③ 增强生成阶段——将检索出的相关知识作为提示词上下文一起发给 LLM 生成高质量回答。RAG 能有效减轻 LLM 在回答时“一本正经地胡说八道”的幻觉问题。嵌入模型在 RAG 中负责将查询文本和外挂知识库中的文档都转换为向量emsp实际使用中例如我们直接问 ChatGPT 类似 “公司最新款的智能投影仪支持哪些接口” 这种问题如果不接 RAG因为模型训练数据里没有这款新产品的说明书ChatGPT 只能根据通用知识去猜测大概率会编造出“支持 HDMI 和 VGA”这种看似合理但其实是错误的信息。采用 RAG 后系统会先把产品说明书配置好。在离线阶段系统将投影仪说明书的 PDF 切分成多个片段并存入向量库。用户提问时系统会利用嵌入模型先把用户的问题转化为向量从向量库中检索出最匹配的段落比如“接口规格HDMI 2.1 × 2, USB-C × 1, 3.5mm 音频输出 × 1”。最终系统将检索到的这段真实参数作为提示词与用户问题一同发送给 ChatGPTChatGPT 给出了准确、零幻觉的设备连接方案。3.异常检测在金融风控、网络安全、工业设备监控等场景中正常行为的日志、交易流水或传感器数据被转化为向量。当新产生的数据向量在向量空间中与正常行为向量的距离超过预设阈值时系统就会将其标记为异常。这种方式无需预设所有异常类型能发现一些从未见过的异常模式。三、主流的嵌入模型Huggingface 的 MTEB 大规模文本嵌入基准测试Massive Text Embedding Benchmark评测是最权威的嵌入模型评测榜单覆盖了分类、聚类、配对分类、重排序、检索、语义文本相似度、摘要和双语挖掘等多达八个维度的任务每个模型会得到一个综合平均分和各细分任务的独立得分Qwen3-Embedding-8B阿里巴巴Qwen3-Embedding 是阿里巴巴基于 Qwen3 基础模型训练的文本嵌入模型系列专为文本表征、检索与排序任务设计。该系列提供从 0.6B 到 8B 参数的三种配置支持超过 100 种语言上下文长度可达 32K嵌入维度最高为 4096并支持表征维度自定义和指令适配优化。text-embedding-3-large (OpenAI)OpenAI 推出的 text-embedding-3-large 默认输出维度为 3072支持通过 dimensions 参数动态缩短向量维度如 256、1024。它采用了Matryoshka 表征学习技术即使在维度大幅缩短的情况下仍能保持较好的检索性能。这让开发者可以根据存储空间和检索速度的需求灵活调整向量维度。gemini-embedding-001GoogleGoogle 的 Gemini Embedding 2 是其首款原生多模态嵌入模型支持在统一的嵌入空间中处理文本、图片、视频、音频和文档。该模型同样支持 Matryoshka 表征学习默认维度 3072建议维度 768。在第三方综合评测中Gemini Embedding 2 被认为是综合能力最强的嵌入模型之一。四、嵌入模型的接入方式1.API接入直接调用云服务商提供的 API 接口按使用量付费无需关心底层硬件和模型运维。以下分别展示 curl 命令行和 Python SDK以 OpenAI Embeddings API 为例的调用示例。cURL 命令行示例curlhttps://api.openai.com/v1/embeddings-HContent-Type: application/json-HAuthorization: Bearer$OPENAI_API_KEY-d{ input: Your text string goes here, model: text-embedding-3-small }Python SDK 调用示例# 使⽤ OpenAI Python SDKfromopenaiimportOpenAIimportos# 1. 设置 API KeyclientOpenAI(api_keyyour-api-key)# 2. 准备输⼊⽂本text这是⼀段需要转换为向量的⽂本。# 3. 调⽤ APIresponseclient.embeddings.create(modeltext-embedding-3-large,# 指定模型inputtext,dimensions1024# 可选指定输出维度例如从3072降维到1024)# 4. 获取向量embeddingresponse.data[0].embeddingprint(f向量维度{len(embedding)})print(embedding)2.本地部署环境准备阶段选择合适的底层推理框架。本地部署依赖这些框架来高效加载和运行模型业界主流方案包括纯 C/C 实现、支持 CPU 推理且内存占用低的 llama.cpp基于 PagedAttention 机制、吞吐量极高、显存利用率高的 vLLM可一键安装部署、自带模型仓库并封装了 llama.cpp 的 Ollama适合开发测试与快速原型验证以及生态最完善、支持 PyTorch 和 TensorFlow 的 Hugging Face Transformers常用于研究实验与自定义微调。模型下载阶段主要从以下几个渠道获取模型权重文件全球最大的模型仓库 Hugging Face可使用 huggingface_hub 库或 git clone 下载阿里云出品的国内模型社区 ModelScope魔搭社区对 Qwen 系列等国产模型支持最佳且国内访问速度快以及 Ollama 自带的模型库可直接通过命令行拉取如 ollama pull qwen3-embedding。代码集成阶段有两种主流架构模式。生产环境中推荐采用嵌入微服务架构将 Embedding Service 部署为独立的常驻内存服务应用服务器通过 HTTP/gRPC 协议请求嵌入服务以实现更好的资源解耦与弹性伸缩。开发测试阶段则可采用嵌入 SDK 模式在 Python 应用中直接通过 sentence-transformers 或 transformers 库加载模型无需独立服务进程适合单机小流量场景。