编码器(Encoder)
定义
- 将原始输入(文本/语音/图像等)映射为向量表征的模型或模块,目标是在嵌入空间保留语义结构,使语义相近的输入在向量空间接近、相离的输入远离。
类型谱系
- 传统:静态词向量,如 Word2Vec编码器、GloVe编码器;
- 深度:上下文相关表征,如 双向变形编码器、E5向量双向变形编码器;
- 结构:变形编码器、变形解码器 与 Encoder-Decoder 体系。
应用
- 检索/排序、聚类、分类、问答、摘要、RAG(检索增强生成)。
编码器(Encoder)
定义
类型谱系
应用