双向变形编码器（Bi-directional Transformer Encoder） 定义 以 Transformer 编码器堆叠为主体，使用多头自注意力在双向上下文中建模语义，典型代表如 BERT、RoBERTa、E5向量双向变形编码器。 训练任务 掩码语言建模（MLM）、下一句预测/句对任务、对比学习等。 应用 检索/重排、语义相似度、分类、信息抽取、RAG 检索侧。