Dense Retrieval & Dual-Encoders: 解释多语言稠密检索与跨语言检索。

Core Concept: 用多语言编码器（M-CLIP/mE5）把不同语言映射到共享空间；或用'翻译后检索'；挑战是低资源语言。

数学机理：<strong>多语言稠密检索的设定</strong>——把<strong>不同语言的文本</strong>映射到<strong>同一向量空间</strong>，使'中文查询'能检索'英文文档'（跨语言检索，CLQE）。<strong>实现方式</strong>——(1) <strong>多语言编码器</strong>——(a) <strong>mE5 / BGE-M3 / LaBSE</strong>——在<strong>多语言语料</strong>上训练（含平行语料与跨语言对比）；(b) <strong>对齐机制</strong>——(i) <strong>平行语料的对比学习</strong>（同一句的不同语言版本作为正样本）；(ii) <strong>共享词表/子词</strong>（多语言 BPE）；(iii) <strong>跨语言蒸馏</strong>（用英语模型蒸馏多语言模型）；(c) <strong>效果</strong>——相似语义的不同语言文本映射到<strong>相近向量</strong>（故跨语言检索可行）。(2) <strong>翻译后检索（translate-then-retrieve）</strong>——把查询<strong>翻译成文档语言</strong>再检索；<strong>优点</strong>——可用单语言的高质量模型；<strong>缺点</strong>——(a) 翻译误差传播；(b) 需翻译服务（延迟/成本）；(c) 无法处理'混合语言文档'。(3) <strong>混合</strong>——多语言编码器 + 翻译（互补）。<strong>挑战</strong>——(1) <strong>低资源语言</strong>——训练数据少 → 对齐差；<strong>后果</strong>——低资源语言的检索质量显著低于高资源语言。(2) <strong>语言间的'语义漂移'</strong>——不同语言的文化特定概念难以对齐（如'春节' vs 'Chinese New Year' 的文化内涵）。(3) <strong>代码混合（code-switching）</strong>——同一文本混用多语言（常见于社交媒体）。(4) <strong>模态间隙 + 语言间隙的叠加</strong>——跨模态 + 跨语言（如中文查询检索图像）更难。(5) <strong>评估困难</strong>——需多语言的标注数据（稀缺）。<strong>评估</strong>——(a) <strong>MIRACL</strong>（多语言检索基准）；(b) <strong>MKQA / XOR-TyDi</strong>（跨语言问答）；(c) <strong>按语言分层报告</strong>（不能只看平均——高资源语言会掩盖低资源语言的差）。<strong>实践建议</strong>——(a) <strong>多语言场景</strong> → 用多语言编码器（BGE-M3/mE5）；(b) <strong>高资源语言对</strong> → 多语言编码器或翻译（都可行）；(c) <strong>低资源语言</strong> → 多语言编码器 + 领域微调（+ 翻译增强）；(d) <strong>按语言分层评估</strong>；(e) <strong>注意'平均分掩盖语言差距'</strong>（与 VLM 的多语言问题同源）。<strong>度量</strong>——(a) 各语言的 Recall@k/NDCG；(b) 语言间的一致性（是否偏向某语言）；(c) 端到端跨语言任务指标。

深度剖析与工程权衡：① <strong>'平行语料的对齐'是多语言嵌入的基础</strong>——同句的不同语言版本作正样本，使跨语言向量对齐；面试中能指出这一点是深度理解的标志。② <strong>'低资源语言是主要瓶颈'</strong>——数据少导致对齐差；故需领域微调或翻译增强。③ <strong>'翻译后检索 vs 多语言编码器'的取舍</strong>——前者用单语言模型（质量高）但有翻译误差；后者端到端但依赖多语言训练数据。④ <strong>'按语言分层评估'是纪律</strong>——平均分掩盖语言差距（与 VLM 多语言同源）。⑤ <strong>'代码混合'是现实难题</strong>——社交媒体文本常混用语言；通用模型处理不好。⑥ <strong>面试要点</strong>——被问'跨语言检索怎么做'，应给出'<strong>多语言编码器（平行语料对齐）+ 翻译后检索 + 混合</strong>'与'<strong>低资源语言瓶颈 + 按语言分层评估</strong>'；能指出'平均分掩盖语言差距'是深度理解的标志。