ColBERT(Contextualized Late Interaction over BERT)是一种巧妙融合了 Bi-Encoder 高检索速度与 Cross-Encoder 高表现精度的“迟交互 (Late Interaction)”多向量检索/重排序架构;它对 Query 和 Document 中的每一个 Token 分别生成独立的上下文多向量表征 (Multi-Vector),保留细粒度 Token 级特征;在检索交互阶段,它无需将两者拼接送入深度 Transformer,而是直接通过轻量级的 MaxSim 算子
S(Q,D)=∑i∈∣Q∣maxj∈∣D∣(E(qi)⋅E(dj)) 计算每个 Query Token 与最匹配 Document Token 的最大余弦相似度并求和。