Qdrant 电商搜索实战:混合检索、内存量化与个性化排名的架构演进

ADK Qdrant官方 / ADK编译 2026-07-24 5 分钟 107 次浏览
速览导读 / Summary

Qdrant 团队分享了构建基于 580 万真实商品数据的电商搜索系统的经验。文章核心在于打破传统“检索 + 过滤 + 排序”的割裂架构,提出将过滤内嵌于查询、混合检索(BM25+ 向量)作为首选方案、以及通过内存量化与公式重排序实现高性能排名的策略。实测显示,移除重排序(Rescore)可提升 4.5 倍查询速度,而将个性化权重控制在 0.45 即可在保持召回率的同时显著减少无关推荐。

查询延迟 ~40ms 混合检索与过滤的端到端响应时间
模型选择 MiniLM (384 维) 相比大模型,精度损失仅 2%,但延迟降低 4.5 倍,内存减少 3 倍
个性化权重 0.45 平衡召回率与无关推荐的最佳权重阈值

Key Insights / 核心看点

  • 1 混合检索架构:单次 Query API 请求融合 BM25 精确匹配与 Dense Vector 意图匹配,通过 RRF 算法实现高效排序。
  • 2 过滤内嵌策略:利用 Filterable HNSW 图结构在检索阶段直接应用过滤条件,避免传统“先搜后滤”导致的空结果和性能浪费。
  • 3 小模型优先原则:实测证明,优化 Embedding 输入配方比升级大模型更能解决问题,MiniLM 在精度与延迟间实现了最佳平衡。
  • 4 跳过重排序优化:在 RRF 融合机制下,内存量化 (int8) 的误差可被平滑,移除磁盘重排序 (Rescore) 可将查询延迟降低 4.5 倍以上。
  • 5 个性化权重校准:将用户偏好从检索阶段移至排名阶段,并将权重设定为 0.45,可在保持高召回率的同时显著减少无关推荐。

Qdrant 电商搜索实战:混合检索、内存量化与个性化排名的架构演进

在构建电商搜索系统时,相关性、过滤、个性化、商品展示和推荐通常被拆分为五个独立服务,最终排名由多方拼凑而成。Qdrant 团队通过搭建 Qdrant Shopping(基于 580 万真实亚马逊时尚商品数据),探索了这些模块如何收敛为单一高效架构。其核心发现是:通过 Query API 实现毫秒级响应,将检索、过滤与排序统一在向量数据库中完成。

核心架构突破:从“五步走”到“一步到位”

1. 混合检索是标配:BM25 与向量的融合

商品查询本质是双重需求:一部分是精确匹配(品牌、型号、SKU),另一部分是意图匹配(如“适合徒步的保暖衣物”)。

  • 策略:同时构建 Dense Vector(基于标题和类别)和 BM25 Sparse Vector(基于标题、品牌、类别)。
  • 融合:在单次 Query API 请求中,利用 Reciprocal Rank Fusion (RRF) 将两个分支的结果融合。
  • 价值:避免了传统架构中先检索后过滤导致的“空结果”问题,也解决了纯向量检索无法匹配精确关键词的痛点。

2. 过滤内嵌于查询:拒绝“先搜后滤”

传统做法是先检索 Top 100 候选再应用过滤,若库存不足或规格不符,页面极易变空。

  • Qdrant 方案:利用 Filterable HNSW 图结构,在检索阶段直接应用过滤条件(如价格区间、库存状态)。
  • 性能提升:仅对匹配的产品进行打分,避免了无效计算。同时,侧边栏的 Facet Counts 直接来源于同一 Payload,确保数据一致性。

3. 模型选择:小模型 + 精准 Embedding > 大模型

团队曾误以为需要更大模型来解决“按品牌而非按衣物排序”的 Bug,实则是输入文本(Embedding Input)设计不当。

  • 关键发现:仅使用标题作为 Embedding 输入会导致品牌词主导向量。加入 Product Category 后,所有模型均表现稳定。
  • 性能对比
    • MiniLM (384 维): 精度@10 为 90.3%,延迟 ~40ms,RAM 仅 1.9GB。
    • 大模型 (1024 维): 精度@10 仅提升 2 个百分点,但延迟飙升至 ~180ms,RAM 占用 6GB。
  • 结论:对于 580 万商品库,大模型带来的精度提升(2%)无法抵消其 4.5 倍的延迟和 3 倍的内存成本。建议优先优化 Embedding 配方,而非盲目升级模型。

4. 内存量化与跳过重排序 (Rescore)

  • 存储策略:向量在 RAM 中存储为 int8,原始 float32 数据保留在磁盘。
  • 去重排序 (Rescore):传统做法会在检索后读取磁盘原始向量进行重排序以消除量化误差。
  • 实测结果:Rescore 最多仅提升 2 点 Recall@10,但将查询时间从 41ms 延长至 334ms(延迟增加 4.5-8 倍)。
  • 结论:由于 RRF 融合机制本身能平滑量化噪声,且重排序涉及昂贵的磁盘 I/O,跳过 Rescore 是更优选择。

5. 个性化:从检索阶段移至排名阶段

  • 早期尝试:将用户偏好向量作为第三分支参与检索,导致搜索“牛仔裤”时返回“法兰绒衬衫”(因用户偏好)。
  • 优化方案:将个性化移至 Ranking 阶段。
    • 机制:文本查询决定“哪些商品合格”,用户偏好仅用于“重新排序”。
    • 权重:经过测试,权重 0.45 是最佳平衡点。相比 0.6 的权重,它在保持高召回率(0.82 vs 0.79)的同时,将 Top 10 中的无关推荐从 1.7 个降至 0.03 个。
  • 冷启动与无意图场景:无历史用户使用纯文本排名;无文本查询(如落地页)则完全由偏好驱动。

6. 商品化即权重组合

利润率、热度、新鲜度、价格、评分和库存等商业信号不应由独立服务处理,而应通过 Formula Query 在融合后进行重排序,直接组合 Payload 字段生成最终分数。

关键技术指标 (Metrics)

指标项 数值/描述 说明
查询延迟 ~40ms 包含混合检索与过滤的端到端时间
精度@10 90.3% (MiniLM) 小模型在 20 万商品子集上的表现
内存占用 1.9GB (int8) 580 万商品全量索引 (MiniLM)
Rescore 延迟 增加 4.5-8 倍 引入磁盘重排序后的性能损耗
个性化权重 0.45 平衡召回率与无关推荐的黄金比例

总结

Qdrant 的电商搜索实践表明,高性能搜索系统的关键不在于堆砌算力,而在于架构的简洁性与数据流的优化。通过 混合检索 解决语义与精确匹配矛盾,利用 内存量化 换取极致速度,并将 个性化商品化 逻辑下沉至排名阶段,开发者可以构建出既快又准的搜索体验。这套方案不仅适用于电商,对任何大规模产品目录的搜索优化都具有极高的参考价值。

What You Embed Matters More Than Which Model. A quality bug looked like a job for a bigger model... The fix turned out to be in the input text.

Qdrant Team

同主题深度资讯

查看更多 →
产品动态 2026-09-15

Topview 发布 Codex 插件工作流:在 ChatGPT 生态内实现 AI 视频生成

Topview 正式宣布其插件工作流集成至 OpenAI 的 Codex 代理系统,支持在本地桌面端或 CLI 中直接调用生成式模型创建 AI 视频。文章详细区分了 ChatGPT 网页版插件目录与 Codex 本地代理的架构差异,明确了安装路径、OAuth 认证流程及 Canvas 画布工作流。该更新旨在解决开发者在 ChatGPT 生态内调用视频生成模型(如 Seedance, Wan 3.0 等)的碎片化问题,强调 Pro 及以上订阅计划对自动化工作流的必要性。

Topview官方 / ADK编译 5 分钟
产品动态 2026-09-06

Adobe Photoshop 与 Upscale.media 联手:AI 驱动图像超分辨率技术深度解析

Adobe Photoshop 与 AI 图像增强工具 Upscale.media 宣布深度整合,旨在为专业用户提供更高效的图像超分辨率解决方案。此次合作利用先进的 AI 算法,在不依赖复杂软件学习曲线的情况下,实现从低分辨率到高清图像的无损转换。文章详细阐述了该技术在保留细节、修复模糊以及支持多格式处理方面的核心优势,并展示了从上传到下载的完整操作流程,标志着图像增强领域向更智能化、便捷化方向迈出了重要一步。

Upscale.media官方 / ADK编译 4 分钟
产品动态 2026-09-06

Adobe Photoshop 2025 图像分辨率优化指南:超分辨率与智能放大技巧

Adobe Photoshop 2025 在图像分辨率处理上带来了显著优化,重点介绍了如何利用内置的“超分辨率”功能无损放大 JPEG 图像。本文详细解析了从基础图像尺寸调整到高级 Camera Raw 滤镜应用的完整流程,帮助设计师和摄影师在保持画质的前提下提升输出质量。

Upscale.media官方 / ADK编译 4 分钟
产品动态 2026-09-06

Upscale.media 发布智能图像增强方案:AI 驱动高清修复与细节重构

Upscale.media 推出全新图像增强指南,详解如何利用 AI 技术将低分辨率图片转化为高清视觉内容。文章解析了图像上采(Upscaling)的核心原理,涵盖分辨率、锐度、色彩准确性等关键质量指标,并展示了该工具在商业展示、印刷输出及个人创作中的实际应用价值,旨在帮助用户摆脱像素化困扰,实现无损画质提升。

Upscale.media官方 / ADK编译 4 分钟