Qdrant TurboQuant 1 位压缩技术突破：视觉检索时代的存储革命
随着多模态大模型在文档检索领域的深入应用，如何高效存储和检索包含复杂布局、表格及图表的页面图像，成为制约亿级文档系统性能的关键瓶颈。近期，Perplexity 发布了基于图像检索的新模型 pplx-embed-v2-late，该模型直接将页面图像作为输入，无需传统的 OCR（光学字符识别）步骤即可理解文档内容。然而，这种高保真的视觉表示带来了巨大的存储挑战：单页图像被编码为约 1,700 个 128 维向量，在 float32 精度下单页体积高达 856KB。若需索引百万级文档，仅向量数据就需要超过 800GB 的存储空间。
为了解决这一“体积与质量”的矛盾，Qdrant 联合 Perplexity 团队，利用其自研的 TurboQuant 技术进行了深度优化。通过引入 1 位（1-bit）量化压缩，Qdrant 成功将单页向量体积压缩至 40KB，实现了 21 倍 的存储缩减，同时保持了惊人的检索精度。
核心突破：21 倍压缩，96.5% 质量保留
Qdrant 的 TurboQuant 技术允许将向量存储为极少量的比特位，从而在极低的内存占用下实现高效检索。
- 极致压缩：在 1 位设置下，单页向量体积从 856KB 降至 40KB，节省空间达 21 倍。对于百万级文档场景，存储需求从 800GB 骤降至约 40GB（仅压缩数据，原始向量仍独立存储）。
- 质量保障：测试表明，仅使用压缩向量进行搜索时，96.5% 的检索质量得以保留。若开启重评分（Rescoring）机制，利用少量原始向量对候选结果进行二次校验，质量可提升至 99.9%。
- 对比基准：在 ViDoRe v3 数据集（涵盖金融、工业、制药等领域）的 200 个英文查询测试中，1-bit TurboQuant 的表现优于 4-bit 设置，且显著优于将页面转换为 Markdown 文本的传统方案（后者仅保留 76.4% 质量且体积更小，但丢失了布局信息）。
架构创新：索引大，查询小
本次更新还验证了“索引大，查询小”的混合架构策略。在 pplx-embed-v2-late 体系中，索引模型（9B 参数）与查询模型（0.6B 参数）共享同一嵌入空间。
- 成本优化：利用 0.6B 的小模型进行查询嵌入，参数量减少约 20 倍，大幅降低了单次查询的计算成本。
- 性能表现：在页面图像检索任务中，这种组合（9B 索引 + 0.6B 查询）的 nDCG@10 得分达到 0.670，优于单独使用 0.6B 模型（0.666），且接近全量 9B 模型（0.681）。
对 OCR 与文档检索的范式转变
Qdrant 与 Perplexity 的联合实验表明，对于视觉丰富的 PDF 文档，OCR 应成为可选步骤而非必选项。
- 布局优先：当文档的表格结构、图表布局或视觉上下文对答案至关重要时（如财务报表、科学论文），直接搜索页面图像（40KB 压缩向量）比转换为 Markdown（14KB 压缩向量）能获得更高的召回率（nDCG@10: 0.681 vs 0.671）。
- 策略建议：开发者应根据应用需求灵活选择。若需提取结构化文本，继续使用 OCR；若需理解视觉上下文，则应启用图像检索并配合 TurboQuant 压缩。
技术落地建议
开发者可在 Qdrant 中按以下步骤部署此方案：
- 创建 多向量集合（Multivector Collection），启用 TurboQuant 1-bit 压缩。
- 上传页面图像作为多向量点，系统自动进行量化压缩。
- 在查询时，默认使用压缩向量进行快速检索。
- 对于关键业务场景，开启 Rescoring 功能，利用原始向量对 Top-K 结果进行精排，确保最终结果的准确性。
这一突破标志着向量数据库在支持高维视觉数据方面迈出了关键一步，为构建大规模、低延迟的视觉智能检索系统提供了坚实的底层支撑。
官方引言：
"OCR 应该成为文档检索的可选步骤。对于视觉丰富的 PDF，我们应该在构建文本提取管道之前，测试搜索页面图像的能力。" —— Qdrant 与 Perplexity 联合研究团队
