Exa AI 发布 Dynamic Highlights:AI 智能体搜索时代的关键效率革命
背景:智能体搜索的“效率瓶颈”
随着 AI Agent 成为互联网交互的主要形态,传统的搜索模式正面临严峻挑战。当 Agent 需要查询如“旧金山现任市长”这类实时信息时,传统方案往往需要检索数千个 Token 的网页内容,导致上下文窗口(Context Window)迅速膨胀,LLM 推理成本激增。
此前,Exa 推出的 Highlights 功能虽能将搜索 Token 减少五倍,但仍存在两个核心痛点:
- 信息冗余:多个文档可能包含相同的关键片段,导致重复检索。
- 预算限制:受限于单文档 Token 预算,高度相关的文档可能因被截断而丢失关键信息。
核心突破:从“文档级”到“Token 级”的范式转移
Exa AI 今天发布的 Dynamic Highlights 是一项重大技术革新。它不再将文档视为独立单元,而是将 Token 视为信息检索的基本单位。
技术原理
Dynamic Highlights 的核心在于其全局动态分配机制:
- 统一上下文处理:它将检索到的所有文档拼接成一个统一的上下文,而非独立处理每个文档。
- 智能 Token 分配:模型在一次前向传播(Forward Pass)中,根据全局相关性动态决定分配多少 Token 给每个文档。对于高度相关的内容,它分配更多 Token 以获取完整信息;对于无关内容,则分配极少甚至零 Token。
这种机制彻底改变了搜索的底层逻辑,从“尽可能多地抓取文档”转变为“尽可能精准地抓取有效信息”。
实测数据与性能指标
Exa 团队在多个基准测试中验证了该技术的有效性,特别是在单轮检索(Single Turn RAG)和长周期智能体任务(Agentic Search)中表现卓越。
关键指标 (Metrics)
| 场景 | Token 效率提升/降低 | 质量变化 |
|---|---|---|
| 单轮搜索 (12k 字符预算) | 平均提升 40% | 质量提升 3.8% |
| 智能体搜索 (长周期任务) | 平均降低 30% | 质量提升 2.1% |
官方引言:"Dynamic Highlights 选择以 Token 而非文档为基本单位来检索信息。它动态地为更好的内容分配更多 Token,而为无关内容分配更少 Token。"
开发者应用指南
Dynamic Highlights 目前处于研究预览阶段,开发者可通过 API 轻松启用。只需在请求参数中将 highlights 设置为 dynamic: true 即可。
{
"query": "Super Bowl TV ratings 2001 2025 Nielsen household rating viewers table",
"type": "auto",
"numResults": 10,
"contents": {
"highlights": {
"dynamic": true
}
}
}
行业影响
Dynamic Highlights 的发布意味着 AI 搜索正在进入一个追求极致效率的新纪元。对于构建在 Exa API 之上的各类 Agent 应用,这意味着更低的运营成本、更长的上下文窗口寿命以及更稳定的推理体验。这不仅是 Exa 的技术突破,更是整个 AI 搜索生态向“零浪费”方向演进的重要里程碑。