LoHoSearch – 美团推出的下一代搜索智能体评测基准
想试试 LoHoSearch?这篇不堆参数,直接讲清楚它是什么、三步怎么用、上手要注意什么。
LoHoSearch一句话介绍
LoHoSearch 是美团 LongCat 团队推出的下一代搜索智能体评测基准,基于覆盖 762 万维基百科实体、2.65 亿条关系边的知识图谱自动生成题目,替代传统人工出题模式。基准收录 544 道经人工核验的高质量题目,覆盖音乐、影视、地理等 11 个领域,通过控制搜索空间与结构复杂度双维度制造挑战。当前最强模型 GPT-5.5 准确率仅 34.74%,远低于其在 BrowseComp 上 90% 以上的表现,为长程搜索推理与上下文管理提供更具区分度的评测标准。
LoHoSearch怎么用:三步上手
- 访问官网或对应平台(文内链接)注册/下载,完成基础配置。
- 找一个最小场景跑通:先用示例输入验证输出是否符合预期。
- 再接到自己的流程里;开源版本按官方仓库说明本地部署,消费级显卡大多能跑。
功能细节
LoHoSearch是什么
LoHoSearch 是美团 LongCat 团队推出的下一代搜索智能体评测基准,基于覆盖 762 万维基百科实体、2.65 亿条关系边的知识图谱自动生成题目,替代传统人工出题模式。基准收录 544 道经人工核验的高质量题目,覆盖音乐、影视、地理等 11 个领域,通过控制搜索空间与结构复杂度双维度制造挑战。当前最强模型 GPT-5.5 准确率仅 34.74%,远低于其在 BrowseComp 上 90% 以上的表现,为长程搜索推理与上下文管理提供更具区分度的评测标准。

LoHoSearch的主要功能
- 知识图谱自动化建图:用完整英文维基百科为数据源,构建 762 万实体节点与 2.65 亿条有向边的超大规模知识图谱,每个实体标注 Wikidata 类型与入度热度,为全局视角选题提供基础。
- 双维度难度控制:从搜索空间与结构复杂度两个维度系统调控题目难度,突破人工出题的认知天花板。
- 树结构与图结构采样:树结构通过放大搜索空间制造难度,图结构则在巨大搜索空间之上引入环形依赖与交叉约束,进一步叠加结构复杂度。
- 自动化 QA 生成与验证:从子图抽取维基描述改写为自然语言题目,经关系提取、子图覆盖检查、答案满足度验证三层自动筛选,再辅以人工复核确保质量。
- 多模型性能评测:支持对主流搜索智能体进行标准化评测,输出准确率、工具调用次数、校准误差等核心指标,直观反映模型长程推理能力。
LoHoSearch的技术原理
- 知识图谱自动化构建:用完整英文维基百科为数据源,抽取 762 万个实体页面作为节点,提取正文内 2.65 亿条超链接作为有向边,为每个实体标注 Wikidata P31 类型与入度热度,构建全局知识网络。
- 双维度难度定义:从”搜索空间”和”结构复杂度”两个正交维度量化题目难度,突破人工出题的认知局限。
- 树结构子图采样:通过放大搜索空间制造难度,从单一答案节点向下展开多条独立分支,每条分支对应一个高候选空间的约束条件,使排除成本指数级上升。
- 图结构子图采样:在巨大搜索空间基础上引入环形依赖与交叉约束,多个条件节点彼此 interconnected,求解需同时满足多组咬合关系,叠加结构复杂度形成双重挑战。
- 关系提取与自然语言生成:从采样子图中抽取各实体的维基百科描述,用大模型改写为连贯的自然语言问题,确保每个线索完整保留原始子图中的关系信息。
如何使用LoHoSearch
- 加载数据:通过
datasets库直接加载meituan-longcat/LoHoSearch,获取 544 道题目与标准答案。 - 查看结构:数据集包含题目文本、对应子图结构、领域标签及经知识图谱校验的唯一答案。
- 接入评测:将题目输入待测搜索智能体,记录其推理轨迹与最终输出。
- 自动判分:对照数据集提供的标准答案,验证模型输出是否满足全部约束条件并统计准确率。
- 对比分析:用数据集附带的子图复杂度与领域标签,分维度分析模型在不同难度与主题下的表现。
LoHoSearch的核心优势
- 突破人工出题天花板:传统人工基准受限于标注者已知实体范围,LoHoSearch 依托全局知识图谱,能系统识别高搜索空间与高结构复杂度的”真难题”。
- 难度显著高于现有基准:同一模型在 BrowseComp 上准确率 58.84%,在 LoHoSearch 上仅 10.02%,平均工具调用从 35 次增至 61 次,挑战强度提升 74%。
- 区分度更强:现有上下文管理策略在 BrowseComp 上提升 14.03%,在 LoHoSearch 上仅提升 6.8%,更能真实反映策略在长程复杂场景下的边际效益。
- 结构复杂度独立可控:图结构题目准确率(8.01%)显著低于树结构(11.89%),证明结构复杂度是独立于搜索空间之外的额外难度来源,可被单独量化。
LoHoSearch的项目地址
- HuggingFace模型库:https://huggingface.co/datasets/meituan-longcat/LoHoSearch
- arXiv技术论文:https://arxiv.org/pdf/2606.12837
LoHoSearch的同类竞品对比
| 维度 | LoHoSearch | BrowseComp |
|---|---|---|
LoHoSearch的应用场景
- 搜索智能体能力评测:为具备长程推理能力的搜索 Agent 提供高难度标准化测试,精准定位模型在复杂信息检索链条中的短板。
- 上下文管理策略验证:评估 Summary、Discard-all、Verify 等上下文压缩与验证策略在超长交互场景下的真实增益,避免在简单基准上高估策略效果。
- 模型迭代对标:为研究团队提供未饱和的评测标准,支撑模型版本迭代时的能力边界探测与性能对比。
- 搜索算法研究:为需要多步推理、交叉验证的复杂搜索算法研究提供可控难度的数据集与评测框架。
- 智能体产品选型:帮助企业在选型搜索智能体方案时,通过 LoHoSearch 区分不同模型在真实复杂查询场景下的实际表现。
几个上手小技巧
- 先拿小样本试,别一上来就喂生产数据。
- 把重复任务固化成模板,省得每次重写 prompt。
- 输出拿不准时,人工复核关键结论再采用。
常见问题
LoHoSearch是什么,主要解决什么问题
LoHoSearch 是美团 LongCat 团队推出的下一代搜索智能体评测基准,基于覆盖 762 万维基百科实体、2.65 亿条关系边的知识图谱自动生成题目,替代传统人工出题模式。基准收录 544 道经人工核验的高质量题目,覆盖音乐、影视、地理等 11 个领域,通过控制搜索空间与结构复杂度双维度制造挑战。当前最强模型 GPT-5.5 准确率仅 34.74%,远低于其在 BrowseComp 上 90% 以上的表现,为长程搜索推理与上下文管理提供更具区分度的评测标准。
LoHoSearch开源吗
本文介绍版本以官方开源/开放说明为准,具体许可与部署方式见官网文档。
LoHoSearch怎么上手 / 怎么用
访问官网或对应平台(文内链接)注册或下载即可体验;开源版本按官方仓库说明本地部署,消费级显卡大多能跑。
LoHoSearch和同类工具比,选哪个
LoHoSearch侧重「美团推出的下一代搜索智能体评测基准」;选哪个看你是个人尝鲜还是企业落地,建议先试免费或开源版再决定。
LoHoSearch适合谁用,不适合谁
适合想快速体验新能力、做原型或本地部署的开发者与爱好者;涉及生产级稳定性、合规审计的场景,先评估再上车,别直接当关键链路。

评论(0)