港科大(广州)等发布 OpenDS-World:12 个模型最高准确率 39%
最强模型准确率仅39%!当Deep Search真正进入复杂的真实互联网
香港科技大学(广州)、复旦大学、华盛顿大学等机构在论文《Deep Search in Real-World Web Environments》中提出 OpenDS 深度搜索任务范式,并构建评测基准 OpenDS-World。
这条信号在站内保留事实摘要与战略研判。完整内容和上下文请以原文为准;融资、并购与技术效果以原始披露为准。
近年来,随着大语言模型推理和使用工具的能力不断提升,Deep Search Agent 已具备一定的自主搜索与信息整合能力。越来越多的研究开始尝试让 Agent 自主规划搜索路径,处理需要跨越多个信息源的复杂问题。 但当 Deep Search 真正进入现实互联网,研究过程会变得复杂得多。 真实网络中的信息分散在不同网站和资源中,可能藏在视频的某一帧、播客中的语段对话、学术论文的图表,或是一份需要下载才能读取的数据文件里。即使已经找到了相关网站,Agent 也可能需要继续操作交互式页面、调整查询参数,才能获取真正需要的信息。 现有 Deep Search 研究已经在多轮检索、跨来源推理、工具调用和网页交互等多方面取得了不少的进展,相关 Benchmark 也从不同角度评估了这些能力。然而,面对多模态信息、异构资源格式与交互式访问需求交织的真实开放网络环境,当前 Agent 的端到端研究能力仍然缺乏充分评测。 这也带来了一个值得关注的问题:当证据的位置和获取方式都不预先给定,AI Agent 能否独立判断下一步应该查什么、去哪里查、怎样访问和处理,并根据现有信息调整搜索方向,串联不同来源的证据,最终查清一个复杂问题? 围绕这一问题,来自香港科技大学(广州)、复旦大学、华盛顿大学、帝国理工大学、斯坦福大学等多家机构的研究团队,在论文《Deep Search in Real-World Web Environments》中提出了新的深度搜索任务范式:OpenDS(Open-Web Deep Search),并构建了面向真实开放网络环境的评测基准 OpenDS-World。 论文:Deep Search in Real-World Web Environments 论文链接:https://arxiv.org/pdf/2610.30181v1 GitHub 链接:https://github.com/Yu-xm/OpenDS Hugging Face 链接:https://huggingface.co/datasets/Yu2020/OpenDS-World 团队构建了 200 道任务,覆盖 4 种模态、42 种资源格式和 7 类证据访问需求,给予 GPT-6 Astra、Claude Opus 5.5、Gemini 3.8 Flash、Qwen3.8 Max、GLM-5.3 Flash、DeepSeek V4.1-Flash、Kimi K3 等 12 个前沿模型同一套搜索、浏览器和视频相关工具,同时限制每题 1 小时搜索时间、100 次工具调用,让它们自行决定搜索过程,串联证据,并最终给出问题的答案。 200 道题做下来,表现最好的 GPT-6 Astra 准确率也只有 39%,Claude Opus 5.5 和 Gemini 3.8 Flash 仅仅取得了 38.0% 和 36.5% 的成绩,其他模型的准确率更是不足 35%。值得关注的是,尽管平均每道题人工标注并审核的来源条目只有 3.94,模型的一次搜索尝试却包含几十甚至接近一百次工具调用。搜索过程的失败也相当耗时:在 GPT-6 Astra 的执行记录中,失败调用仅占 6.34%,却消耗了 42.57% 的工具执行时间。在真实网络中,模型需要投入大量时间寻找信息源、尝试不同的访问方式,并处理搜索过程中遇到的失败。 图 1:12 个模型在 OpenDS-World 上的表现。人类成绩来自独立求解实验。 在深度搜索中,我们希望模型完成什么? 查资料的人都熟悉这种过程:最初只有一个感兴趣的模糊对象,搜到一篇介绍后,才知道还要去找哪篇报告,报告里的一张图又把问题引向另一组数据。搜索越深入,下一步要做的事情才越明确。 Deep Search 希望让 Agent 能够自主完成这样的搜索。OpenDS 关注的是,当这一过程发生在真实开放网络环境中,Agent 能否自主发现和访问分散在不同来源中的信息,处理多样的资源格式与交互要求,并利用不断获得的新线索决定后续搜索方向。 这种自主决策在实际的信息访问过程中就有具体体现。即使找到了相关网站,Agent 往往还需要经过多步操作才能取得目标信息。论文以一个页面为例:同一个页面上既有文字、地图和图表,也提供 CSV、JSON 和 ZIP 等数据资源。要查询某个地区在特定年份的数值,Agent 可能需要选择地区、调整时间,再读取图表,或者通过数据接口和文件下载获取信 图 2:同一网站可以同时包含文字与图表、多种数据格式,以及参数选择、时间定位和数据查询等操作。 不同信息源又有各自的访问和处理要求。视频里的线索需要定位到具体片段,论文中的证据可能藏在图表中,数据文件则需要找到目标记录和字段。即使都储存文本数据,HTML、PDF、Parquet 的读取方
来源只提供摘要,完整内容请打开原文。
来源:WeChatRSS:机器之心 · mp.weixin.qq.com