Box接入英伟达Nemotron,推出代理优先内容检索

AI 驱动中国 宋谣 521次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

据TechCrunch报道,Box推出Box Content Retrieval代理优先内容检索功能,接入英伟达Nemotron嵌入系统,称可提升查询速度、准确率并降低token消耗,预计明年年初向Enterprise Advance客户推出。

驱动中国11月6日消息,据TechCrunch报道,Box在当地时间11月5日举行的开发者大会上展示一项新功能,将英伟达(NVIDIA)的Nemotron嵌入系统纳入其内容产品核心,推出名为Box Content Retrieval的代理优先内容检索系统。该功能的目标是让AI代理在访问企业文档时,不必逐篇通读全部内容,而是依据嵌入元数据快速定位与问题最相关的信息。

从技术路径看,Box Content Retrieval主要依赖Nemotron生成的嵌入元数据。所谓嵌入,通常是将文本、文档片段或其他内容转换为便于机器检索的向量表示。当用户或AI代理发起查询时,系统可基于这些表示返回更相关的文档片段,从而减少模型读取大量无关文本的负担。

Box首席执行官阿龙·莱维(Aaron Levie)表示,这一能力将显著提升搜索技术对AI代理的相关性。他称,代理不再需要通读每一篇文档,系统可以直接返回与用户查询或当前任务最相关的文档片段。这一表述指向企业AI应用中的一个常见瓶颈:当代理需要处理合同、报告、知识库文章等长文档时,检索精度和上下文选择会直接影响回答质量与执行效率。

在性能指标上,Box称该功能可为用户带来更快、更准确且成本更低的查询体验。英伟达生成式AI软件副总裁卡里·布里斯基(Kari Briski)向TechCrunch表示,她预期查询速度可提高4倍,错误减少20%,token使用量减少90%。其中,token是大模型处理文本时的计费与计算单位,减少token使用通常意味着更低的推理成本和更短的上下文窗口占用。

该功能将面向Box的Enterprise Advance客户推出,并计划于明年年初逐步上线。对于已经使用Box管理企业文档、协作内容和权限体系的客户而言,代理优先检索意味着企业知识库不再只是面向人类搜索框,而是开始适配AI代理的调用方式。AI代理在执行任务时,往往需要跨文档、跨部门、跨项目地快速检索依据,检索质量因此成为企业AI落地的关键环节。

从行业背景看,企业内容平台与AI基础设施厂商的合作正在增多。Box这类云内容管理平台拥有大量企业文档、权限和元数据,而英伟达等厂商提供模型、嵌入与推理能力。将检索系统从传统关键词搜索升级为面向代理的上下文返回,有助于降低大模型在企业场景中的幻觉风险,也可能减少不必要的全量文档读取。

不过,该功能的实际效果仍取决于企业文档质量、权限管理、嵌入模型对业务术语的理解,以及代理任务对上下文粒度的要求。Box与英伟达此次合作释放的信号是,企业AI竞争正从能否接入大模型,转向能否让模型高效、准确、低成本地访问企业数据。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/528709.html
本文价值 ★★★★★ 4 1 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友