通过自适应结构化非结构化数据打造高代币效率推理代理
研究提出了一种名为“代理式数据破解”的方法，旨在降低大型语言模型代理处理网页、报告、合同、监管文件和 PDF 时的成本。代理读取文档并进行推理时，子代理会提取有用的结构化信息，并预先整理可能服务于未来相关查询的内容。之后的问题可以直接利用积累的结构化数据回答，无需再次打开原始文档。在 FanOutQA 基准测试中，每个测试问题增加一个相关问题后，该方法在保持准确率的同时将成本降低了 53%。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。