让大语言模型成为通用异步智能体
现代大语言模型智能体通常按照顺序循环运行，但许多实际应用会在智能体处理任务时持续接收新输入。本研究提出一种异步大语言模型框架，允许用户或智能体自行定义具有重叠记忆状态的推理协程，以适应不同类型的并发。研究展示了 Qwen 3.x 模型无需针对具体任务训练，即可异步处理流式视频理解、电子游戏和监控任务。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。