开源工具 Strata 0.2 降低本地运行 AI 模型的硬件要求
开源工具 Strata 的 0.2.0 测试版新增独立图形界面,并着重降低本地运行大型语言模型所需的内存。开发团队称,RAM 与 VRAM 合计最低需要 27.6GB,部分模型的推荐配置减少了 8 至 16GB。新版还报告称,部分 NVIDIA、AMD 和 Intel 显卡的性能有所提升;软件支持 Windows、macOS 和 Linux,并集成编程代理。相关性能数据来自项目方测试。
本文来源:AIbase,仅供学习参考,版权归原作者所有。