过滤噪音，保留 AI 信号。

Little Brains, Big Feats: Exploring Compact Language Models

本研究考察了小型语言模型在检索增强生成（RAG）系统中作为生成器的表现。作者使用涵盖不同主题和问题类型的开源与专有数据集对紧凑模型的生成质量进行了基准测试。关键发现是，由小型语言模型驱动的RAG系统无需GPU硬件即可在设备端直接运行，并在合理的时间内完成任务。实验代码和补充材料已在GitHub上公开。