迷你AI模型TinyLlama！轻量级模型，重量级性能！已获6.3k星

源帅

迷你AI模型TinyLlama！轻量级模型，重量级性能！已获6.3k星来自新加坡科技设计大学（SUTD）的研究者推出了 TinyLlama，该语言模型的参数量为 11 亿，在大约 3 万亿个 token 上预训练而成。

TinyLlama 以 Llama 2 架构和分词器（tokenizer）为基础，这意味着 TinyLlama 可以在许多基于 Llama 的开源项目中即插即用。此外，TinyLlama 只有 11 亿的参数，体积小巧，适用于需要限制计算和内存占用的多种应用。
该项目从上线开始，持续受到关注，目前星标量达到 6.3K。
github地址：

游客，如果您要查看本帖隐藏内容请回复