ufakzeka-1：从零构建与评估一款 1.51 亿参数的土耳其语语言模型

英文标题：ufakzeka-1: Building and Evaluating a 151M-Parameter Turkish Language Model from Scratch

ufakzeka-1 是一款从零开始预训练的 decoder-only 土耳其语语言模型，拥有 1.51 亿参数，计入嵌入层后为 1.82 亿参数。该模型使用 135 亿个来自开放许可文本的 token 进行预训练，并针对聊天场景完成指令微调。作者称，其云 GPU、API 等相关总成本约为 286 美元，显示出在较低预算下训练特定语言模型的可行性。对开发者和行业而言，该项目为构建开放、面向低资源或区域语言的中小型语言模型提供了成本与工程实践参考。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB