arXiv cs.CL·· 2 天前AI 评分18
在单张消费级 GPU 上从零构建葡萄牙语自回归与掩码扩散语言模型
Homebrewed SLMs: Autoregressive and Masked Diffusion Language Models Built at Home for Portuguese
AI 导读
一篇教程在单张消费级 GPU 上从零训练含分词器的葡萄牙语语言模型,并发布 Python 包与两个巴西葡萄牙语 notebook,覆盖自回归与掩码扩散两种生成方式及预注册对比协议。
来源:arXiv cs.CL · arxiv.org