跳到正文
原文
Hugging Face Blog·· 1 天前AI 评分43

Falcon-Emirati-7B:让 LLM 学会阿联酋方言、文化与细微语义

Falcon-Emirati: When an LLM Learns the Dialect, the Culture, and the Nuance

AI 导读

Hugging Face 联合发布方推出 Falcon-Emirati-7B,基于 Falcon-H1-Arabic 7B 变体微调,专门理解与生成阿联酋阿拉伯语方言。模型采用 Mamba 与 Transformer 注意力并行的混合架构,结合阿联酋方言网页数据、阿联酋文化的 MSA 数据和受词典与风格规则约束的合成数据进行训练,上下文窗口最高支持 128K/256K tokens。

来源:Hugging Face Blog · huggingface.co