Hugging Face Blog·· 1 天前AI 评分43
Falcon-Emirati-7B:让 LLM 学会阿联酋方言、文化与细微语义
Falcon-Emirati: When an LLM Learns the Dialect, the Culture, and the Nuance
AI 导读
Hugging Face 联合发布方推出 Falcon-Emirati-7B,基于 Falcon-H1-Arabic 7B 变体微调,专门理解与生成阿联酋阿拉伯语方言。模型采用 Mamba 与 Transformer 注意力并行的混合架构,结合阿联酋方言网页数据、阿联酋文化的 MSA 数据和受词典与风格规则约束的合成数据进行训练,上下文窗口最高支持 128K/256K tokens。
来源:Hugging Face Blog · huggingface.co