Meta 开源 Llama 4:MoE 架构、400B 参数、多模态支持
Llama 4 采用 MoE 架构,400B 总参数/50B 活跃参数,支持图像理解。
Meta AI Blog·2026年4月15日
Llama 4 开源发布
架构亮点
- MoE 架构:400B 总参数,每次推理只激活 50B,效率极高
- 多模态:Llama 4 Scout 和 Maverick 支持图像理解
- 超长上下文:Scout 支持 10M token 上下文窗口
- 完全开源:MIT 协议,可商用
模型对比
| 模型 | 总参数 | 活跃参数 | 上下文 | 多模态 |
|---|---|---|---|---|
| Scout | 400B | 50B | 10M | ✅ |
| Maverick | 400B | 50B | 1M | ✅ |
| Behemoth | 2T | 200B | 256K | ✅ |
对行业影响
Llama 4 的开源将再次推动本地部署和私有化 Agent 方案的发展。