打开APP
中信建投:零一万物发布Yi-Lightning,国产大模型迭代加速
顶端财经快讯
2024-10-25 08:08:13

中信建投研报表示,零一万物正式对外发布新旗舰模型——Yi-Lightning(闪电)。Yi-Lightning 的训练过程中,采用MoE混合专家模型架构,同时改进了单阶段训练,使用了多阶段的训练模式,并且采用了混合注意力机制。在保持模型性能接近最优的同时,尽可能减少激活参数的数量以降低训推成本,提高推理速度。在大模型竞技场(Chatbot Arena)上,Yi-Lightning性能直冲总榜单并列第6,数学分榜并列第3,代码等其它分榜也名列前茅。总成绩几乎与马斯克最新xAI大模型Grok-2-08-13持平,超越GPT-4o-2024-05-13、GPT-4o-mini-2024-07-18、Claude 3.5 Sonnet等顶流。

热评
暂无评论,去APP抢占沙发吧