字节豆包大模型团队又一贡献

无奈老自 · 发表于 2025-2-12 17:01:34

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有帐号？立即注册

x

   据豆包大模型团队消息，字节跳动豆包大模型Foundation团队近期提出UltraMem，一种同样将计算和参数解耦的稀疏模型架构，在保证模型效果的前提下解决了推理的访存问题。据介绍，该架构有效解决了MoE推理时高额的访存问题，推理速度较MoE架构提升2-6倍，推理成本最高可降低83%。
   实验结果表明，训练规模达 2000 万 value 的 UltraMem 模型，在同等计算资源下，可同时实现业界领先的推理速度和模型性能，为构建数十亿规模 value 或 expert 开辟了新路径。
   人工智能发展的太快了!

淘气的中年人 · 发表于 2025-2-13 04:52:22

今天签到，吉祥如意安康。国运来了，档不停。

老白杨 · 发表于 2025-2-13 06:51:43

谢谢分享

手机用户ar10656 · 发表于 2025-2-13 07:12:48

感谢分享，虽然不懂

手机用户wl13054 · 发表于 2025-2-13 08:23:32

再过10年，AI可能会深入到我们生活中每个细节。

手机用户WF11814 · 发表于 2025-2-13 09:03:39

感谢分享！

杨晨辰 · 发表于 2025-2-13 09:22:36

谢谢分享

deng87268 · 发表于 2025-2-13 14:22:54

谢谢分享赞美赞美

三分投手 · 发表于 2025-2-13 14:58:59

感谢分享，每天都在变

无奈老自 · 发表于 2025-2-13 15:01:27

手机用户wl13054 发表于 2025-2-13 08:23
1 a% X9 c. q+ y& B6 X再过10年，AI可能会深入到我们生活中每个细节。

就怕AI就业了,人们失业了.

无奈老自 · 发表于 2025-2-13 15:02:17

十五的月亮十六圆,快乐度过每一天.

wjsch1216 · 发表于 2025-2-13 15:07:13

人工智能发展的太快了!'

xgx512 · 发表于 2025-2-13 15:08:55

希望中国科技不断取得进步，造福人民群众

手机用户pw79638 · 发表于 2025-2-13 15:23:37

希望中国科技不断取得进步，造福人民群众

淘气的中年人 · 发表于 2025-2-15 08:08:31

今天签到，吉祥如意安康。国运来了，档不停。

帐号		记住	找回密码
密码			立即注册

[自主生活] 字节豆包大模型团队又一贡献

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

评分

点评

评分

发表回复