俄罗斯SEVERODVINSK豆包提出稀疏模型架构UltraMem，推理成本最高可降83%_ZAK俄罗斯SEVERODVINSKER新闻

豆包提出稀疏模型架构UltraMem，推理成本最高可降83%_ZAK俄罗斯SEVERODVINSKER新闻

民警告诉他，让他慢慢说，把事情的来龙去脉讲一下。

鞭牛士 2 月 12 日消息，据豆包大模型团队消息，字节跳动豆包大模型 Foundation 团队近期提出 UltraMem，一种同样将计算和参数解耦的稀疏模型架构，在保证模型效果的前提下解决了推理的访存问题。据介绍，该架构有效解决了 MoE 推理时高额的访存问题，推理速度较 MoE 架构提升 2-6 倍，推理成本最高可降低 83%。实验结果表明，训练规模达 2000 万 value 的 UltraMem 模型，在同等计算资源下可同时实现业界领先的推理速度和模型性能，为构建数十亿规模 value 或 expert 开辟了新路径。据介绍，UltraMem 是一种同样将计算和参数解耦的稀疏模型架构，在保证模型效果的前提下解决了推理的访存问题。实验结果表明，在参数和激活条件相同的情况下，UltraMem 在模型效果上超越了 MoE，并将推理速度提升了 2-6 倍。此外，在常见 batch size 规模下，UltraMem 的访存成本几乎与同计算量的 Dense 模型相当。

koa12jJid0DL9adK+CJ1DK2K393LKASDad

编辑:李书诚

TOP1热点：《鸣潮》开服到现在的进步很大，未来会到《原神》的巅峰期吗？

可是，让她想不到的是，老郭竟然还有别的小三。这是作为小三的她不能容忍的，本来把老郭的妻子张女士气走了，她觉得自己是胜利的一方。。

唐尚珺何汉立摄影

TOP2热点：社会化程度降低是未来 00 后等 Z 世代青年群体普遍趋势吗？

尸检报告中对王卫东病理的描述

当前，光伏制造端国际竞争也在加剧。据国际能源署预测，到2027年，中国在全球光伏制造中的市占比可能会从目前的约90%下降到75%。中国（深圳）综合开发研究院新能源与低碳发展研究中心副主任韦福雷认为，欧美推动光伏产业链本土化还需一个缓冲期，光伏中企应加快海外产业链布局，积极开拓欧美之外的新兴市场。

TOP3热点：被读秒绝杀！U20 国足 0-1 惜败沙特，无缘世青赛，你认为中国队本场最大的遗憾是什么？熟妇女人妻丰满少妇中文字幕

去年10月，王女士所在地的警方通过社交软件定位到了小杨的所在地，“但是后来儿子告诉我，他试图通过社交软件和警方沟通被公司发现了，当时他们立马把我儿子捆了起来，七八个人拿着电棍打他，导致他全身多处骨折，随后又被转卖到其他公司。”

目前，CBA选秀已启动7年，各队从大学选来的球员中，还没有任何一名球员能在国家队立足，离开职业赛场的也不在少数。

TOP4热点：浙江一中学年薪 80 万招聘特级教师，还提供住宿，靠钱能堆出好学校、好成绩吗？国内色母与进口色母区别

当前，光伏制造端国际竞争也在加剧。据国际能源署预测，到2027年，中国在全球光伏制造中的市占比可能会从目前的约90%下降到75%。中国（深圳）综合开发研究院新能源与低碳发展研究中心副主任韦福雷认为，欧美推动光伏产业链本土化还需一个缓冲期，光伏中企应加快海外产业链布局，积极开拓欧美之外的新兴市场。

当然，在目前“各自为政”的情况下，西安的家长们产生疑虑也无可厚非，但解决问题的手段最终还是希望能回到“全国一盘棋”上，而非“自扫门前雪”。不过，这就不是陕西、河南或者西安、三门峡，一省或一市能够解决的。

TOP5热点：都说「人永远赚不到自己认知之外的钱」，在职场中如何突破这个认知呢？非洲14may18_xxxxxl56endian

对此，不少西安家长在通过各种渠道反映“回流生”的情况，7月18日傍晚，西安市教育局也发文回应家长关切。

1794年，叶卡捷琳娜二世颁布法令，在这里建设海军港口和贸易通道，1795年，这座港口城市被正式命名为敖德萨。

TOP6热点：8 只河狸 2 天建好捷克拖了 7 年的水坝，真实情况是怎样的？如何从科学角度解读？上面一边亲下面一面膜直接看

根据公开资料，齐齐哈尔市第三十四中学，系1971年齐齐哈尔市政府创办的一所全日制初级中学，在职人员249人。

由此不难判断，中国人民解放军这是从空中和海上齐头并进北上符拉迪沃斯托克。而据俄新社等媒体披露，俄军也派出了海空力量，与中国人民解放军北部战区共同在日本海中部组织“北部·联合-2023”演习。

TOP7热点：如何评价动画电影《你的颜色》？最好免费观看高清视频免费

7月24日，据最新消息，齐齐哈尔市第三十四中学校体育馆楼顶坍塌事故共造成11人死亡，事故调查工作正在全面推进中。24日下午5时许，新黄河记者在事发学校看到，校门外已拉起警戒线，许多鲜花被摆放在三十四中学门前，有市民不时前来献花哀悼。在齐齐哈尔市殡仪馆，十余具遇难者遗体被安放于此。现场一位遇难者家属告诉新黄河记者，他的女儿系当地二十八中学初二学生，在三十四中学进行排球训练时不幸遇难。

中美贸易战和科技战开始后，美国人工智能国家安全委员会在2019年一场人工智能会议上，话锋一转，开始谈论起中国。

TOP8热点：创业需要解决的核心问题是什么？非洲14may18_xxxxxl56endian

在辽宁，北大、清华还分别进行了系列考察调研活动。

唐尚珺何汉立摄影

TOP9热点：乒乓球亚洲杯女单 1/4 决赛，孙颖莎 4-2 张本美和晋级半决赛，怎样评价本场比赛？杨氏的牦户又肥又厚

7月16日，美国总统气候问题特使约翰·克里开启了访华之行，他是近一个月来第三位访华的美国政府高级官员。在他之前，美国国务卿安东尼·布林肯于6月18日至19日访问中国，7月6日至9日美国财政部部长珍妮特·耶伦对中国进行了访问。美国高官接连访华，为沉寂已久的中美关系带来了新的活力，受到全世界的关注。

【环球时报驻德国特约记者青木环球时报记者赵觉珵】“欧洲的库房里堆满了中国的光伏组件。”美国石英财经网20日援引研究公司雷斯塔能源公布的研究结果显示，目前欧洲囤积的中国造太阳能组件累计价值约为70亿欧元，远超当前实际需求。过去5年，欧洲的光伏进口支出几乎翻了两番。有分析师称，缺乏能源安全感的欧洲正努力打造光伏供应链，但急切的需求令很多企业等不了那么久。

TOP10热点：哪部东北文学或影视剧对普通人物的刻画，让你印象深刻？女生会把隐私透露给异性朋友

日本该明白，日本海名字叫做日本海，但其不仅对日本重要，对中俄两国来说，日本海也是重要的战略通道。位于日本海的宫古海峡、对马海峡、津轻海峡三个海峡，无不事关中俄两国战略安全。如果有人要借着这些地方兴风作浪，中俄也不会坐视不管。由此也不难看出中俄此次在日本海演习的针对性和实战性。

由此不难判断，中国人民解放军这是从空中和海上齐头并进北上符拉迪沃斯托克。而据俄新社等媒体披露，俄军也派出了海空力量，与中国人民解放军北部战区共同在日本海中部组织“北部·联合-2023”演习。