一性一爱一乱一怆一情智算“万卡”潮起，国产AI芯片迎高光时刻_ZA一性一爱一乱一怆一情KER新闻
智算“万卡”潮起，国产AI芯片迎高光时刻_ZA一性一爱一乱一怆一情KER新闻
位于奉浦街道的惠敏学校，是奉贤区内唯一一所从事智力障碍、脑瘫、孤独症等多重残疾儿童教育的九年一贯制特殊教育学校。9月1日，奉贤区奉浦街道的知联会青年携手爱心企业和商铺，为学校的特殊儿童们送去245份别致的开学礼，为孩子们献上美好的开学祝福。
文 | 半导体产业纵横GPU 万卡集群，小米下场了！摩尔线程智算集群扩展至万卡！中国移动将商用三个自主可控万卡集群 ...... 一系列标题的袭来，让笔者突然意识到，仿佛在不经意间，智能算力建设已然迈入万卡时代。那么到底什么是万卡集群？万卡集群到底有哪些作用？有必要部署万卡集群吗？01 什么是万卡集群？万卡集群，是指由超过一万张加速卡（如 GPU、TPU 或其他专用 AI 加速芯片）组成的高性能计算系统，用以加速人工智能模型的训练和推理过程。至于为什么需要一万张加速卡？众所周知，大模型竞赛的本质是算力竞赛。比如这里有一个超大土堆，放一个工人和放一万个工人，在效率上肯定会有质的飞跃。以 OpenAI 训练 GPT 模型为例，GPT-4 需要使用 2.5 万张英伟达 A100 GPU，并行训练 100 天左右的时间，在此期间要处理 13 万亿个 token，并且涉及大约 1.76 万亿个参数。在不久的将来，开发大模型所需的算力将实现指数级的增长，对于即将亮相的 GPT-5，预计该模型的训练需要部署 20 万 ~30 万个 H100 GPU，耗时 130~200 天。如今 OpenAI 发布 ChatGPT 已有两年的时间，从建设进度上看，海外头部厂商在 2022 年、2023 年已经完成万卡集群搭建。比如 2023 年 5 月，谷歌推出的 AI 超级计算机 A3，搭载了约 26000 块英伟达 H100 GPU；2022 年，META 宣布了一个由 1.6 万块英伟达 A100 GPU 组成的集群。到了 2024 年初，META 进一步扩大规模，建成了两个各含 24576 块 GPU 的集群，并设定了宏伟目标：到 2024 年底，构建一个包含 35 万块英伟达 H100 GPU 的庞大基础设施。亚马逊 Amazon EC2 Ultra 集群采用了 2 万个 H100 TensorCore GPU。再看中国的智能算力建设情况。02 国产万卡集群，谁在布局？日前，中国工程院院士郑纬民指出，" 构建国产 AI 卡的万卡大模型训练平台很难，但也很重要以及必要。"当下，国内已有多家厂商及机构着手向万卡集群领域拓展业务。根据《智算产业发展研究报告 ( 2024 ) 》显示，在中国，超万卡集群的智算中心已达十余个。今年以来， 中国移动 、联通、电信三大运营商均在加速推进超万卡集群智算中心的建设。今年 8 月，中国电信在智算网络建设方面取得了显著进展，其上海与北京两大万卡集群已成功投产运营。中国移动位于呼和浩特、哈尔滨、贵阳的万卡级别的智算中心已经先后投产运行。据悉，三大集群总规模近 6 万张 GPU 卡，充分满足大模型集中训练需求。中国联通正在打造上海、呼和万卡智算集群，全网智算算力超 15EFLOPS，发布 AICC、AICP、星罗调度平台等五大智算产品，提供涵盖国家 " 东数西算 " 枢纽、31 省重点城市、超 600 边缘节点的 AIDC 基座。小米也正计划建设一座 GPU 万卡集群。据悉，小米在其大模型团队成立时已经拥有 6500 张 GPU 资源。字节在 2023 年就已建立起超过 1 万张卡的 Ampere 架构 GPU （A100/A800） 集群，此后还在建设大规模 Hopper 架构（H100/H800）集群。如今，" 万卡集群 " 被业界视作是这一轮大模型竞赛的 " 入场券 "，甚至还有不少厂商已经开始布局 " 十万卡集群 "。百度的百舸 4.0 通过一系列产品技术创新，已经能够实现十万卡集群的高效管理。阿里巴巴的阿里云可实现芯片、服务器、数据中心之间的高效协同，支持 10 万卡量级的集群可扩展规模，已服务全国一半的人工智能大模型企业。腾讯已宣布自研星脉高性能计算网络全面升级，星脉网络 2.0 搭载全自研的网络设备与 AI 算力网卡，能够支持超 10 万卡大规模组网，网络通信效率比上一代提升 60%，让大模型训练效率提升 20%。03 国产 AI 芯片公司，得到利好显然，在运营商以及科技巨头纷纷入场布局之际，国产 AI 芯片公司也迎来利好。华为昇腾据悉，以政府为主导的城市智能计算中心多采用国产 A1 芯片中的佼佼者如华为昇腾等，其中华为更是在统计的 20 多个城市为主体的智能计算中心中占据 79% 的市场份额，处于国产 AI 芯片的领先位置。在可预见的 2025 年，昇腾芯片及服务器的市场依旧会处于紧张的供给局面。寒武纪2023 年寒武纪思元（MLU）系列云端智能加速卡在中国移动正式上线。截至 2023 年 12 月，中国移动已有 12 个省公司、超过 70 个 AI 业务完成向寒武纪思元系列云端智能加速卡的迁移。2024 年 8 月，中国移动云能力中心参建的全球运营商最大单集群智算中心——中国移动智算中心（哈尔滨）正式投产使用。该智算中心部署超 1.8 万张 AI 加速卡，AI 芯片国产化率达 100%，可提供 6.9EFLOPS（每秒 690 亿亿次浮点运算）智能算力。据悉，该智算中心就是由寒武纪参与建设。南京智能计算中心由南京市麒麟科技创新园与浪潮、寒武纪共同打造，采用浪潮 AI 服务器算力机组，搭载领先的寒武纪思元 270 和思元 290 智能芯片及加速卡，已运营系统的 AI 计算能力达每秒 80 亿亿次 ( 800P OpS ) 。大模型爆火的当下，AI 的训练和推理芯片及训推一体化等芯片成为市场 " 香饽饽 "，寒武纪在此领域的深耕研发，加速思元系列芯片的迭代。摩尔线程2023 年 12 月摩尔线程 KUAE 智算中心揭幕，这是国内首个以国产全功能 GPU 为底座的大规模算力集群，以全功能 GPU 为底座，提供软硬一体化的全栈解决方案。2024 年 7 月，摩尔线程联合中国移动通信集团青海有限公司、中国联通青海公司、北京德道信科集团、中国能源建设股份有限公司总承包公司、桂林华崛大数据科技有限公司等，分别就三个万卡集群项目进行了战略签约，多方将聚力共同构建好用的国产 GPU 集群。燧原科技2021 年燧原科技与之江实验室在之江实验室南湖新园区签约成立 " 燧原 - 之江人工智能芯片联合研究中心 "。成渝智算中心由四川并济科技投建，燧原科技提供搭建算力底座。与此同时，燧原科技还助力太湖亿芯（无锡）智算中心、甘肃庆阳算力枢纽的建设。天数智芯中国移动智算中心（呼和浩特）是全球运营商领域内规模最大的单体液冷智算中心，智算规模高达 6.7EFLOPS（FP16），拥有国家级 N 节点万卡规模 AI 训练场。天数智芯在该项目中充分发挥天垓 150 产品的卓越性能与广泛适用性，与新华三信息技术强强联合，共同打造高性能 AI 训练服务器。壁仞科技壁仞科技也参与中国移动呼和浩特智算中心项目。此外，壁仞科技的壁砺系列通用 GPU 算力产品还在中国电信落地千卡集群并开展商业化应用，另外在中国电信集团新一轮国产化 GPU 集采项目中，壁仞科技的主流 GPU 产品已经纳入中国电信的集采名录，成为中国电信的主要 GPU 供应商。沐曦科技2024 年 11 月，由上海联通携手加佳科技、沐曦共同打造的曦源一号 SADA 万卡集群算力项目第一期千卡国产算力集群在上海联通临港机房正式落地。该项目以沐曦 GPU 芯片技术产品为核心，着力构建集算力、算法、数据、产业应用为一体的人工智能产业新生态。据悉，沐曦和加佳科技已在上海、湖南、江苏等多地建成智算中心，并计划于 2025 年 6 月完成 10000 卡国产高质量算力建设。04 何止 " 万卡 "，甚至要 " 百万卡 "从早期智算中心艰难起步，一步步发展到如今 " 万卡 " 规模的算力集群纷纷落地，这无疑是巨大的飞跃。当下，行业头部厂商更是将视野进一步拓宽，已然聚焦于更为宏大的 " 百万卡 " 目标。近日，在 AI 市场快速增长的背景下，博通市值突破 1 万亿美元，创下历史新高。博通首席执行官陈福阳表示，他有信心在 2020 年代后期继续加大对人工智能的投资。他指出，三年内，博通的客户计划构建配备数百万个 AI 芯片的大规模计算集群，从而推动市场大幅增长。博通正与三大客户合作开发 AI 芯片，计划到 2027 年在网络集群中部署 100 万个芯片。据 CNBC 报道，他估计，到 2027 年，其 XPU 和 AI 网络组件的总市场规模将达到 600 亿至 900 亿美元。虽然博通尚未正式公布其芯片客户，但分析师表示，该公司正在与谷歌、Meta 和字节跳动合作，以加速 AI 系统的训练和部署。据《金融时报》报道，该公司已为此开发了定制处理器。05 " 万卡集群 " 真的有必要吗？先说结论，" 万卡集群 " 的建设一定是有必要的。当前，我国智能算力供不应求的问题较为突出，大模型对算力的需求增速远超单颗 AI 芯片性能的提升步伐。相关报告显示，2023 年，中国智能算力需求达 123.6EFLOPS，而供给仅为 57.9EFLOPS，供需缺口一目了然。利用集群互联弥补单卡性能短板，或是现阶段缓解 AI 算力荒最值得探索与实践的有效途径。不过，在推进 " 万卡集群 " 建设进程中，有两大关键难题亟待解决：其一，怎样高质量完成建设任务，保证集群在稳定性、高效性、兼容性等多方面达到标准要求；其二，建成后如何充分挖掘其应用价值，使其在人工智能训练、大数据分析等适配场景发挥最大作用，杜绝资源空置与浪费现象。首先，不妨将 " 万卡集群 " 类比为参与 " 多人多足 " 游戏的团队，大家都清楚，让一群人如同一个人般整齐划一地前行并非易事，要调度上万张计算卡协同高效作业、达成性能的线性扩展、确保任务无间断运行，这对集群的设计、调度以及容错能力都提出了极高挑战。其次，智算中心的建设只是一个开端，更重要的是后续的有效运用。据报道，由于智算中心的投资、建设、运营通常由不同主体负责，前期建设方常常对后续运营模式、服务标准缺乏足够考量，出现 " 只管建设、不顾运营 "、建设与运营脱节的情况，影响了客户体验，致使不少城市所建智算中心的机架利用率不尽人意。从商业模式来讲，智算中心大多以出租或售卖算力为主要盈利手段，然而因行业尚未统一算力定价标准，不同智算中心价格差异悬殊，市场接纳程度受限。近期，多位智算中心领域从业者走访国内各地智算中心后，他们中的一些人向《智能涌现》反馈，当前国内算力中心市场较为低迷。一位业内人士透露：" 就目前所掌握情况，多数机房出租率大致在 20% - 30% 区间浮动，部分企业级智算中心出租率甚至低至 10% 左右。"要清楚，智算中心不仅前期需要投入巨额资金购置 GPU 等 AI 芯片，后续运营阶段同样需要持续注资。《智能涌现》不久前发文指出，一台英伟达 H100 服务器（8 卡）租赁价格，已从年初的 12- 18 万元 / 月，下滑至目前的 7.5 万元 / 月，降幅约 50%。若按照当前机房 20% 的利用率来算，一个英伟达 H100 千卡集群智算中心每年营收仅 2300 万元（即 7.5 万元 / 月 ×12 个月 ×128 台服务器 ×20%），这意味着，即便算力中心勉强维持运营，所得收入基本只能覆盖一半的正常运营成本，前期投入的资本根本无从回本。综上所述，" 万卡集群 " 已成为智能算力时代的重要里程碑，标志着我国在人工智能领域的算力建设迈上了新的台阶。从小米、中国移动等科技巨头正积极布局万卡集群，以期在这场大模型竞赛中占据有利地位。然而，万卡集群的建设并非易事，智算中心需要多长时间才能通过运营收入收回投资，行业也还需更多的探索。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:甘铁生
TOP1热点：女子驾车遭追尾目睹丈夫、儿子、保姆丧生，肇事货车多个制动器有安全隐患
从“阳光绕房”温馨十足的展台设计，到严谨专业、诚意满满的现场咨询，再到无所不能却又温度十足的数字人，本次服贸会不仅展现出“待客如己”的服务创新理念，也彰显出我爱我家锐意进取的创新精神，我爱我家正在致力于成为房地产经纪发展新服务标准的推动者。。
TOP2热点：为什么一说高并发，互联网 Java 开发者总说自己有大量方案解决，而.NET 开发者们却总说高并发不存在?
我爱我家以门店为阵地，建立有温度的便民服务链接网络。以经纪人为核心，提供诚信、专业、人性化的服务。两大因素实现从人、店、社区、大众四者环环相扣，高效有温度地融入便民生活圈。
TOP3热点：追求「平替」的观念转变，背后的驱动因素有什么？裸体欣赏Ⅴide0sph0tO
8月22日，在泰国曼谷，当选新一任泰国总理的赛塔·他威信（中）与民众互动。新华社图
TOP4热点：开极小众车有何感受？一面亲上边一面膜
说起创意，除了简单的修补，还融入了阿姨们的环保理念、时尚灵感
TOP5热点：OpenAI 宣布「星际之门计划」，将投资 5000 亿美元在美国建立新的 AI 基础设施，有何影响？✡️黄✡️色✡️视✡️频
从7月1日到8月31日，东航及旗下航司累计执行航班18.08万班次，投入3064.96万个座位，累计服务2391万人次旅客航空出行。国内暑运市场尤为呈现蓬勃活力，东航共执行国内航班16.73万班次、运输旅客2171万人次，较2019年同期分别增长12.9%、7.83%。
TOP6热点：汕头一女子称因未婚生育被认定为“出嫁女”，当地回应：正调查处置三个媳妇一锅烩大团圆婚礼
世界贸易组织（WTO）副总干事让-马里·波刚认为，重新聚焦于保障供应链交付能力的基本要素，即标准和质量基础设施，有助于减轻相关风险。质量基础设施通过在供应链的各个环节建立并维护信任关系，支持全球贸易保持韧性。在当今充满挑战的贸易环境中，质量基础设施提供的交换和互操作性基础有助于实现这一目标。
TOP7热点：一度涨超500点，人民币对美元即期汇率盘中升破7.27揉我胸⋯啊⋯嗯～出水了描述
国内航线方面，东航加大国内热门旅游长航线运力，新开上海始发赴新疆的伊宁、阿勒泰、博乐航线，加密飞往敦煌的航班密度，新增飞拉萨等高原航线。此外，上海-北京、上海-广州、西安-大兴等也是东航今年暑运的热门航线，保持了较高的客座率。
TOP8热点：普京祝贺中国人民春节快乐：中国有句俗话“万事如意”男生把坤坤放女生定眼黄中黄
苏珊从某种意义上真的成为了拯救他的人。
TOP9热点：由于不满意工作，开始出现躯体化症状，已就医控制焦虑抑郁，是否应该辞职？教练⋯你好大⋯轻点⋯作文
一下车，家长和同学们纷纷竖起大拇指，“整个旅途安排得太细致了，和孩子一起能拥有这样一次特别的‘旅行’，太值得了，这将成为我们人生中最难忘的回忆！”记者从校方了解到，今年是同济大学四川校友会第二次开展免费送川籍新生上大学的活动。在成都铁路局成都东站的全力支持下，同济大学和四川校友会科学制定保障方案，积极做好团体车票预订工作，新生大礼包准备工作，开辟进站、安检、候车、乘车“绿色通道”，安排专人进行引导，最大限度提供便利，并在发车仪式上，为每一位川籍学子颁发了纪念证书。
TOP10热点：普京祝贺中国人民春节快乐：中国有句俗话“万事如意”HDΧΧΧΧX18
日本政府没有证明排海决定的正当合法性，没有证明核污染水净化装置的长期可靠性，没有证明核污染水数据的真实准确性，没有证明排海对海洋环境和人类健康安全无害，没有证明监测方案的完善性和有效性，也没有和周边地区利益攸关方充分协商，就擅自强行启动核污水排海，违背自身道义责任和国际法义务。
据了解，西安市第一医院隶属于西安市卫生健康委员会，是一所集医疗、教学、科研、急救等为一体的三级甲等综合医院，医院现有员工1900余人。