村妇混乱私生㓉XXXVAI Phone：先是芯片村妇混乱私生㓉XXXV，再是模型，最后才是手机厂商_ZAKER新闻
AI Phone：先是芯片村妇混乱私生㓉XXXV，再是模型，最后才是手机厂商_ZAKER新闻
此外，要加强文物保护利用。文物移交工作完成后3个月内，接收单位应当将接收文物的登记、建档情况报省级文物行政部门备案。每年12月，各省级文物行政部门应当汇总全年的文物接收情况，报国家文物局。
文 | aiAR 研究媛卖铲子相比蜂拥去淘金，永远是更好的选择。在大模型风靡全球、蕴含极大商业价值的今天，「先进铲子」之间的竞赛，正趋向白热化。大模型时代的掘金铲子：AI 计算加速芯片 如今的 AI 计算加速芯片眼花缭乱。GPU、NPU、TPU、VPU，新概念层出不穷，手机 SoC、PC 处理器、车端智驾和座舱芯片、高性能 AI 计算大规模服务器集群，AI 计算加速几乎无处不在。然而万变不离其宗，按计算的通用性，AI 计算大概可以分为 CPU、GPU、FPGA、和 ASIC（NPU/TPU），按使用场景，可以分为训练芯片、云端推理芯片和边缘侧的推理芯片。我们知道 CPU 遵循传统的存储 - 控制 - 运算的冯 · 诺依曼架构，核心是存储程序 / 数据，串行顺序执行。CPU 的架构需要大量的空间去放置高速缓存单元和控制单元，现代 CPU 在分支预测和乱序执行上的要求更高，不断新增的长指令集更进一步强化了复杂的逻辑控制单元，相比之下 CPU 计算单元只占据了很小的一部分。大规模并行计算方面，CPU 天然的效率很低，更适合处理复杂的逻辑控制和通用计算。与 CPU 相比，GPU 80% 以上的晶体管面积都是计算核心，即 GPU 拥有非常多的用于数据并行处理的计算单元，可以高效运行物理计算、比特币挖矿算法等。GPU 还可以为两种，一种是主要搞图形渲染的，我们熟悉的 GPU（游戏）显卡；另一种是主要搞计算的，叫做 GPGPU，也叫通用计算图形处理器（科学计算），A100、H100 就是代表。GPGPU 芯片去掉了针对图形渲染的专用加速硬件单元，但保留了 SIMT（单指令多线程）架构和通用计算单元，计算的通用性更强，可以适用于多种算法，在很多前沿科学计算领域，GPGPU 是最佳选择。FPGA 是一种半定制芯片，作为灵活可编程的硬件平台，同时具有较高的计算性能和可定制性，芯片硬件模块、电路设计更为灵活，但缺点是专用 AI 计算的效能比 ASIC 差一些。ASIC 是一种为专门目的而设计的芯片（全定制），根据特定算法定制的芯片架构，算力强大，但专业性强缩减了其通用性，算法一旦改变，计算能力会大幅下降，需要重新定制。我们知道的 NPU、TPU 就是这种架构，都属于 ASIC 定制芯片。CPU、GPU、NPU 架构区别如下图，CPU 最为均衡，可以处理多种类型的任务，各种组件比例适中；GPU 则减少了控制逻辑的存在但大量增加了 ALU 计算单元，提供给我们以高计算并行度；而 NPU 则是拥有大量 AI Core，这可以让我们高效完成针对性的 AI 计算任务。GPU 相比 CPU 有更多的并行计算核心NPU 相比 CPU 和 GPU，有大量专门进行大矩阵乘法和卷积运算的 AI CoreASIC 思想下的 AI 芯片作为一种专用处理器，通过在硬件层面优化深度学习算法所需的大矩阵乘法、张量运算、卷积运算等关键运算，可以显著加速 AI 应用的执行速度，降低功耗。与在通用 CPU 上用软件模拟这些运算相比，AI 芯片能带来数量级的性能提升。因此，AI 芯片已成为如今大模型训练和推理的关键载体。AI 专用处理器的发展最早可以追溯到 2015 年。2015 年 6 月，谷歌 I/O 开发者大会上推出第一代神经网络计算专用芯片 TPU，专门用于加速 TensorFlow 框架下的机器学习任务。区别于 GPU，谷歌 TPU 是一种 ASIC 芯片方案，一般来说 ASIC 芯片开发时间长、研发成本高，服务于专用计算，实现的下游任务较为固定和狭窄。此后，谷歌又陆续推出了多个 TPU 系列产品，不断优化其架构和性能。终端推理侧的 AI 芯片：AI Phone 的关键能力尽管 AI 芯片的种类、实现的任务和部署形态多样且复杂，但其功能最终可以归结为两种：训练和推理。在训练阶段，AI 芯片需要支持大规模的数据处理和复杂的模型训练。这需要芯片具有强大的并行计算能力、高带宽的存储器访问以及灵活的数据传输能力。NVIDIA 最新的 H100 GPU、华为昇腾 Ascend NPU、谷歌 TPU 等专门为 AI 训练设计的芯片，拥有超强的计算能力、超大显存和极高的带宽，能够处理海量数据，特别适合训练类似 GPT 等大语言模型。在推理阶段，AI 芯片需要在功耗、成本和实时性等方面进行优化，以满足不同应用场景的需求。云端推理通常对性能和吞吐量要求较高，因此需要使用高性能的 AI 芯片，边缘和端侧推理对功耗和成本更加敏感，因此需要使用低功耗、低成本的 AI 芯片，如专门为桌面、移动和嵌入式设备设计的 NPU 等。英特尔最新的酷睿 Ultra 旗舰处理器，基于 x86 平台的异构 AI 计算，集成的 GPU 和 NPU 性能越来越高。高通和 MediaTek 最新的高端移动处理器，针对不同任务的 AI 计算加速，整个 SoC 微架构上，NPU 的重要性也越来越突出。相较于训练芯片在云端成为某种 " 基础设施 "，端侧的推理芯片则站在了 AI 应用的前沿。将训练好的模型为现实世界提供智能服务，特别是目前已经成为 " 个人信息 Hub" 的手机终端，某种意义上已经成为了普通人新生长出来的器官，当大模型与手机融合，不依赖网络和云端算力就能让手机具备大模型能力，AI Phone 的商业想象力巨大。高通 VS MediaTek ，最新的移动旗舰芯片大模型推理正在向手机、PC、智能汽车等终端渗透。但是，在终端部署 AI 大模型时，仍面临着多模态模型压缩、存储与计算瓶颈、数据传输带宽限制、模型 always-on 设备功耗和发热、软硬件联合调优等多重挑战。特别是在手机端，芯片必须在保证高性能的同时，尽量降低功耗，这要求芯片设计在硬件架构和算法加速技术上进行优化，以提高计算效率并减少能源消耗。以高通最新的骁龙旗舰芯片为例，" 为了实现更快的 AI 推理性能，高通提升了所有（AI 计算）加速器内核的吞吐量，还为标量和向量加速器增加了更多内核，满足增长的生成式 AI 运算需求，尤其是面向大语言模型 ( LLM ) 和大视觉模型 ( LVM ) 用例，以在处理过程中支持更长的上下文。至于大众关心的能耗，高通这次将每瓦特性能提高 45%。终端更加高效，不需要大量消耗电池续航。"根据高通的官方描述：高通最新的旗舰移动芯片，骁龙 8 至尊版首次采用了一系列领先技术，包括第二代定制的高通 Oryon CPU、全新切片架构的高通 Adreno GPU 和增强的高通 Hexagon NPU，能够为用户带来终端体验的全面革新。作为高通迄今为止最快的 CPU，Oryon CPU 拥有 2 个主频高达 4.32GHz 的超级内核和 6 个主频 3.53GHz 的性能内核。其单核性能和多核性能相比前代均提升了 45%，浏览器性能提升了 62%，可为大量的多任务处理、飞速网页浏览和疾速游戏响应体验提供强大的性能和能效支持。同时，骁龙 8 至尊版还支持高达 10.7Gbps 速率的 LPDDR5X 内存，为用户带来更为丰富的终端侧 AI 使用体验。基于全新的高通 Hexagon NPU，骁龙 8 至尊版首次支持终端侧个性化多模态 AI 助手，能够赋能规模更大且更加复杂的多模态生成式 AI 用例在终端侧高效运行。在处理器上，高通 Hexagon NPU 增加了额外内核，拥有 6 核向量处理器和 8 核标量处理器，能够进一步满足生成式 AI 运算不断增长的需求。得益于在软件上的不断优化、Hexagon NPU 新增的处理器核心以及多模态模型，骁龙 8 至尊版能实现更快的 AI 处理速度。其 AI 性能提升了 45%，每瓦特性能提升 45%，并支持 70+ tokens/sec 的输入，用户可以上传更大的文档、音频和图像，让手机在处理复杂任务时能够更加游刃有余。有了全新 Hexagon NPU 的支持，无论是在拍照时的智能识别与优化，还是游戏中的实时渲染与计算，骁龙 8 至尊版都能为用户提供强大的 AI 引擎支持，帮助用户能够随时随地开启灵感世界，创造无限可能。在影像处理能力上，通过 AI-ISP 和 Hexagon NPU 的深度融合，骁龙 8 至尊版可带来突破性的拍摄体验，让用户在拍照时得到更多的 AI 加持，其支持 4.3GP/s 像素处理能力，数据吞吐量相比上代提升了 33%，能够支持三个 4800 万像素图像传感器同时进行 30fps 视频拍摄。骁龙 8 至尊版支持无限语义分割功能，可以对图像进行超过 250 层语义识别和分割，针对性优化图像中的每个细节。在无限语义分割基础上，骁龙 8 至尊版的实时皮肤和天空算法可以利用 Hexagon NPU 来识别光线条件并进行修图，即使在光线条件不足的情况下，也能拍出具有自然效果的皮肤和天空色调。基于 Hexagon NPU，骁龙 8 至尊版还支持实时 AI 补光技术，让用户即使在近乎黑暗的环境下，也能生动记录 4K 60fps 的视频。在视频通话或者直播时遇到背光情况，实时 AI 补光技术仿佛增加了一个虚拟的可移动光源，让用户时刻都能展现自己美好的一面。在强大算力的支持下，骁龙 8 至尊版还支持视频魔法擦除功能，用户可以直接在视频中选择需要擦除的对象将其消除，而无需将视频上传到云端。此外，骁龙 8 至尊版还拥有 AI 宠物拍摄套件，能够清晰记录萌宠们 " 放飞自我 " 的调皮时刻，无论是快速奔跑还是嬉戏打闹，都能被精准捕捉。在高通发布骁龙 8 之前，多年蝉联手机移动芯片市场份额第一的 MediaTek，也在最新的天玑 9400 旗舰芯集成 MediaTek 第八代 AI 处理器 NPU 890，在其支持下，天玑 9400 支持时域张量（Temporal Tensor）硬件加速技术、端侧高画质视频生成技术，赋能端侧运行 Stable Diffusion 的性能提升了 2 倍，不仅能够实现高分辨率生图，更支持端侧动图和视频生成，实现更多新玩法。根据 MediaTek 官方描述：天玑 9400 拥有强悍的端侧多模态 AI 运算性能，处理能力高达 50 tokens/ 秒；运行各种主流大模型，平均功耗可节省 35%，为手机终端用户带来更智慧、更省电的 AI 智能体互动。随着大语言模型能力的提升，智能体多轮对话与复杂场景的判断需求越来越重要。天玑 9400 已能支持到至高 32K tokens 的文本长度，是上一代的 8 倍 !为了强化端侧模型的数据安全和个人隐私作用，MediaTek 天玑 9400 支持端侧 LoRA 训练，不用传资料上云，每位用户在端侧就可以安心享受实时的个性化训练与生成，还可用个人照片创建各种画风的数字形象，并更换各种姿势和背景，让隐私更安全。AI Phone 算力芯片的关键指标：Prefill 阶段首 Token 延迟，以及 Decoding 阶段 Token 生成速率无论云端模型还是端侧大模型，本质是 " 一堆参数 "。手机终端执行大模型推理的过程：用户输入文本（提示词，也即常说的 Prompt ) 编码转化为向量，内存加载参数，激活参数执行 AI 计算，输出向量解码。大模型推理的基本流程，用户提供一个 prompt（提示词），手机运行的推理框架根据输入的提示词生成回答。推理过程通常分为两个阶段：prefill 阶段和 decoding 阶段。在 Prefill 阶段，内存加载模型参数，推理框架接收用户的提示词输入，然后执行模型参数计算，直到输出第一个 token。这个阶段只运行一次，耗时较长。接下来是 Decoding 阶段，这个阶段是一个自回归的过程，每次生成一个 token。具体来说，它会将上一时刻的输出 token 作为当前时刻的输入，然后计算下一时刻的 token。如果用户的输出数据很长，这个阶段就会运行很多次。Decoding 阶段的 Token 吞吐率，即常说的推理速度 XXToken/sec。如何评价不同品牌的 AI Phone 的大模型运行性能的优劣？运行同样参数尺寸（比如 3B ) 的端侧模型，模型的 " 知识密度 " 相同的情况下，Prefill 阶段的首 Token 延迟，以及 Decoding 阶段 Token 生成速率是两个最直观的指标，它直接反馈一款 AI Phone 运行大模型是否流畅，用户体验感知最明显。当然 AI Phone 运行模型时的内存占用压缩，量化精度损失，AI Phone 运行的多模态模型和文本基座模型本身的性能和功能，模型层的优劣影响也是决定性的。一个高效压缩、功能全面、性能强悍、跨算力平台兼容性好的端侧模型，还没有公认的最强者。目前，AI Phone 算力芯片支持的推理框架，适配优化支持的模型种类和数量，正在肉眼可见的增长和繁荣。端侧模型运行在不同终端，针对不同 ASIC 芯片 NPU 的兼容，进行 AI 计算硬件加速和调度优化的空间还非常大，这是一个涉及终端厂商、芯片厂商、模型厂商三方的生态构建。谁能提前布局，不辞辛劳更多做幕后看不到的 " 有用功 "，大模型时代它一定获得市场的 " 加速 "。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:吴克俭
TOP1热点：「胡言乱语」用你们家乡话如何表达？
九派江水汩汩滔滔，奔腾向前，形成整条大江最有活力的源头活水，激发它们的活力与创造力对于整条大江而言至关重要。。
互市是古代中央王朝与周边地方政权之间一种重要的经济贸易形式。宋朝时期的榷场和明朝时期的马市，都是互市的具体形式。
TOP2热点：丰田加码氢燃料发动机，马斯克嘲讽「愚蠢至极」，氢能源路线真是日本车企的「昭和遗毒」吗？
据介绍，“数智加速度”计划包括三方面内容：一是共同助力数字化转型解决方案的推广，将通过线上线下等形式，发掘并展示智能制造、智慧城市（社区）、智慧零售、智慧教育、智慧交通、智慧医疗、智慧体育等场景的数字化升级解决方案，为更多企业数字化转型提供参考。二是共同助力绿色数字技术的创新与应用，将重点在生产经营过程中减少碳足迹、提高产品能效、推动绿色计算、扩大绿色技术应用等方向，共同促进产业间的融合交流、创新协作。三是共同助力数字化人才培养，将通过技术普惠课程、研学交流等形式，共同促进企业数字化人才的培养。
TOP3热点：网传有人假冒导演饺子账号一天涨粉 13 万，6 万元卖出后账号被封，这笔钱能追回吗？此举有何法律责任？斗罗大陆人物黄化高清资源
预计，7月5日08时至6日08时，内蒙古东北部、黑龙江中南部以及云南西部、重庆中部、浙江北部等地部分地区有大到暴雨，其中，内蒙古东北部局地有大暴雨(100～110毫米)。上述部分地区伴有短时强降水(最大小时降雨量20～50毫米，局地可超过60毫米)，局地有雷暴大风等强对流天气。中央气象台7月5日06时继续发布暴雨蓝色预警。
TOP4热点：六岁的孩子能读懂《红楼梦》这种名著吗？我把英语课代表按在桌子上抄
战国时期，赵武灵王胡服骑射的改革是牵引力；魏晋南北朝时期，魏孝文帝迁汉地、用汉制、说汉语、着汉服等举措也是牵引力；大唐勃兴，唐太宗“自古皆贵中华贱夷狄，朕独爱之如一”的认识是牵引力……我们现在所要做的，是以中华民族现代文明建设为指引，让铸牢中华民族共同体意识成为新时代巨大的牵引力。
TOP5热点：特朗普设定 4 月 20 日为俄乌停火目标日，能否如期实现？甘雨自我奖励让旅行者发现图片
北京市委常委、市委教育工委书记游钧指出，在全市教育系统深入学习贯彻党的二十大精神，扎实开展学习贯彻习近平新时代中国特色社会主义思想主题教育之际，中国人民大学组织开展的这次活动，是一堂牢记领袖嘱托、感悟领袖初心的“大思政课”。
推进马克思主义中国化时代化的根本途径是，把马克思主义基本原理同中国具体实际相结合、同中华优秀传统文化相结合。
TOP6热点：有没有一种美食，让你深切感受到一座城的碳水文化？别c我⋯啊⋯嗯上课呢男男明星
高温天气预防心脑血管疾病要做到饮食清淡，及时补充水分。中午温度高要减少外出，室内温度不宜骤升骤降，要经常通风换气。夏季天气闷热，傍晚时分有氧运动30分钟即可，老年患者可选择慢跑、散步、打太极拳等。尽量避免情绪波动以免造成心率、血压升高，产生不良影响。
互市是古代中央王朝与周边地方政权之间一种重要的经济贸易形式。宋朝时期的榷场和明朝时期的马市，都是互市的具体形式。
TOP7热点：如何看待浙大转专业机械工程报录比超计算机，总报名人数第一？机械专业前途此前是否被低估了？四川w搡BBB搡wBBB搡
近日，中共中央总书记、国家主席、中央军委主席习近平对党的建设和组织工作作出重要指示强调，实现党在新时代新征程的使命任务，党的建设和组织工作要有新担当新作为。人民网带您重温要点并邀请专家进行解读。
TOP8热点：元始天尊出关后，会如何处置大师兄无量仙翁及其阐教弟子？alexanderwang妈妈
本次公示至7月12日中午12时结束。在此期间，社会各界可通过电话、传真、信函或电子邮件等方式向中国记协评奖办公室提出意见。评奖办公室将对有关违规情况的举报进行核实、处理，评议意见将提交审核委员会、评选委员会参考。
TOP9热点：元始天尊出关后，会如何处置大师兄无量仙翁及其阐教弟子？911制片厂制作国产电视剧
理学家谈“天理人欲”乃是根据《乐记》，但是《乐记》并未否定人的欲望，它只否定那种好恶无节于内，知诱于外，且又不能反躬自省的人。这样的人，在无穷的物欲面前，不能自我节制，被物欲支配。《乐记》主张节欲，荀子除了讲“节欲”外，还提出“养欲”“御欲”等一系列命题，荀子指出，那些提出“去欲”“寡欲”主张的人，其实是他们在实践中没有能力对人们的欲望加以引导和节制。不为物累、不为物役的思想在佛道理论中有系统论述，俯拾皆是，此处暂不赘述。（本文节选摘录自楼宇烈先生2023年出版的新书《中国的智慧》。）
旅途中的“文化味”日益受到年轻游客重视。携程数据显示，今年以来，预订博物馆门票的客群中，00后仅次于80后、90后，且00后的文博游订单数同比增长最为显著。
TOP10热点：华为牵手上汽合作打造鸿蒙智行第五界「尚界」，覆盖 15 万~25 万元售价区间市场，会是下一个爆款吗？youjazzy minde
在白浪镇杨沟村，实践队队员们在当地特色产业园区开展研学和返乡创业人物专访。正处于不惑之年的周轩投资开发了天惊洞景区，并不断扩大发展规模，有效带动了杨沟村经济的发展。有着31年党龄的老党员陈宏贤投入自己的积蓄，对村里所有的公共厕所进行改造，同时与政府合作建立杨沟山庄，在满足过往旅客餐饮住宿需求的同时，也带动了当地村民的就近就业。