国模 人体 在线 一区OpenA国模 人体 在线 一区I的先进模型遭遇瓶颈,堆数据做不成AGI_ZAKER新闻
OpenA国模 人体 在线 一区I的先进模型遭遇瓶颈,堆数据做不成AGI_ZAKER新闻
同样在阿联酋,能源政策制定者与荷兰联手推动氢能研究和努力。
外界对于人工智能最初的 " 期待感 " 正在消退,这无疑是当下整个 AI 行业最大的痛点,因此继续支撑资本市场信心的似乎只剩下了 AGI(通用人工智能)。而 AGI 将在未来 5 年内实现,这也是 OpenAI CEO 阿特尔曼、特斯拉创始人马斯克、英伟达创始人黄仁勋等一众科技界大咖的预测。从 ChatGPT 到 GPT-4 到 o1,从 LLama 1.0 到 3.0、Claude1 到 Claude3,如同打怪升级一般逐步实现 AGI,这是以 OpenAI 为代表的 AI 厂商试图描绘的未来图景。只是近日有消息显示,OpenAI 下一代旗舰模型 " 猎户座 "(Orion)的进步速度大幅放缓,合成数据越训越像旧模型、编码性能甚至还在退步。其实不仅仅是 OpenAI,谷歌的 Gemini 2.0、Anthropic 的 Claude 3.5 Opus 等先进 AI 模型也被传出遇到了瓶颈,以至于业界开始讨论如今被奉为圭臬 Scaling law 即将失效。事实上,关于 Scaling law 的论战也是近期 X 平台的热点,从 OpenAI 的开发者到 NYU、OSU 等知名大学的教授都参与其中。所谓 Scaling law,其实是 OpenAI 在 2020 年提出的一个关于基于 transformer 语言模型的规律,指的是大模型的最终性能主要与计算量、模型参数量和训练数据量三者的规模大小相关,与模型的具体结构基本无关。OpenAI 在发现了这个规律后,就搭建了拥有 200 亿参数的 GPT-3.5-Turbo,而 ChatGPT 正是在后者的基础上诞生。要知道在过去相当长的一段时间里,机器学习研究领域并没有把数据量作为主要研究对象,因为数据一般被认为是被动变量,大量的研究是集中在如何有效降低训练误差和控制模型复杂度上。客观来说,Scaling law 也是过去两年 AI 大模型赛道风起云涌的基础,因为它证明了通过预训练使用更多的数据和算力,能够让 AI 模型的性能暴涨。Scaling law 在 AI 领域的意义就如同摩尔定律之于半导体行业,用李开复博士在知乎上的回答就可以解释这条规律的重要性,"Scaling Law 的持续影响下,无论是硅谷还是国内,大模型赛道正在掀起一场 AI Infra 的‘军备竞赛’ "。过去两年,OpenAI、微软、谷歌、Meta、Anthropic 等 AI 赛道的头部厂商其实都在做同一件事,即以巨额计算资源为赌注,来赌 Scaling Law 的收益递减未来能够得到解决。在这一趋势下,海量资金被用于购买算力芯片、筹建数据中心,以及购买数据。而 Scaling Law 的存在也让整个业界弥漫着一股乐观情绪,仿佛购买更多的英伟达芯片、拿下更多的数据、获取更多的水电资源,AGI 似乎就是水到渠成的事情。对于 OpenAI 等大厂来说,实现 Scaling Law 需要的硬件资源和工程实践也是远胜于技术和思想的护城河。那么为什么会出现 OpenAI Orion 越训练越像旧模型呢?因为 " 新的、未开发的高质量人类生成训练数据 " 正在成为稀缺资源。在过去几年里,大模型的迭代升级过程几乎已经把各种公开可用的数据集、网站、书籍,以及其他来源的数据耗尽,而合成数据的广泛使用,则会导致新模型在训练中变得与旧模型更贴近。换而言之,如果解决了高质量训练数据的供给,业界就能继续在 Scaling law 这条道路上前进。问题在于高质量训练数据的产出跟不上大模型的 " 消耗 ",并且随着越来越多内容拥有者认识到了数据的价值,使得其变得越来越贵。这就意味着数据匮乏的问题不仅在 2024 年变得严峻,在未来还将变得更难以解决。Scaling Law 的边际效应愈发凸显、AI 大模型撞上 " 数据墙 ",这对于整个 AI 行业无疑是一个危险的信号。著名美国认知科学家、AI 泡沫论支持者 Gary Marcus 就在社交平台上表示,整个 AI 行业相关公司的高估值是建立在模型能力不断增强,能够迅速达到 AGI 的预期之上。所以一旦迭代速度放缓,行业就将进入价格战,这就意味着 AI 行业在找到自己的 " 现金牛 "、获得切实的业绩增长、回收基础设施上的庞大投入前,需要先进行残酷的消耗战。这对于投资者而言无疑是一个晴天霹雳,也很难不让他们联想到当年的互联网泡沫。如果不想重蹈二十年前互联网泡沫破裂的覆辙,AI 公司就必须找到 Scaling Law 之外的新道路。目前,OpenAI 给出的解决方案是切换赛道,The Verge 日前就发文称, OpenAI 方面计划于 2025 年 1 月推出名为 "Operator" 的 AI 智能体,其能力类似于 Claude 3.5 Sonnet、主打能像人类一样操作电脑。对此 OpenAI 首席产品官凯文・韦尔指出,2025 年可能是智能体进入主流市场的关键时间。其实智能体并不是什么新概念,早在一年前,比尔 · 盖茨就曾在博客文章中预言,AI 智能体将会成为继 Windows、iOS/Android 之后的下一个平台。在此之前,OpenAI、Anthropic、谷歌、Meta 等引流潮流的头部 AI 厂商之所以不做智能体,只是因为追逐 AGI 显然更有 " 钱景 "。如今在 Scaling law 失灵已经近在咫尺的情况下,头部 AI 厂商的 AGI 梦看来将会变得遥遥无期。这时候重新捡起商业前景更好的智能体,就说明 OpenAI 更务实了,毕竟想要实现远大的理想先得活下来才行。【本文图片来自网络】koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:高尚德
TOP1热点:小时候有没有那种让你感觉根本赢不了的反派?
当前很多的金融机构都在大力发展财富管理业务,那么究竟什么是财富管理的应有之义是什么?又如何看待“产品赚钱投资者不赚钱”这一问题?。
在降低主动权益类基金费率水平之外,证监会还将在坚持以固定费率产品为主的基础上,研究推出更多浮动费率产品试点,完善公募基金产品谱系,为投资者提供更多选择;同时拟逐步规范公募基金
TOP2热点:【蛋仔自习室102】 超高上限新决战技 时空跃迁!回溯15秒版!首日超详细攻略!
以易方达基金为例,公告中表示,为更好地满足广大投资者的投资理财需求,降低投资者的理财成本,经与相关公开募集证券投资基金的基金托管人协商一致,并报中国证监会备案,易方达基金决定自2023年7月10日起,调低旗下部分基金的管理费率及托管费率并对基金合同有关条款进行修订。
TOP3热点:超大胸片曝光2023年已更新
加息预期与短期经济韧性是美债利率上行的主要驱动。
TOP4热点:【超人杯第二季】当5个C+面对两个顶级魔王,赛博青训启动!晚上看点害羞
“我想他们的预期都是比较一致的,基本上任何一个大型国家的投资者包括中国的投资者他们的期望都是类似的,我想最终这些市场的发展应该也是比较类似的,尤其是针对中国的市场,我也一直在观察着中国的市场。在过去几年当中,已经出现了全球资产配置多样化的趋势,这是我们多样化的资产组合当中的一个支柱。另外一个,我们已经在考虑非传统的产品,市场正在推出这些产品,使我们能够更多进行分享风险,我们正是这样做的,在中国大家也正在做这件事情。”HartmutISSE说。
TOP5热点:《是读书人,我们有救了》壮志凌云城 版高压监狱
根据全球咨询公司AFRY管理咨询公司的一项具有里程碑意义的研究,通过深海管道将欧洲与中东低碳氢供应连接起来,这个项目不仅可行,而且可以释放该地区巨大的绿色能源潜力。
TOP6热点:【毕导】世界上最强的酸,比纯硫酸强一亿亿倍?缅北35秒割头网站
展望未来,汇丰银行(中国)有限公司证券服务部总监钟咏苓认为,可进一步探索扩大投资品种对外开放、优化业务模式及相关流程。例如,在统筹全局前提下,开放债券期货、适当放宽对于托管行结算模式的限制等。“这些举措有助于促进QFII增加对中国资本市场的投资,提升境外资本参与中国市场的热情和积极性,加快人民币国际化。”钟咏苓说。
“2023青岛•中国财富论坛”于7月8日在青岛举行。青岛市委常委、上合示范区党工委书记张新竹出席“金融创新与产业合作助推贸易投资”分论坛并致辞。
TOP7热点:转发给兄弟然后什么也不说日本男女日皮
编辑:张楠亚文辉
TOP8热点:“不要灭火剂,宁愿烧到底”加州大火阻燃剂“恐慌”初现纲手被无套内射网站51漫画
关于打造基础支撑的5大平台,张英介绍,一是支持建设大模型测试验证与协同创新中心,鼓励创新主体依托中心开展测试评估工作,加速模型迭代和合规应用;二是支持大模型语料数据联盟组建,鼓励多元主体加入联盟,深化共建共享机制,强化高质量语料数据的资源供给;三是打造智能算力调度平台,形成规模化智能算力调度和供给能力,服务创新型企业的算力需求;四是建设软硬件适配的测评中心,降低智能芯片的适配成本;五是支持大模型开源社区和协作平台建设,打造开放生态和开源模型。
TOP9热点:【蛋仔自习室102】 超高上限新决战技 时空跃迁!回溯15秒版!首日超详细攻略!摸胸吃胸操
7月7日晚间,阿里巴巴(BABA.N)美股盘前一度涨超3%,截至收盘,阿里巴巴美股下跌1.71%。
7月8日-9日,2023青岛•中国财富论坛举行,主题为“新变局新财富新动能”。在分论坛多元化战略打造银行理财竞争力环节,光大理财有限责任公司总经理潘东进行了分享。
TOP10热点:当老师要见家长爱情岛论坛亚洲首页
7月7日晚间,阿里巴巴(BABA.N)美股盘前一度涨超3%,截至收盘,阿里巴巴美股下跌1.71%。