大巴车让我难忘的美好时光OpenAI 下一代模型遭遇重大大巴车让我难忘的美好时光瓶颈，前首席科学家透露新技术路线_ZAKER新闻
OpenAI 下一代模型遭遇重大大巴车让我难忘的美好时光瓶颈，前首席科学家透露新技术路线_ZAKER新闻
湃肽生物的营收中，有近六成源自对前五大客户的销售，对大客户依赖程度较高。2020-2022年，湃肽生物对前五大客户的销售收入分别为4832.87万元、7860.75万元和12791.23万元，占公司营业收入的比重分别为56.09%、55.00%和59.59%。
OpenAI 的下一代大语言模型「Orion」可能遭遇了前所未有的瓶颈。据 The Information 报道，OpenAI 的内部员工称 Orion 模型的性能提升没有达到预期，与从 GPT-3 到 GPT-4 的升级相比，质量提升要「小得多」。此外，他们还表示 Orion 在处理某些任务时并不比其前身 GPT-4 更可靠。尽管 Orion 在语言技能上更强，但在编程方面可能无法超越 GPT-4。▲图源：WeeTech报道指出，训练高质量文本和其他数据的供应正在减少，这使得找到好的训练数据变得更加困难，从而减缓了大语言模型（LLMs）在某些方面的发展。不仅如此，未来的训练将更加耗费计算资源、财力甚至电力。这意味着开发和运行 Orion 以及后续大语言模型的成本和代价将变得更加昂贵。OpenAI 的研究员诺姆 · 布朗（Noam Brown）最近在 TED AI 大会上就表示，更先进的模型可能「在经济上不可行」：我们真的要花费数千亿美元或数万亿美元训练模型吗？ 在某个时候，扩展定律会崩溃。对此，OpenAI 已经成立了一个由负责预训练的尼克 · 雷德（Nick Ryder）领导的基础团队，来研究如何应对训练数据的匮乏，以及大模型的扩展定律（scaling laws）将持续到什么时候。▲ Noam Brown扩展定律（scaling laws）是人工智能领域的一个核心假设：只要有更多数据可供学习，并有更多的计算能力来促进训练过程，大语言模型就能继续以相同的速度提升性能。简单来说，scaling laws 描述了投入（数据量、计算能力、模型大小）和产出之间的关系，即我们对大语言模型投入更多资源时，其性能提升的程度。举例来讲，训练大语言模型就像在车间生产汽车。最初车间规模很小，只有几台机器和几个工人。这时，每增加一台机器或一个工人，都能显著提高产量，因为这些新增资源直接转化为生产能力的提升。随着工厂规模的扩大，每增加一台机器或工人带来的产量提升开始减少。可能是因为管理变得更加复杂，或者工人之间的协调变得更加困难。当工厂达到一定规模后，再增加机器和工人可能对产量的提升非常有限。这时，工厂可能已经接近土地、电力供应和物流等的极限，增加的投入不再能带来成比例的产出增加。而 Orion 的困境就在于此。随着模型规模的增加（类似增加机器和工人），在初期和中期，模型的性能提升可能非常明显。但到了后期，即使继续增加模型大小或训练数据量，性能的提升也可能越来越小，这就是所谓的「撞墙」。一篇近期发表在 arXiv 上的论文也表示，随着对公共人类文本数据需求的增长和现有数据量的有限性，预计到 2026 年至 2032 年之间，大语言模型的发展将耗尽现有的公共人类文本数据资源。▲图源：arXiv即使诺姆 · 布朗指出了未来模型训练的「经济问题」，但他还是对以上观点表示反对。他认为「人工智能的发展不会很快放缓」。OpenAI 的研究人员也大都同意这种看法。他们认为，尽管模型的扩展定律可能放缓，但依靠优化推理时间和训练后改进，AI 的整体发展不会受到影响。此外，Meta 的马克 · 扎克伯格、OpenAI 的山姆 · 奥特曼和其他 AI 开发商的首席执行官也公开表示，他们尚未达到传统扩展定律的极限，并且仍在开发昂贵的数据中心以提升预训练模型的性能。▲ Sam Altman（图源：Vanity Fair）OpenAI 的产品副总裁彼得 · 韦林德（Peter Welinder）也在社媒上表示「人们低估了测试时计算的强大功能」。测试时计算（TTC）是机器学习中的一个概念，它指的是在模型部署后，对新的输入数据进行推理或预测时所进行的计算。这与模型训练阶段的计算是分开的，训练阶段是指模型学习数据模式和做出预测的阶段。在传统的机器学习模型中，一旦模型被训练好并部署，它通常不需要额外的计算来对新的数据实例做出预测。然而在某些更复杂的模型中，如某些类型的深度学习模型，可能需要在测试时（即推理时）进行额外的计算。例如，OpenAI 所开发的「o1」模型就使用了这种推理模式。实际上，整个 AI 产业界正将重心转向在初始训练后再对模型进行提升的模式。▲ Peter Welinder（图源：Dagens industri）对此，OpenAI 的联合创始人之一伊利亚 · 苏茨克弗（Ilya Sutskever）最近在接受路透社采访时承认，通过使用大量未标记数据来训练人工智能模型，以使其理解语言模式和结构的预训练阶段，其效果提升已趋于平稳。伊利亚表示「2010 年代是扩展的时代，现在我们再次回到了探索和发现的时代」，并且指出「扩大正确的规模比以往任何时候都更加重要」。Orion 预计将在 2025 年推出。OpenAI 将其命名为「Orion」而非「GPT-5」，这也许暗示着一场新的革命。虽然暂时受理论限制而「难产」，我们仍然期待着这个拥有新名字的「新生儿」能给 AI 大模型带来新的转机。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:王子久
TOP1热点：如何看待马来西亚华人的未来？
事实上，公司此前一次对外收购也未约定业绩承诺。。
TOP2热点：世界围棋团体锦标赛更新规则，称棋盘外情况均不处罚，这会对日后的比赛带来怎样的影响？
而且，超过这些阈值后，回报曲线只会急剧陡峭，这表明，一定数量的黄金配置可以实现最佳的风险调整回报，而不会过度干扰投资组合的波动性。
TOP3热点：常常提到的控糖，到底控的是什么糖？控糖时有哪些碳水需要少吃？WWW.MITAO123.CO...
给王健林“雪中送炭”的陆丽丽虽鲜少公开露面，但来头不小。据媒体报道，陆丽丽是千亿上市公司
外国投资者的美债持有量在5月出现了四个月来的首度下降，日本减持量在美债主要持仓国家中排名第一，中国持有的美债规模降至2010年5月以来的最低水平。
TOP4热点：如何评价「退钱哥」何胜在一支新疆中冠球队以球员身份完成报名？大巴车让我难忘的美好时光
制程对比
免责声明：以上内容为机构分析报告，不代表内容发布平台意见。不构成投资建议。
TOP5热点：如何评价白敬亭、章若楠主演的电视剧《难哄》？丫头刚开始会有点疼
大宗交易仍是价格的关键驱动因素，多数交易发生在两年期国债期货上。本周的曲线交易似乎既有陡峭的头寸，也有平缓的头寸。
TOP6热点：导致人抑郁的基因为什么还没有被淘汰掉？这两个球球一直摇晃个不停
但个股市值、股性以及所处的市场环境不同均会影响BOLL指标策略的有效性。保守起见，策略哥特地回测了近几年凤凰传媒相同指标形态的出现次数及后续影响，数据发现凤凰传媒从2020年起共出现过26次BOLL值阶段新低，开口收窄的情况。
TOP7热点：2 月 18 日俄美双方在沙特阿拉伯会晤，讨论乌克兰等问题，为何选在沙特？此次会晤对乌欧意味着什么？18COMIC
光庭信息称，产业园二期项目已在建设中，预计整体募投项目建设和实施完成时间仍需大概22个月，将3个募投项目延期12个月至2024年12月21日，而使用部分超募资金投资的产业园二期部分项目的预定可使用时间为2024年4月30日。
TOP8热点：如何评价「退钱哥」何胜在一支新疆中冠球队以球员身份完成报名？抽插黄文NP合欢宗
通过追踪各分项的价格变化，可建立CPI拆分模型，以预测通胀水平。由于通胀指标细分项较多，并且各分项变化趋势及影响因素差别较大，直接搭建模型难度较大，预测效果不佳。如果按照食品、能源商品、能源服务、核心商品、核心服务将CPI分为5个分项，再分别寻找各部分的关键变量进行预测，有助于优化模型并提升模型预测的准确度。
TOP9热点：1g 黄金是否会在 5 年内突破 5000 元？操老女人XXXX视频
而对于遴选团队的标准，张涵表示，组织形式上更加机构化，行业上更加专注，最好有一定的产业资源。
TOP10热点：很多交易大师都歌颂耐心，把耐心捧到很高的地位，在期货交易中耐心真的那么重要吗？oldmacdonald中老年乐
亚信科技坚持“一巩固、三发展”战略，高质量巩固BSS市场的领导地位，高速度发展5GOSS网络智能化、DSaaS数字化运营、垂直行业和企业上云等新兴业务。公司积极拥抱5G、云计算、大数据、AI、物联网等先进的技术，形成了云网、数智、IT三大产品体系。
7月14日，通葡股份发布业绩预告，称2023年上半年预计亏损5488万元至8232万元，扣非亏损2560万元至3840万元。相较上年同期，亏损在扩大。