天美传媒国产剧影视公司大模型预训练成本有多高?李开复:天美传媒国产剧影视公司一次约三四百万美元
大模型预训练成本有多高?李开复:天美传媒国产剧影视公司一次约三四百万美元
山东坚持以人民为中心的创作导向,实施“齐鲁文艺高峰”计划,深化“春秋风云”“派兵到山东”“咱家在山东”三大主题创作,一个个有温度、有力量的精品佳作擦亮奋进底色,让正能量澎湃大流量。《天下泰山》《咱们的新时代》等鲁版图书热销,电视剧《三泉溪暖》《警察荣誉》央视热播,纪录片《大河之洲》《长山列岛》赢得收视口碑双丰收。综艺节目《国学小名士》《黄河文化大会》《中国礼中国乐》让文化以通俗化、大众化的形式进入百姓生活。
近期,国内大模型行业传出头部六家公司中有几家放弃预训练、转向推理端的消息。10月16日,大模型创业公司零一万物创始人李开复表示,不会放弃预训练,但这是个技术活,需要懂芯片、推理、模型、算法。“如果一家公司能拥有这么多优秀的人才,能够跨领域合作,相信中国可以做出世界排名前十的预训练通用模型,但由于成本比较高,未来可能会有越来越少的大模型公司做预训练。”李开复称。对于国内头部企业的现状,李开复表示,据其所知,目前国内头部六家大模型企业融资额度都是够的,一次预训练成本约三四百万美元,这个规模头部企业付得起。此次零一万物推出新旗舰大模型Yi-Lightning 闪电模型,在海外(全球性大模型评测榜单)盲测竞技场总榜上位列第六,仅次于OpenAI的GPT-4o、o1系列,Google的Gemini 1.5 pro系列,与马斯克xAI旗下Grok-2打平。值得一提的是,此次盲测中,GPT推出的ChatGPT-4o-latest 最新版排名第一,Yi-Lightning超过了今年5月版的ChatGPT-4o-2024-05-13。这在李开复看来,说明了零一万物的预训练能力落后于OpenAI五个月的时间。此次预训练零一万物用了2000张GPU,训练了一个半月,花费了三百多万美元,但成本约为Grok的1%-2%。李开复披露,Yi-Lightning旗舰模型性能提升基于AI Infra能力提升推理速度,同时采用 Mixture of Experts(MoE)混合专家模型架构。MoE 模型由多个专家网络(Experts)构成,可以根据任务的难度动态选择激活哪些专家网络,平衡推理成本和模型性能。此前李开复强调过不做亏钱的To B业务,但此次零一万物披露了包括To B服务在内的产品矩阵。对此,李开复在采访中解释称,如果继续沿袭AI1.0时代的系统集成型AI,即直接卖模型给客户,很难有利润。零一万物做的AI2.0数字人解决方案更专注用户痛点需求与盈利点,同时已跑通了AI伴侣、IP形象、办公会议等场景。其他To B业务首要任务也是寻找少数能够按使用情况收费的方法,而非通过项目定制,确定能得到比较高利润率的订单才会去做。对于B端与C端的布局,李开复表示,一家大模型公司同时去做To B和To C很辛苦,需要多元化的管理方式,因为两个团队的基因不同,做事方法与衡量KPI也不同。To B领域,零一万物目前主要聚焦国内市场,如餐饮领域的数字人方案;To C领域主要布局海外,因为在国内To C产品的流量是一个很大的成本问题,在当下较为挑战的环境下需要谨慎判断。李开复认为,OpenAI是一家很厉害的公司,已发布的OpenAI o1虽然隐藏了所有中间的思考状态,但o1将此前预训练中的Scaling 趋势扩展到推理,对行业形成认知改变,让行业认识到预训练之外,后训练SFT(Supervised Fine-Tun-ing,监督微调)与强化训练都非常重要,“相信很多中美公司都在向o1 方向狂奔。”李开复称。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:何光宗
TOP1热点:岳飞的罪名在史学界有什么说法?
撰文/摄影:王育磊。
30多岁的陈斯在成都创建了一家科技公司,其关键技术填补了行业空白。他喜爱成都,也被当地文化所吸引。成都茶馆林立,可休闲,可聚会,很多事情在茶馆就能谈成。更重要的是,青年人通过努力可实现梦想。
TOP2热点:为什么说猫是液体的?
新华社音视频部制作
TOP3热点:《哪吒 2》成为内地首部破 60 亿票房电影,最新预测票房达 108 亿,本周末能到 70 亿吗?14may18_XXXXXL56e
国家海洋考古博物馆落户青岛蓝谷;组建了全国首家省级水下考古研究中心;成立了山东省涉水文化遗产保护研究学会,完成国内领先的山东省涉水文化遗产资源数据库一期建设成果;开展了威海沿海近现代沉船、烟台庙岛群岛水下文化遗产、日照海域水下文物资源、东平湖及其周边淹没区考古调查等项目,为“海上丝绸之路”申遗、甲午海战研究提供了重要资料。
TOP4热点:孩子提问「为什么以天来看时间就很慢,以年来看时间就很快」?你会如何给他解答?交换女人
郑小瑛,新中国第一位歌剧、交响乐女指挥家,第一位登上外国歌剧院指挥台的中国人。在漫长的岁月中,她参与创建中央音乐学院指挥系,培养出吴灵芬、陈佐湟、吕嘉、俞峰等一批优秀指挥人才,独创音乐导赏的“郑小瑛模式”,让数百万音乐爱好者受益。她三次抗癌,三次创业,创造了多个行业第一,获得中国歌剧事业特别贡献奖、文华指挥奖、金钟奖终身成就奖等众多荣誉,成为年轻人眼中的“硬核奶奶”。
TOP5热点:你最喜欢迪丽热巴的哪个角色?上面一边亲下面一面膜直接看
杭州亚运会步枪、手枪、飞碟项目比赛时间为9月24日-10月1日,在富阳银湖体育中心举行,共产生33枚金牌。
TOP6热点:胖东来就「所售红色内裤掉色过敏」致歉,此次胖东来处理方式如何评价?该事件会影响其良好口碑吗?一浅二深三大叫什么
杭州亚运会步枪、手枪、飞碟项目比赛时间为9月24日-10月1日,在富阳银湖体育中心举行,共产生33枚金牌。
此次试车的发动机采用先进的液氧煤油作为燃料,由新一代运载火箭使用的大推力液氧煤油发动机改进迭代而来,推力达到130吨级,将用于长征十号运载火箭的芯一级和助推器。
TOP7热点:作为常年健身的人,你会给运动新手哪些忠告?日本大但但人文艺术
高质量发展和高水平保护不是矛盾对立的关系,而是辩证统一的关系。生态环境保护的成败归根到底取决于经济结构、经济发展方式、生产方式、生活方式。发展经济不能对资源和生态环境竭泽而渔,生态环境保护也不是舍弃经济发展而缘木求鱼,要坚持在发展中保护、在保护中发展,实现经济社会发展与人口、资源、环境相协调,实现经济效益、社会效益、生态效益兼收,生产发展、生活富裕、生态良好并进。
TOP8热点:现如今的美国的军事科技发展到什么程度了?天美传媒国产剧影视公司
杭州亚运会卡巴迪项目比赛时间为10月2日-7日,在萧山瓜沥文化体育中心举行,共产生2枚金牌。
TOP9热点:华为门店因包装破损向骑手讨要索赔 15000,如何从法律角度进行解读?算敲诈吗?成品78W78隐藏通道1
提高大学生参保水平减轻医疗费用负担
TOP10热点:有哪些人才华横溢却死的太早?日日承欢NP
创造了