一个B三个人㖭不走Transformer路线，彩云科技推出通用大模型一个B三个人㖭云锦天章_ZAKER新闻
不走Transformer路线，彩云科技推出通用大模型一个B三个人㖭云锦天章_ZAKER新闻
伯明翰大学中国研究院数年前开启以“李四光”命名的年度讲座，话题涵盖可持续发展、文化理解等。
文 | 王方玉编辑 | 苏建勋目前绝大多数生成式 AI 产品的底层技术都源于 2017 年谷歌提出的 Transformer 模型架构，而国内一家 AI 创业公司——彩云科技却独辟蹊径，开发出了全新的模型架构 DCFormer，并基于此推出新产品。11 月 13 日，彩云科技在北京总部发布了首款基于 DCFormer 架构开发的通用大模型云锦天章。据 CEO 袁行远介绍，云锦天章可以实现在虚构世界观的基础上，赋予小说人物编程、数学等基础能力，可以高速针对大量文字进行扩写、缩写，针对文章风格进行大容量更换，同时兼具其他模型的问答、数学、编程等基础能力。除了擅长的应用场景不同，云锦天章与常规大模型最大的差异还在于底层模型。据介绍，通过改进注意力矩阵，在相同训练数据下，DCFormer 架构最高可以将算力智能转化率提升至 Transformer 的 1.7 到 2 倍。此外，DCFormer 是在 Transformer 的基础上进行改进，能够和现有的模型叠加，而不是互斥，因此所有基于 Transformer 架构的大模型都能在 DCFormer 的基础上降低成本。彩云科技关于 DCFormer 架构成果的相关论文已于今年 5 月在第 41 届国际机器学习大会 ICML 2024 正式发表，该会议是国际机器学习领域的三大顶会之一。此外，DC Former 的模型代码、权重和训练数据集，也已经在 Github 全部开源。为何选择另辟蹊径采取 DCFormer 架构？袁行远告诉 36 氪，AI 在运行过程中对能源的巨大需求已成为行业共识，改善模型底层架构以提高效率是应对这一挑战的最佳策略。模型效率的提升，也可以有效地降低人工智能升级迭代的成本，加速 AI 时代的到来。虽然 DC Former 架构可以压缩大模型训练推理的成本，但彩云科技在商业化探索方面相对谨慎，关注投入产出比。目前彩云科技旗下有彩云天气、彩云小梦、彩云小译三款面向 C 端用户的 AI 产品，在全球市场获得了超过 1000 万美元的 ARR（年度经常性收入），是国内为数不多能够实现盈利的人工智能公司。其最近一轮融资是由快手前 CEO 宿华个人投资的 B2 轮，投前估值达到 1.2 亿美元。袁行远告诉 36 氪，彩云科技对 DCFormer 架构的研究及应用开发，主要服务于自身业务。目前，彩云小梦基于 V3.5 模型，在保持逻辑通顺与描写细致的前提下单次可以创作几百字到一千字的内容，未来有望突破到 2-5 千字的创作，实现更强的智能水平和更高的用户活跃度目标。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:刁富贵
TOP1热点：“ 开 学 消 费 现 状 ”
作为现实世界的映射，网络空间文明程度是网民“幸福指数”的基本参照。信息时代如何更好加强网络诚信建设，共享美好数字生活，成为与会人士关注的话题。。
TOP2热点：13人被洪水困在洞穴里15天，后来都怎么样了
生态是统一的自然系统，是相互依存、紧密联系的有机链条，要从系统工程和全局角度寻求新的治理之道。全面推进美丽中国建设，要健全保障体系。要强化法治保障，完善绿色低碳发展经济政策，推动有效市场和有为政府更好结合，加强科技支撑，推进绿色低碳科技自立自强，狠抓关键核心技术攻关，培养造就一支高水平生态环境科技人才队伍，构建美丽中国数字化治理体系，建设绿色智慧的数字生态文明。统筹各领域资源，汇聚各方面力量，打好法治、市场、科技、政策“组合拳”，就能形成建设美丽中国的强大合力。
TOP3热点：如果你打CSGO永远只能一换一，会有战队要吗？让我看看你茂密的小森林
当前中小企业企稳回升的基础尚不牢固，要进一步加大扶持力度，切实解决企业面临的困难。工业和信息化部运行监测协调局局长陶青在发布会上说，工业和信息化部等九部门联合印发《质量标准品牌赋值中小企业专项行动（2023―2025年）》，聚焦中小企业发展需求，采取针对性措施帮扶中小企业。
TOP4热点：这样的狠人，做什么都会成功！69ΧΧΧΧⅩHD19
同步推进网络核心技术开放合作与自主创新。习近平总书记指出，“要下定决心、保持恒心、找准重心，加速推动信息领域核心技术突破”。网络核心技术的突破，是建成网络强国的重要支撑。通过推动网络核心技术在各产业中的渗透融合和广泛使用，变革生产管理方式、资源配置方式和产业组织方式，推动各领域技术进步、模式创新和管理创新，改变经济运行模式和增长方式，能够为网络安全和网信事业发展奠定坚实基础。
走下演练场，沈财生带领狙击小组展开复盘。夜深人静，“潮湿环境中俯射密位要调整”等问题被他写入笔记。
TOP5热点：建议严查美国军粮FreeHD18❌❌❌4D
到了中午，张女士像往常一样用手机点了一份外卖，在提交订单时，主动选择了“无需餐具”选项。约半小时后，外卖送到，她从抽屉里拿出自己常备的筷子，开始享用午餐。她告诉记者，每次在外卖平台上点餐，她都会选择“无需餐具”，不仅避免资源浪费，还有机会获得优惠券、红包等奖励。
从企业性质看，上半年，民营企业承接离岸服务外包执行额1259亿元，占全国30.1%，同比增长13.4%。外商投资企业承接离岸服务外包执行额1919亿元，同比增长19.4%，占全国45.8%。
TOP6热点：欧皇小懒爆肝8小时挑战3600保底神兽！1300蛋币极限操作惊现彩光奇迹？八重神子COS入夜狂飙游戏
以军此次行动，也是再次宣示对巴勒斯坦的强硬政策。近年来，随着以色列国内极右翼政策继续推进，以方对巴勒斯坦的态度愈加强硬。以色列极右翼联合政府上台后，将定居点规模不断扩张，导致约旦河西岸的暴力事件激增。6月20日，一处犹太人定居点附近发生巴勒斯坦人针对犹太人的枪击事件。随后，以色列方面宣布在当地再建1000套新住宅的计划。在这种矛盾不断被激化的情况下，双方的紧张态势不断升级。
五要强化科学防控。精准把握防治关键时期，指导生产者科学选药、合理用药。
TOP7热点：一起见证百度AI的无限可能！村妇混乱私生㓉XXXV
――据乌克兰国际文传电讯社19日报道，乌总统泽连斯基当天在基辅会见了到访的爱尔兰总理瓦拉德卡。在会见结束后的联合记者会上，泽连斯基表示乌方需要西方国家援助更多SAMP-T或“爱国者”防空导弹系统来保护敖德萨附近的基础设施。
当日，由香港出版总会、广东省出版集团主办的“湾区共读・文化同根”――大湾区合作出版计划成果发布仪式举行，见证了粤港澳大湾区文化交流的阶段性成果，也开启了下一阶段人文湾区建设的新篇章。
TOP8热点：《顶级魔丸》01中国东方XXXXXLmedjyf
此外，22日至25日，四川盆地、陕南、黄淮及其以南大部地区将有大范围高温天气。
TOP9热点：穿越成海帕杰顿 怪兽当主食 奥特曼当下饭菜P969ΧΧΧΧⅩHD19
米勒表示，“目前，我们正在和美国国防部保持联系。一名美国服役军人在未经授权的情况下蓄意进入朝鲜。美国国防部负责处理，因为这是我们的工作人员之一，我们正在与他们联系，提供一切适当的协助。”
TOP10热点：2分钟搞懂图层和蒙版——从原理理解应用公啊〜好〜嗯〜轻一点电影
人体是一架任何人造设备都无法匹敌的、复杂而高效的机器。上万亿的细胞，以天工造物的神奇排列和功能状态组织起来，每时每刻都在奏响“生理交响乐”。