CHINA GARY_娱乐速递_微软AI主管谈AI趋势：大小模型将“齐头并进”，“规模法则”远没CHINA GARY有到极限

微软AI主管谈AI趋势：大小模型将“齐头并进”，“规模法则”远没CHINA GARY有到极限_ZAKER新闻

随后，沈山州先后与3位现场记者进行直播连线，接听了10位市民打进的热线电话，围绕小区绿化过度修剪、地下空间消防安全存在隐患、手机维修遇“李鬼”、老城厢非机动车充电难、黄浦滨江饮水点设置不合理、宾馆泳池水质差、酒吧噪音扰民、门禁安装缺乏人性化、空调室外机架老化等投诉问题一一进行回应，及时协调解决。

在近日的一次访谈中，微软 AI 主管 Mustafa Suleyman 深入探讨了人工智能领域的最新趋势。他认为，未来几年 AI 模型将呈现大小模型 " 齐头并进 " 的趋势。一方面，大型模型的规模化竞赛仍将持续，并融入更多模态的数据，例如视频、图像等。另一方面，利用大型模型训练小型模型的技术（如蒸馏）兴起，高效的小型模型将在特定场景中发挥巨大作用。Suleyman 补充称，未来，知识将被浓缩到更小、更便宜的模型中，嵌入各种设备，实现真正的环境感知革命。对于创业者而言，Suleyman 认为，理解并利用提示工程至关重要。通过提供高质量的指令集，创业者可以引导预训练模型，使其符合自身品牌价值观，打造独特产品。此外，小型模型蕴藏着巨大机会，创业者可以利用其低成本和高效性，开发针对特定用例的应用。采访中，Suleyman 还强调了数据整合的重要性。合成数据将成为训练模型的关键，但如何获取、整合这些数据仍需深入探讨。此外，这位微软 AI 主管还谈到了新模式的加入，例如视频和图像的整合，以及跨复杂数字界面的动作轨迹的理解和数据收集。他认为，这将带来许多令人印象深刻的结果。对于企业家来说，如何利用这些新趋势和技术进行创新，将是未来成功的关键。以下为全文内容，大家 enjoy~ ✌️（为增加可读性，我们对原文进行了简要编辑）Q：未来几年，在不断发展的模型 ( models ) 格局中，有哪些事情值得关注？A：模型的规模既在变大，也在变小，这种趋势几乎肯定会继续下去。去年开始流行一种新方法，称为蒸馏。这类方法利用大型、高成本模型来训练小型模型。这种监督效果相当不错，目前已有充分的证据支持这一点。因此，规模仍然是这场竞争中的关键因素，未来还有很大的发展空间，数据量也将持续增长。至少在接下来的两三年内，" 规模法则 " 在提供超预期表现方面的进度不会有任何放缓。Q: 还有哪些新的模式可以加入？A: 人们也在考虑将视频、图像以及跨复杂数字界面的动作轨迹等新的模态融入模型中。但我们真正感兴趣的是跨复杂数字界面的动作轨迹，比如从浏览器跳到桌面，再转移到手机，从不同的生态系统中切换，无论是在封闭的花园还是开放的网络中。我们试图理解这些轨迹，收集大量数据，使用监督学习和微调等方法。我认为这将带来许多令人印象深刻的结果。Q: 在数据方面，人们在哪些方面思考得不够多？A: 数据的讨论角度很多，经典的问题是哪些数据可以使用及其质量。我认为网上已经有大量讨论。但人们没有花足够时间思考新数据的来源，以及如何整合这些数据。例如，合成数据是一个有趣的领域，如果我们有这样的数据，可以训练出更好的小模型和大模型。如何获取这些数据并确保其整合是一个关键问题。但是如何获取这些数据并确保它们被整合起来，这一点还没有得到足够的讨论。Q：在处理模型时，提示 ( prompt ) 和问题 ( question ) 之间有什么区别？A：提示不仅仅是你问聊天机器人的问题。当你问聊天机器人一个问题，那是一个问题；当你写一个三页的风格指南并附上模仿的例子，那是一个提示。提示是你的高质量指令集，指导预训练模型以特定方式行为。令人惊讶的是，模型只需几页指令就能表现得非常不同。为了让模型表现出细微、精准和符合品牌价值的行为，你需要展示成千上万个良好行为的例子，并将这些例子微调到模型中。这是预训练过程的延续，使用高质量且准确的数据。好消息是，成千上万个例子对许多细分领域或特定垂直领域来说是非常容易获得的。这是一个优势，初创公司在高质量微调预训练模型方面有很大的空间。Q：小模型会带来哪些机会？创业者如何利用它们做一些有趣且独特的事情？A：小模型无疑代表着未来。大型模型在处理查询时会激活数十亿个不相关的神经表示，尽管它们非常高效地进行搜索和引用数亿个节点，但并不总是必要的。我们将把知识浓缩到更小、更便宜的模型中，这些模型可以驻留在各种设备上，如耳塞、可穿戴设备、耳环、植物或传感器。这场环境感知革命长期以来一直被人们所期待，它将带来功能性设备，例如一个冰箱磁铁，冰箱磁铁是我能想到的最小的数字设备。它可以在早上迎接你，告诉你天气情况，告诉你冰箱里可能有什么或没有什么，并提醒你查看日历。它可以在早上欢迎你，告诉你天气，告诉你冰箱里可能有什么或没有什么，并提醒你查看日历。这种模型可能只有几千万个参数。虽然目前还没有人真正推动这一点，但任何两人团队都可以探索这一领域。Q：人们在接下来的两天里应该思考什么问题？A：问题是，技术人员需要为设计一个更加人性化的未来做些什么。这包括思考技术如何进化人类，以及我们的情感、激情和同情心如何通过我们与技术不断变化的关系来表达。Q：为什么说这是一个转型时刻？A：我们有足够的证据表明，过去五十年的大技术转型重塑了事物的结构。我认为这是一个创办公司、扩展公司、甚至转变职业的时刻。即使你不是企业家，无论你是活动家、组织者还是学者，现在是关注的时刻。到 2050 年，列车将离站，情况会大不相同。我们现在有机会共同塑造和影响未来，没有什么是预定的。我们非常幸运能在这个时刻活着，这既是巨大的责任，也是令人振奋的机会。

koa12jJid0DL9adK+CJ1DK2K393LKASDad

编辑:张伍

TOP1热点：记不记得有一招从天而降的摔法？

在俄乌冲突与国际制裁的重压之下，俄罗斯联邦预算赤字屡创新高。当地时间7月25日，俄财长披露今年的联邦预算赤字将超过GDP的2%。面对该数据，他仍然表示对俄罗斯财政状况有信心。。

当事人的行为违反了《中华人民共和国反不正当竞争法》第六条第一款第（四）项和第八条第一款的规定。虹口区市场监管局依据《中华人民共和国反不正当竞争法》第十八条第一款和第二十条第一款的规定，对当事人作出行政处罚。

TOP2热点：都什么年代，谁还用传统手腕射日？！！（天蓬前传）

据悉，此次展览由上海市对外文化交流协会、吴昌硕文化艺术基金会、普陀区文化和旅游局联合主办，西泠印社集团、上海朵云轩集团有限公司、上海吴昌硕艺术研究协会、未来亚洲研究会为特别支持单位，上海世华艺术基金会协办，普陀区文化馆、卡咔度艺术空间承办。展览将持续至8月21日。

黄浦区打浦桥街道社区卫生服务中心全科主任医师程天一则表示，带状疱疹的预防要内外兼修，一方面，要注意作息规律，营养均衡。另一方面，接种带状疱疹疫苗，是预防带状疱疹发病的有效措施之一。

TOP3热点：花1500买4箱烟花，全部捆起做烟花加特林，统一点燃效果如何密芽

对此，南浦大桥随时随地都有可能会发生拥堵情况，如果内环高架进南浦大桥发生拥堵，民警会在陆家上引桥、董家上引桥以及内环线这三根车道放置反光锥等方法进行限流。如果附近地面上的车流量有所增大，那么民警同样也迅速会采取限流内环高架车辆的方法，来防止发生长时间、大面积拥堵。

中国质量新闻网讯为切实保障家用燃气器具使用安全，坚决防范遏制燃气安全事故，近期，青海省海西州市场监管局积极组织开展生产销售领域强制性认证产品生产企业及产品监督检查，切实加强燃气器具及配件产品质量安全专项监督检查，确保强制性认证产品质量安全。

TOP4热点：鲲鲲阻止疯狂米塔！！！GGY钙2023入口廖男男

一定要让孩子避免！

“芯谷微电子在合肥高新区创立并发展起来，对于公司的发展壮大，合肥市给予了长期支持。”芯谷微电子董事长刘家兵表示，“本项目的建设是芯谷微电子发展史上的一次战略性、跨越性发展，我们将推进项目早建成、早投产，为合肥市产业发展注入新动力。”

TOP5热点：超难惊变生存「僵尸病毒计划」第一期!!？国精产品999国精产品官网

公益药学服务全新上线。组织本市药店劳模工作室、药品零售连锁企业资深执业药师等资源，以公益服务方式每日轮值，在平台及时响应开展在线药学服务，随时解答市民买药、用药疑问，特别是市民关心的用药注意事项、不良反应和供应信息等问题，提供专业提供触手可及的贴心服务。

7月24日上午，“碳”索营的小朋友们再次来到智能汽车展示中心，展开一场激烈的FPV模型车接力竞赛。

TOP6热点：致敬每一位在春节还坚守岗位的平凡的人！国精产品三区四区有限公司

12355的焕新升级，让工作繁忙的青少年家长不再因工作时间冲突而疏于关注孩子的成长问题；让初入社会的毕业生不再因社交恐惧而怯于用法律的武器维护自身权益；让身处困境的青少年不再因求助无门而困于泥潭不能自拔。据了解，京东云后续将助力成都12355进一步部署“团委数字人”，以更立体化的形象展现青春活泼的服务者面貌，进一步探索AI助力我国青少年服务的创新空间。