胡桃腿法娴熟当AI取代真相，大模型如何一步步诱骗了人胡桃腿法娴熟类的文明？_ZAKER新闻
当AI取代真相，大模型如何一步步诱骗了人胡桃腿法娴熟类的文明？_ZAKER新闻
除承担抢险救灾和保障城市基本运行任务的单位和个人外，非必要不外出。直接保障城市供水、供电、供气、供油、通信、医疗等关乎民生的单位，以及承担抢险救灾和保障社会基本运行任务的单位不在本通告停止范围内。（总台记者 廖汨）
文 | 追问 nextquestion如今，人们选择餐厅，多半会打开 app 搜索一番，再看看排名。然而美国奥斯汀的一家餐厅 Ethos 的存在证实这种选择机制多么不可靠。Ethos 在社交媒体 instagram 宣称是当地排名第一的餐厅，拥有 7 万余粉丝。实际上，这家看起来很靠谱的餐厅根本不存在，食物和场地的照片都由人工智能生成。可它家发布在社媒上的帖子却得到了数千名不知情者的点赞和评论。大模型通过视觉形式误导公众认知，引发了人们对其潜在影响的深刻思考。▷图 1：图源：X大型语言模型（LLMs），由于其幻觉及涌现特性，总让人们忧虑其传播虚假信息的可能。然而这一现象背后的机理我们却不甚了解。大模型究竟如何改变人类的心理机制，让人们越来越难以判断一件事情真实与否，并失去对专业机构和彼此的信任？2024 年 10 月发表的一篇名为 "Large language models ( LLMs ) and the institutionalization of misinformation（大语言模型与虚假信息的制度化）" 的研究 [ 1 ] ，点出了大模型和虚假信息的关系：它比我们所了解的更为深远与复杂。▷Garry, Maryanne, et al. "Large language models ( LLMs ) and the institutionalization of misinformation." Trends in Cognitive Sciences ( 2024 ) .AI 生成的虚假信息影响深远类似开篇提到的虚假餐厅的例子，现实生活中发生了不止一次。2023 年 11 月，搜索引擎 Bing 曾因为爬取了错误信息，而针对 " 澳大利亚是否存在 " 的问题，给出了如下图所示荒谬的回复。（事后官方很快对该问题进行了修复。）▷图 2：Bing 截图；图源：Bing上面的例子，还可视为程序的 bug，而普林斯顿的一项研究则系统性说明了 AI 生成数据的影响不止如此 [ 2 ] 。该研究发现，截止 24 年 8 月，至少 5% 的英文维基百科页面是由 AI 生成的，相对而言德语、法语和意大利语文章的占比较低。维基百科（Wikipedia）是人工智能训练数据的重要来源，且被普遍视为权威的信息来源。尽管 AI 生成的内容并不一定都是虚假信息，但该研究指出，被标记为 AI 生成的维基百科文章通常质量较低，并具有较明显的目的性，往往是自我推广或对有争议话题持特定观点。AI 生成的虚假信息，如何利用了判断真假的启发式弱点虽然虚假信息被发现后很快会被纠正，但如同小时候听过的 " 狼来了 " 的故事，一次次的接触虚假信息，会让磨损我们彼此间的信任。我们判断一件事情是否为真时，有两种不同的思考方式，一是启发式，另一种则是费力的思考。启发式思维所需的认知资源更少，依赖直觉，属于丹尼尔 · 卡尼曼所说的系统一。对个体来说，判断是否是虚假信息，启发式的判断标准包括是否声明清晰，是否吞吐犹豫，是否有熟悉感；而费力的思考则多基于逻辑：" 不应该只相信互联网来源，我是否在学校或是书本中见过类似的？"▷图 3：大模型会如何利用人类事实监控机制的弱点，图源：参考文献 1在在日常生活中，我们常用到两种启发式方法判断信息真实与否：一种是观察发言是否流畅自信，另一种是言论是否熟悉。然而事实证明，这两种判断基准在人工智能面前都会败下阵来。然而，大模型生成的文章，往往会显得自信且流畅。一项研究对比人工智能生成的和人类撰写的大学入学论文，发现人工智能生成的论文与来自特权背景的男性学生的论文相似。人工智能论文倾向于使用更长的词汇，并且在写作风格上与私立学校申请人的论文尤其相似，相比真实的申请论文缺乏多样性 [ 3 ] 。这意味着当我们面对大模型生成的信息时，之前用来判断真假的第一种启发式—— " 表述是否自信 " ——失效了。而对于第二个判断机制——是否熟悉，由于大模型产生信息的速度远远大于人类，它可以通过高度重复同质化的信息，人工创造出一种真实感。当大模型不加区分地向 " 思想市场 " 输出真假参半的同质化信息时，判断信息真伪的第二个启发式机制 " 熟悉与否 " 也失效了。当然，批评者可能会辩称，检测和纠正不准确信息是人类一直面临的问题。但区别在于，大模型的出现带来了前所未有的虚假信息激增风险。当人们或大模型控制的账号在网上发布和转发类似的虚假信息时，这些内容会逐渐变得熟悉，从而被误认为真实。更糟糕的是，这些信息还会被反馈到用于训练下一代大模型的数据集中，进一步加剧这一问题。将 AI 拟人化使我们轻信大模型大多数人倾向于认为，我们的对话伙伴是真诚的、合作的，并会为我们提供与话题相关的有用信息。在与大模型对话时，人们也会不自觉地将其拟人化，忘记自己面对的是代码而非真实的人。这种拟人化倾向让人们更容易依赖启发式思维，而非进行更深入的批判性分析。大模型的训练目标是与用户持续对话，这样的对话特征可能会引发确认偏误（confirmation bias），趋向于输出我们想看见的，我们愿意相信的。例如，当用户询问大模型 " 股市会涨吗 "，大模型会给出若干长期看涨的理由，而当用户询问 " 股市会跌吗 " 时，大模型同样能找出对应的论据。这样的回应可能会强化人们已有的信念（或偏见），并可能增强人们对大模型整体回复的信任。在这种情况下，人们不太可能进行批判性的信息评估，反而倾向于默认快速启发式判断，更加坚信自己的初始判断：" 我知道这是真的 "。在向大模型寻求帮助时，通常会遇到短暂的延迟，在此期间模型解析用户的请求，并预测一个看似经过认真思考的回应。当 ChatGPT 回应时，它不会模棱两可或不确定。它从不说 " 我不知道，你怎么不问问你的朋友 Bing？" 即便在拒绝回答时，它也通常会给出其他方式的帮助，而不是直接承认自身的局限。例如，" 我不能帮助您从 YouTube 下载视频，因为这违反了他们的服务条款 "。这样，大模型赢得了人们对其的信心、准确性和可信度的认可。即使大模型发出了 " 可能会出错 " 的警告，而这种警告类似于人们在对虚假信息的普遍警告，其效果大多是有限的。大模型会影响我们的群体智慧与记忆按照目前大模型产生信息的速度发展下去，生成文本的遣词造句风格，将变得比人类自己的内容更为人熟知。那么，它就有能力大规模地生成看似真实但却严重误导的消息，从特定社区扩散到主流社会，让人类社会的信任问题再升级。这正是研究中提到的虚假信息的 " 制度化 institutionalization" 的过程。电影《肖申克的救赎》也用到了 "Institutionalized" 这个词——最初，囚犯讨厌监狱的牢笼，但几十年后，出狱的他们却发现自己无法适应没有围墙的生活。类似地，最初我们可能认为大模型产生的虚假信息只是遮挡视野的灰尘，但随着时间推移，这些信息逐渐被接受，其与新闻、政治和娱乐之间的界限变得模糊，连制度性的事实监控机制也会被侵蚀。▷图 4：大模型如何采纳虚假信息的循环：（1）大模型从互联网和其他数字资源中收集大量数据，用于训练（2）训练 LLM 的过程导致一个可能包含数百亿个参数的模型。然后，这个模型被用来（3）创建聊天引擎，这些引擎可能错误地生成针对天真用户的虚假信息，或者故意生成针对恶意 " 威胁行为者 " 的虚假信息。无论哪种方式，这些虚假信息可能（4）发布在网站上、社交媒体上，或者由媒体来源报道：所有这些活动都在互联网上传播虚假信息。（5）一旦在网站上，这些信息就会被网络爬虫抓取，并由（6）搜索引擎索引，现在这些搜索引擎将这些网站上的虚假信息链接起来。当创建模型的下一个迭代版本时，它随后（7）在互联网上搜索新的数据语料库，并将该虚假信息反馈到训练集中，从而采用先前生成的虚假信息。图源：参考文献 1想象一下，为了掩盖侵略历史，政府使用大模型生成虚假的历史记录；或是不相信进化论，相关人员也可以使用大模型来生成反驳进化论的文章与书籍 ...... 如此一来，特定群体的集体记忆会被重新塑造。不止于此，更深远的影响是，虚假信息会成为我们用来规划、做决策的新基础，而我们也将失去对权威机构和彼此的信任。除此之外，大模型产生的虚假信息，还可能对群体智慧的涌现产生负面影响。在一个多样化的群体中，不同观点和背景的信息碰撞，会产生超出个体智慧的结果；但如果虚假信息充斥讨论，哪怕只是大家都依赖大模型获取信息和想法，群体智慧的多样性和创造力也会受到抑制。▷图 5.AI 生成的图片被广泛传播，塑造集体记忆。图源：X小结人类应对虚假信息的方式，与自身的历史一样悠久。只是大模型的出现，让我们传统的启发式应对机制失效了。要应对大模型生成的虚假信息，需要多方合作，可以通过大模型智能体以及众包协作来进行事实审核，也需要向公众科普大模型的运行机制，使其不再拟人化大模型，并习惯采取非启发式的方式去判断信息真假。我们需要创立优化的虚假信息监控制度，并重建大众对机构的信任。我们需要加深对真伪信息判断机制的理解，无论是个体层面、人际层面，以及制度层面。我们需要对每个解决方案的有效性进行心理学研究。缺少这些，迎接我们的，不是后真相时代，而是不可避免的虚假信息制度化。参考文献：1 Garry, Maryanne, et al. "Large language models ( LLMs ) and the institutionalization of misinformation." Trends in Cognitive Sciences ( 2024 ) .2 Brooks, Creston, Samuel Eggert, and Denis Peskoff. "The Rise of AI-Generated Content in Wikipedia." arXiv preprint arXiv:2410.08044 ( 2024 ) .3 Alvero, A. J., et al. "Large language models, social demography, and hegemony: comparing authorship in human and synthetic text." Journal of Big Data 11.1 ( 2024 ) : 138.4 Burton, Jason W., et al. "How large language models can reshape collective intelligence." Nature Human Behaviour ( 2024 ) : 1-13.koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:洪学智
TOP1热点：24年度人气星品花落谁家
中国外贸正面临艰难时刻。上半年进出口规模仍在扩大，但5月同比增速已降至0.5%，6月甚至较去年同期缩水。商务部对外贸易司司长李兴乾说，外贸形势“极为严峻”。。
TOP2热点：杨紫回应李现
2023年5月28日上午10时32分，C919大飞机开启首次商业载客飞行。12时31分，航班平稳降落在北京首都国际机场，标志着该机型圆满完成首个商业航班飞行。
TOP3热点：徐克为什么选射雕最后七章拍C语文课代表在线观看
据悉，阿联酋政府已将20%的政府机构用车转换为电动汽车。约60%的阿联酋居民正在考虑改用混合动力或纯电动汽车。国际咨询公司Arthur D Little发布的“2022年全球电动汽车准备度指数”显示，阿联酋的电动汽车行业准备程度排在全球第8位，预计阿联酋电动汽车市场将在2022—2028年间以每年30%的速度增长。
TOP4热点：肖战第二套也帅的没边今日3d藏机图全部藏机图天齐整理
“在直播间中说相声，或许可以通过直播连麦寻找到一名观众，让他参与到作品中和演员直接互动，这样形式就会变得很新颖。”李寅飞说。
TOP5热点：张康乐马柏全比心合照偷拍综合
除承担抢险救灾和保障城市基本运行任务的单位和个人外，非必要不外出。直接保障城市供水、供电、供气、供油、通信、医疗等关乎民生的单位，以及承担抢险救灾和保障社会基本运行任务的单位不在本通告停止范围内。（总台记者 廖汨）
“我们为什么要来支持曹云金，是因为我们是同行，只是单位不一样而已，我们都在这个行业里，曹云金直播相声火了，关注相声的人多了，对于我们这个行业来说都是好事。”
TOP6热点：郑钦文顺利拿下90万元奖金胡桃腿法娴熟
2022年10月，红旗新能源车成为首个加入迪拜警车队伍的新能源车品牌；2022年年底，吉利旗下的新能源商用车品牌远程汽车与阿联酋企业签署1000台新能源商用车订单；今年6月21日，比亚迪在阿联酋推出元PLUS车型，海外称“BYD ATTO 3”，该车型是比亚迪基于e平台3.0打造的首款A级潮跑SUV。值得一提的是，该车型通过了产品本地化和高温测试。
李乐成要求，阜新市及相关部门要提速加力、从严从实从快开展事故调查处置，彻查事故原因，严肃追究责任，对事故处置中存在的失职渎职和作风问题、腐败问题，发现一起、查处一起，一查到底，决不姑息迁就。
TOP7热点：孙俪公开新年健康计划shkd595石原
邹澜表示，房地产开发贷款主要是用于房地产项目的施工建设，通常是在开工时发放，竣工时回收，余额主要取决于同期商品房的在建规模。过去，开发商根据项目销售进度，用预售资金提前偿还开发贷款的情况较为普遍。去年以来，因为非金融负债收紧，开发贷款需求明显增加，商业银行开发贷款投放力度加大，今年上半年累计新增4200多亿元，同比多增约2000亿元，促进了开发商加快项目施工建设，有利于保障项目的交付。
李乐成要求，阜新市及相关部门要提速加力、从严从实从快开展事故调查处置，彻查事故原因，严肃追究责任，对事故处置中存在的失职渎职和作风问题、腐败问题，发现一起、查处一起，一查到底，决不姑息迁就。
TOP8热点：苏bro国产无遮挡又黄又爽动软件
一些领域积极信号也开始显现。李兴乾透露，对重点外贸行业和企业的跟踪调研已有一些积极变化，如跨境往来进一步畅通，国际航班数量也稳步恢复；新签订单持平或增长的企业占比在回升；电子信息这些压力较大的行业，中间品进口在上扬，“这意味着下半年可能会迎来转机”。
TOP9热点：广州最低温破0吃瓜网51爆料
对此，有分析称，一方面是因为大型充电站的用电被划归到了工业用电中，电价调整就会引起充电费调整；另一方面，大部分第三方运营商几乎都处于亏损状态，这使得他们不得不涨价才能“活下去”。
TOP10热点：微博之夜 名利场氛围皇冠海外华为永久线路
市气象台18日6时发布：今天白天晴间多云，午后北部山区有雷阵雨，北转南风二三间四级，最高气温36℃；夜间晴间多云，南转北风一二级，最低气温24℃。高温黄色预警中，近三天高温热浪持续，外出防暑防晒勤补水；午后部分山区有雷雨，山区出行防雷避雨。