社会视角-"我们四个人换着来"-AI 最可我们四个人换着来怕的不是取代人类，是已经让我们不相信看到的是真照片

AI 最可我们四个人换着来怕的不是取代人类，是已经让我们不相信看到的是真照片_ZAKER新闻

　　近日，记者以客户身份拨打北京银行北京某支行电话，工作人员表示，该行有一款专门为青少年及儿童打理压岁钱及红包礼金而设计的定期整存整取存款产品“小京压岁宝”。该产品起存金额50元，3个月、6个月、1年、2年的定期存款年利率分别为1.75%、1.95%、2.05%、2.15%，而起存金额1000元的3年期、5年期定期存款年利率分别为2.6%和2.65%。

AI 生成图像真假难辨，引发信任危机与信息误导。观察下面这张图片，你认为这是真实拍摄的，还是 AI 生成？看着是有点可疑，比如有一些汽车的车门、堆起来的样子，好像是拼接起来的。那下面这两张呢？如果不仔细查证，你可能有点不信：它们全都是拍摄出来的「真照片」。‍ 十月底开始，西班牙瓦伦西亚地区经历特大暴雨，一天的降雨量相当于一年，还下得连绵不断。而瓦伦西亚地区，街道有很多斜坡，这么大的水量完全可以让汽车浮起来，并且沿着斜坡一路往下。最后当洪水退去，就出现了最开始的照片中的景象。可是在面对这些照片的时候，很多人的反应是：AI 做的吧，假新闻。也不能说这些人不讲理，确实也是被骗到过。之前美国佛罗里达州被飓风袭击，一张穿救生衣的小女孩。在救生艇上抱着小狗流眼泪的图片，就横扫了社交网络。仔细看的话，这张图比上面的暴雨图「AI 味」更重，从手指细节，到身体姿势，都有种说不出的怪异。果不其然，原帖的帖主也并不知道这张图是从哪儿来的，发出来只是为了表达自己的对受灾人民的同情。现在，平台已经补充了背景信息，强调这是一张生成出来的图片，而非真正拍摄出来的「照片」。在救生衣女孩这张图上，网友们的怀疑精神让平台迅速反应，补充了警告。但是同样的怀疑精神，在另一场灾难中，就不再奏效。毕竟，AI 生图确实越来越真假难辨。又因为一次一次，总有人拿着 AI 图来博眼球，最后变成了大型「狼来了」现场。越逼真，越危险在评价由 AI 生成的图片或视频时，是否足够写实，一直是最重要的标准之一。图像是不是足够写实、逼真，对背后的模型提出了很多挑战：是不是掌握自然语言的规则？是否理解了常识和现实世界的规律？能不能理解上下文当中的信息，并且呈现出来？这是对模型能力的考验，也是反映各家技术力的有效指标。一开始，大家也为 AI 能够生成出无比逼真的图像而感到兴奋。可是后来，越来越多的「开局一张图，剩下全靠编」的新闻出现了，而且越来越难以分辨。六月时，社交媒体上出现西安发生特大爆炸的消息，时间地点俱全。但是西安警方核对之后，发现并没有这回事。这条消息是用一家 MCN 机构所持有的账号发出来的。被警方抓获后，主犯交代自己是利用了 AI 工具，给定 prompt，工具就会自动在网络上抓取相关的文章，然后生成几百到上千字的文本。最高峰一天能生成 4000 至 7000 条信息，全程几乎不需要人工参与，而且专门挑民生相关、热度高的话题和事件——有研究表明，消极、负面、激发情绪的信息，往往更容易抓住人的注意力，这是由我们的顶叶和额叶区域结构决定的。一番操作下来，仅仅只靠发假消息，薅平台流量，骗子的日均收入高达 1 万元。这对于阅读、转发和评论了这种假消息的用户来说，气愤是在所难免的。假照片还是实实在在地，骗过所有人的眼睛，造成了市场恐慌。去年五月时，一张五角大楼发生爆炸的照片，迅速流传。还没等专业的新闻机构核实，这张照片就迅速流传。因为刚好发布在美国股市当天的开盘时间，很多投资相关的网站和社媒账户都转发了，导致标准普尔 500 指数下跌 0.3%。黄金和美国国债的价格小涨了一波，有部分投资者把资金转移到了更稳健的产品上。最后是辖区的消防部门出面辟谣，才让事态平息。太依赖「眼见为实」，不仅会伤害感情，还会伤害钱包啊。于是就出现了反向操作：一律打成 AI。反向操作，只要不认识，就是 AI 图这样做的背后，起码有一个原因是成立的：躲开平台的推送。Meta 是明确表示要高举 AI 大旗，扎克伯格认为，有必要专门加一个版块给 AI 生成或者辅助生成的内容，他说，「我非常有信心，在未来几年里，这将成为重要的趋势之一和重要的应用之一」。Meta 旗下有 Facebook 和 Instagram 两个重要的内容平台，而在前者上，AI 生成内容越来越多见，因为它的激励政策很诱人：每个超过 1000 赞的帖子，最高可以获得 10 美元的曝光奖励。有一说一，如果能坚定执行「一律打成 AI」的路线，有效打击假消息的传播，倒逼平台不再给这些内容推流量、给补贴，说不定是个走得通的路子。没有买卖，就没有伤害。然而，这种真假难辨的情况，可能会让真正的伤害，消失在互联网的信息海洋中。互联网观察基金会 IWF 报告，在过去六个月里，由人工智能制作的非法内容数量已经超过了前一年的总量。而且都是在社交平台、公共图库等公开平台上发现的。这些非法内容包括 AI 生成的儿童色情图片、视频；融合了明星名人的照片的 Deepfake 视频；生成的儿童性虐待裸照等等。更严重的问题是，很多 AI 生成的内容已经到了一个临界点。由于过于逼真，工作人员不能轻易确定假图里面是不是有真人，是不是真的有儿童遭到虐待、需要介入。作为非营利组织，IMF 这样的机构只能是收集证据、与平台交涉要求删除。而真正有能力进行更深一步调查的，只有警方和其他执法人员。当海量的生成照片需要他们来处理，而这些照片都逼真的无人能辨别时，「一律打成 AI」会导致真照片混杂其中，没法被辨识出来，从而错过干预的机会。IWF 的分析师表示，「我们所处理的几乎所有包含 AI 生成的儿童性虐待材料的报告或链接，都是在明网上发现的。像我们这样的组织或者警察，可能会被成百上千张新图片压垮，我们并不总能知道是否真的有一个孩子需要帮助」。类似的，当「狼来了」的游戏不断扩大，真正反映、通报险情的消息，被安上「AI 做的吧」，从而错过最佳施救时间，也是一种恶果。从「眼前为实」到「眼见不再为实」的过程中，消失的是在网上冲浪时的信任。出于自我保护、减少谣言散布，一律打成 AI 的确是一种有效策略。但一切都不值得相信的世界，会更好吗？本文来自微信公众号 "APPSO"，作者：发现明日产品的。

koa12jJid0DL9adK+CJ1DK2K393LKASDad

编辑:李大江

TOP1热点：东部战区有效应对处置美舰船过航台湾海峡

　　但首场比赛就爆出大冷门，世界第一孙颖莎1比3不敌艾希卡·穆克吉。第2场比赛，王曼昱3比1战胜玛尼卡·巴特拉，为国乒队扳平比分。。

　　中国足球如今急需弥补被自身荒废的时光，找到正确的提升与发展方向，重新在“苦练内功”上下功夫，以此逐步追上亚洲球队进步的速度。若依然一成不变，则将更难以应对国际赛场日趋激烈的竞争。

TOP2热点：郑钦文迎澳网后首秀

　　本次比赛的对阵双方为世界明星队与中国香港明星队，前者包括托蒂、皮耶罗、马特拉齐、比利亚等多位世界杯冠军球员，另有贝隆、莫伦特斯等著名球星。这些球员从上周起陆续抵港，并欣赏了11日晚的春节烟花汇演。

　　2023年9月30日，杭州亚运会乒乓球女双四分之一决赛，当时名不见经传的印度组合苏蒂尔塔·穆克吉/艾希卡·穆克吉爆冷战胜中国组合陈梦/王艺迪，晋级女双四强，尽管在半决赛中不敌朝鲜组合，但铜牌已是印度历史上首枚亚运会乒乓球女双奖牌。

TOP3热点：工资不高又经常熬夜的工作小儿歌拔萝卜

　　免税销售方面，据海口海关2月15日公布的数据显示，2月10日至14日海口海关共监管离岛免税销售金额15.85亿元，已超越2023年同期的15.6亿元。   

　　值得一提的是，今年央视春晚的四个分会场——辽宁沈阳、湖南长沙、陕西西安、新疆喀什等地也吸引网友关注，搜索热度比前一天均增长50%以上。

TOP4热点：哪吒2里竟然藏了这么多文物彩蛋XXXXXL196D

　　据北京日报，大年初一，雍和宫外，武警战士手拉手形成人墙，每当雍和宫内达到1万人的饱和值时，即限制进入，由人墙隔断。一旦可以进人时，人墙打开，人流依次进入下一护送段。据北京地铁11日中午12时36分消息：目前雍和宫站客流较大，为确保现场运营秩序及乘客出行安全，自即时起至另有通知时止，2号线、5号线雍和宫站采取封闭措施，各次列车在上述车站通过不停车，雍和宫站停止2号线和5号线换乘。