人马畜禽CORPORATION...AI换脸，该抵制吗？_ZAKER新闻人马畜禽CORPORATION...
AI换脸，该抵制吗？_ZAKER新闻人马畜禽CORPORATION...
作为唯二的“70后”正部级官员，李云泽、阿东除了年龄上的相似，还有诸多共同点。他们都曾在各自的专业领域深耕多年，基层经验丰富，履历扎实完备，之后跨领域、跨省锻炼，逐渐成长为正部级官员。
定焦（dingjiaoone）原创作者 | 王璐编辑 | 魏佳眼见 ≠ 为实，AI 换脸欺骗了不少人。前两天，湖北公安破获了一起用 AI 换脸技术解锁社交账号并倒卖获利的案件。不法分子通过 AI 换脸专门帮人解锁被平台冻结的交友账号，每解锁一个，收费 15 元 -30 元不等。该团伙共解冻了 2107 个账号，从中获利 40 万元。有数据显示，2023 年基于 AI 的深度伪造欺诈暴增了 3000%，深度伪造也就是 deepfake，是 learning 和 fake 的组合，主要指用 AI 深度学习的技术，合成某个人的图片或视频、甚至声音，最常见的便是 AI 换脸。工信部更是在近期表示，将推出 AI 换脸诈骗风险提醒功能。一边是 AI 换脸诈骗案件屡屡发生，另一边则是 AI 换脸技术不断迭代。AI 圈最近被一款 AI 换脸项目—— Deep-Live-Cam，炸开了锅。用户只需上传一张照片，便可实时换脸成扎克伯格、董宇辉等任何想成为的人。这一项目免费面向所有用户开放，发布在 GitHub（代码托管平台）上，支持个人电脑安装。项目开发者公布了安装方法，没有技术经验的普通人可以边学边安装。由于操作简单方便且换脸真实度高，Deep-Live-Cam 出场便登上 GitHub 热榜第一，24 小时狂揽 1600+ 星（星星代表项目点赞和关注指标，几千颗星星是相当不错的级别）。不少网友将自己换脸成马斯克，体验了一把全球亿万富豪的感觉。但大家在感慨 AI 换脸技术取得突破的同时，也在担忧 " 诈骗更变得容易了 "。AI 换脸，该抵制吗？普通人都能用的 AI 换脸，成本低至十几块目前国内外出现的 AI 换脸工具不少，Deep-Live-Cam 被热议的原因主要在于，用户只用上传一张图但替换效果非常逼真，还支持实时换脸。其实，" 实时换脸 " 功能的技术门槛算不上高。瑞莱智慧联合创始人、算法科学家萧子豪介绍，想达到实时视频换脸效果有两种方式：一种是播放事先做好的换脸视频，一种是接入实时换脸视频。Deep-Live-Cam 属于后者。无论哪种，AI 换脸视频都需兼顾前后帧的连贯性，而基于连续人脸视频的处理，可根据前一帧的很多检测资源做微小的调整，" 这也让基于连续帧的视频 / 直播换脸，相比独立帧的单张换脸，效率更高 "，一位从事 AI 技术的研究员表示。AI 换脸依托的底层技术是 Deepfake，从业者推测，Deep-Live-Cam 采用的也是这一技术，所以仅从制作合成花费的素材和算力看，成本不会很高。萧子豪表示，如果不考虑其他硬件采购成本，大多数 AI 换脸成本，一次大概只要十几块，主要包含照片和算力，Deep-Live-Cam 可能更低。和其他 AI 换脸工具相比，Deep-Live-Cam 用的照片数量更少，该工具还支持普通电脑使用，照片和算力成本更低。相比之下，Deep-Live-Cam支持仅用一张图片换脸，更让从业者们震惊。因为过往的 AI 换脸产品需要用户提供多张不同角度的至少十几张照片。照片难度的降低让用户玩嗨了。AI 追随者小 C 表示，自己之前没接触过任何 AI 换脸工具，他觉得 Deep-Live-Cam 操作门槛不高，按照发布者的说明便可完成，寻找换脸素材的难度也不是很高。他将自己换脸成了郭德纲、吴京、雷佳音等一众名人，且都只用了他们各自的一张图片。他表示，只要提供的是正脸、额头无遮挡、自然光，接近自己肤色、证件照比例的照片，一张便可成功，脸换效果也很自然。不止一位从业者认为，部分影视剧采用的 AI 换脸技术，不仅门槛高、成本高昂，换脸效果也不够自然，说话过程中经常出现变形、失真。" 像不像是 AI 换脸工具最大的难题，Deep-Live-Cam 能支持一张图在直播过程中达到，脸边缘没有明显贴图痕迹，肤色和原人物差别不大的效果，逼真度领先很多 AI 换脸工具，" 萧子豪分析，其开发者应该是在图片渲染模型上实现了过往 AI 换脸工具没有的突破。不过，目前 Deep-Live-Cam 还存在一些 Bug，比如支持换脸但不涉及换声。但萧子豪表示，想要实现此举不难，接入实时换声工具即可，稍有编程基础的人就能完成。AI 换脸，躲不掉的诈骗和侵权Deep-Live-Cam 等工具降低了用户的使用门槛，但大家也开始恐惧，不法分子只用一张图就可以换脸行骗，对普通人而言，风险将会剧增。瑞莱智慧数据指出，国内 AI 诈骗案件的涉案金额从 2020 年的 0.2 万增长至 2023 年的 1670 万，年复合增长率高达 1928.8%。2024 年上半年，AI 诈骗案超过 1.85 亿。奇安信发布的《2024 人工智能安全报告》显示，2023 年基于 AI 的深度伪造欺诈暴增了 3000%。AI 换声、AI 换脸、AI 生成是 AI 诈骗常用的三种手段，其中 AI 生成内容，秒数有限，画质和人物瑕疵明显，因此不法分子最常用的是 AI 换声、AI 换脸。而大多人相信 " 眼见为实 "，又让 AI 换脸的欺骗性高于 AI 换声。AI 换脸不仅骗到了老年人，很多从事科技领域的年轻人也一夜失掉几百万。据媒体公开报道，去年某科技公司 CEO 收到朋友转账求助，不到 10 分钟被骗 430 万元，骗子主要便是利用了 AI 变脸技术。还有香港某跨国公司员工被骗入不法分子设计的高管视频会议后，将 2 亿港元打到对方账户。AI 换脸达到了 " 能以假乱真 " 的程度，是从业者的共识。李旭反传防骗团队负责人李旭对 AI 换脸技术的关注，便来源于各种诈骗案件。他表示，近两年 AI 换脸诈骗案件频发，市面上大概有三种 AI 换脸诈骗手段非常成熟。第一种，利用 AI 换脸伪造色情视频，对受害人进行敲诈。比如犯罪团伙会从网上等各种渠道收集被害人图片、视频信息，然后进行一键去衣、AI 换脸等合成处理，将伪造的不雅视频或者艳照发给受害者，用来敲诈勒索。第二种，利用 AI 换脸冒充熟人诈骗。比如诈骗团伙会用市面上的一些换脸工具伪装成受害人的亲人、朋友、同事、领导等，先虚构一个紧急事由，利用被骗目标的急迫心理实施诈骗行为，受害人在情急之下往往容易放松警惕将钱转出。现在使用 Deep-Live-Cam 更只需要采集受害者一两张照片即可深度仿造技出一段视频，李旭觉得，AI 换脸诈骗的程度超出了大多数普通人的认知，也直接改变了电信诈骗的剧本，防不胜防，愈演愈烈。第三，利用 AI 换脸冒充名人进行直播带货，骗取用户下单。比如主播在直播间利用 "AI 换脸 " 给自己 " 换 " 了一张名人脸，从而增加直播视频流量，助力直播带货。此外，未经他人允许，通过 AI 换脸对名人 / 普通人进行长短视频二创、制作表情包等侵权问题也十分常见。AI 换脸诈骗案件频发且手段多样，与这一技术的成熟度和广泛度密切相关。瀚皓科技 CEO 吴杰茜告诉「定焦」，" 目前，AI 视频生成、数字人和 AI 换脸技术都很成熟，而 AI 换脸是其中发展最早的领域。"2014 年 Deepfake（深度伪造）技术的出现，标准着 AI 换脸诞生，但一直在小范围传播，直到 2017 年，有用户利用该技术发布不实色情图片后，AI 换脸才走入大众视野，但同时也因为其带来的大量造假内容，该技术一直备受争议。不止一位从业者表示，这些年，虽然大众对 AI 换脸的讨论多集中在拯救影视剧上，但由于不好监管，利用 AI 换脸进行造假诈骗的事情也一直没断过。且 AI 换脸技术一直在迭代，入局者也不少，目前除了一些大厂涉及这一业务外，国内很多数字人、AI 生成视频初创公司都有开发 AI 换脸业务，技术普及度比较高，该类工具也越来越多。技术成熟、普及度高，监管也有一定的难度，导致让 AI 换脸技术这些年一直被滥用。如何辨别越来越逼真的 AI 换脸？近两年 AI 换脸导致的各种违法犯罪行为不少，不可控性让部分人觉得应该抵制 AI 换脸技术。但也有很多从业者觉得，科技本身是中性的，其带来的好坏影响主要取决于使用者。AI 换脸技术的出现和迭代不应该被制止。吴杰茜表示，目前国内外均没有对 AI 换脸技术采取一刀切，更多是进行立法管理。比如美国针对深度伪造进行了专门立法，欧盟将深度伪造纳入《通用数据保护条例》等现有法律框架规制度，德国、新加坡、英国等国家也将深度伪造相关犯罪纳入刑法体系。中国也在《互联网信息服务深度合成管理规定》中明确了对这一技术的规范。多位从业者认为，对 AI 创作的内容进行标明等管理办法，以及传授给大众一些防 AI 诈骗方法，是十分必要的。比如，曾有技术人员提出，可以在视频通话时，要求对方将手指放在脸部，仔细观察人脸是否变形，或者让对方张嘴，看牙齿和舌头是否清晰完整，从而判断图像是真人还是 AI 合成。去年这一方法还比较奏效，但今年随着 AI 换脸技术的升级，已经让其失灵。萧子豪表示，当下 AI 换脸技术可以实现有障碍物出现时人脸和动作不变形，且画质清晰度很高。李旭也发现，近期发生的 AI 换脸诈骗案件都使用了很强的技术手段，单纯靠动作几乎辨别不出。鉴于 AI 换脸技术的快速发展，李旭认为，提高警惕是目前相对有效的方法。比如接到熟人借钱的视频来电时，可以问对方一些只有彼此才知道的隐私问题，并多向身边人询问核实。部分从业者觉得，用 AI 辨别 AI 或许是个不错的办法。比如先看画面有没有一些明显违背常识的元素，重点看脸部边缘是否有瑕疵，然后再借助一些 AI 工具。 萧子豪觉得用 AI 甄别 AI，可识别出绝大多数骗局，目前很多公司和政府部门都找他们来合作 AI 换脸防御系统。但此举在国内外也引发了一定争议。首先，这种方式具有一定的使用门槛，用户需要在手机 / 电脑端下载相关应用。其次，从本质上看，这类防御工具存在一定的滞后性，主要对当下 AI 换脸工具见招拆招，但 AI 换脸技术和合成方法在时刻变化。很多人寄希望于相关法律法规完善，比如提高对 AI 换脸诈骗、销售 AI 换脸淫秽视频、换脸名人进行带货等违法行为的惩罚力度。去年，杭州萧山区人民法院判决了一起用 AI 换脸制作淫秽视频的案例，被告人因提供 AI 换脸定制服务，通过 AI 换脸制作了大量淫秽视频，还用建群的方式吸引观看者付费进群，涉案金额共 6 万余元，最终被判处有期徒刑七年三个月，并处罚金 6 万元。不过也提醒大家一点，并不是所有的 AI 换脸都会侵犯肖像权。今年 6 月北京互联网法院宣判了两起 AI 换脸侵权案件，两位国风短视频模特在社交平台上发现了自己视频出现在某一换脸 APP 中，于是将该 APP 背后的科技公司告上法庭，认为其损害了自己的肖像权和个人权益。法院的宣判是，认定被告使用了原告出镜的视频，但由于涉案视频中的原告面部已被替换，并未侵害原告的肖像权，因此仅认定此举构成对原告个人信息权益的侵犯。此刻，AI 换脸技术还在不断升级，也尚未被禁止，AI 换脸工具还大量在市场上流传。「定焦」近期在某电商平台上直接搜索 "AI 换脸 " 时，已经搜不到任何信息，但只要把关键词稍加改变，还是能找到相关换脸工具售卖，并且路径更为隐秘，会跳转到某二手网站进行交易。在技术和骗术都在不断升级的当下，大家能做的是提高警惕，防止被 AI 换脸侵害。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:郑义
TOP1热点：如何评价《原神》纳塔交响音乐？
双方在聊天过程中多次提及“猪仔”、“蛇头”、“偷渡”等词。“闵闽”称，22岁女大学生名为李某，她的价格为12万元，如果不要未成年的男生，就将他留在国内，只送女大学生出境。“闵闽”最后强调，这两人明天必须送走，如果想要的话，明天拉群并安排“蛇头”接人。。
TOP2热点：如何看待 2024 年 8 月 16 日 A 股市场行情走势?
蒋先生告诉记者，考虑到父亲病情危急，支付给主治医师王某和副主任医师赵某某10万元现金，对方没有提供单据。事后蒋先生怀疑医院收取这笔费用涉嫌违规，曾试图向该名主治医师询问10万元费用的去向并索要单据，但遭到拒绝。2021年1月，蒋先生与湘雅三院达成和解，对方支付了蒋先生9.8万元补偿款。
会议审议研究了《理事会章程》《理事会议事规则》《大学章程及办学方针》《大学2023年8-12月份工作计划》等9项重要议题，并决定聘请中国科学院梅宏院士为福州市福耀高等研究院/福耀科技大学（暂名）校长。
TOP3热点：41 人入职事业单位后被清退，官方通报「该次招聘方案无效，结果予以作废」，此事暴露出哪些问题？日本适合十八岁以下的护肤
刚刚过去的涿州洪灾救援中，一则新闻刺痛了大家的心，某工厂二楼21名女工被困，斑马应急救援队前去救援途中，被一男子拦住要求救援队另救他人，由于是夜间，救援地点水域不明，加之救援人员已连续作业3天，已是精疲力尽，队长含泪恳请对方理解却遭到打骂。
TOP4热点：汽车安全碰撞测试有什么现实意义？从各大机构的碰撞安全成绩中，消费者能看出哪些「干货」？前男友又大又长忘不了怎么办
“上海网络辟谣”微信公众号8月14日发文称，近期，医药反腐备受关注。7月28日，中央纪委国家监委召开动员会，部署开展全国医药腐败问题集中整治。多地医疗机构迅速开启自查自纠，公布监督举报电话。在医疗领域反腐风暴下，不少自媒体账号开始大搞标题党，借医疗反腐之名蹭流量、带节奏，造谣生事、混淆视听，公众要注意辨别。
TOP5热点：知友爆料有蚁商向达州神龙洞投毒，这类珍稀却不在「名录」的生物保护，目前面临着哪些困境？四川XXXXXLMEDJYF
住房公积金缴存职工家庭无房，申请无房租赁提取住房公积金的，每月可提取额度提高至1600元。缴存职工租住保障性租赁住房的，可依据实际支付的房租金额提取本人及配偶住房公积金账户中余额。
“这是蓝天成立的初衷，要求在各省市县的队伍保持纯洁性，不允许接受现金捐赠。”张成林说，虽然可以接受爱心人士和企业捐赠设备，但严格来说，企业捐赠设备不允许冠名。
TOP6热点：文笔挑战：“半生浮萍半生悲，”————你会怎么接下句？爸爸缓慢有力送女儿的句子
与会企业普遍看好中国经济发展前景，表示愿积极参与中国式现代化进程，通过外资企业圆桌会等渠道与中方政府部门加强沟通交流，把自身发展和中国发展结合起来，期待中方为外资企业提供更好服务、营造更优环境。（中新经纬APP）
俄罗斯卫星通讯社称，2022年中国全年新接绿色动力船舶订单占总订单的49.1%，创历史最高水平。截至今年6月底，中国船舶旗集团下江南造船、沪东中华等船厂绿色船舶在订单中占比均超过了90%。
TOP7热点：喜欢的文案有哪些？国产又黄又硬又粗
仁爱礁是中国南沙群岛的一部分，隶属海南省三沙市，是一座长15公里、宽约5.6公里的环礁。包括仁爱礁在内的南沙群岛自古以来就是中国领土，相关记载有文献可考。
而这条规则，往往不得不被现实打破，《中国慈善家》记者在涿州采访时发现，不少执行任务的救援船上，都写着“某某企业捐赠”字样。“不冠名的话我们连一艘船都没有，也是没有办法的办法。”某地蓝天救援队负责人说。
TOP8热点：观望了一段时间，现在茅台 1935 升级版值得入手吗？中国大叔武警GARY的入党经历
王毅说，多年来，在中国和东盟共同努力下，南海局势实现总体稳定，也为各自发展提供了良好环境。而美国等一些势力唯恐南海不乱，不断在这一海域兴风作浪。最近又借仁爱礁争议煽风点火，在中菲之间挑动是非，怂恿对抗，破坏南海和平安宁，以服务美自身地缘政治战略。中方希望地区国家对幕后黑手保持必要警惕，把维护南海和平稳定的主导权掌握在自己手中。中方已多次提出愿同菲律宾通过双边对话妥处存在的分歧。希菲方恪守以往达成的共识，珍惜双边关系改善积累的互信，尽快同中方相向而行，寻求管控海上局势的有效途径。
TOP9热点：如何看待车企如今越来越多的非标准工况下的公开碰撞测试活动，如高坡翻滚、货车夹击等？冰块红酒PLAY双性
与会企业普遍看好中国经济发展前景，表示愿积极参与中国式现代化进程，通过外资企业圆桌会等渠道与中方政府部门加强沟通交流，把自身发展和中国发展结合起来，期待中方为外资企业提供更好服务、营造更优环境。（中新经纬APP）
今年5月，李云泽出任国家金融监督管理总局首任局长，一位熟悉其的人士向《中国新闻周刊》表示，李云泽是真正懂业务的人，尤其懂财务和风险。他起于基层，履历完备，50多岁年富力强，是打好金融监管仗的合适人选。
TOP10热点：有一个社恐的男朋友是什么感觉?成品源码78W78
[环球时报特约记者 甄翔]彭博社14日报道称，继本月初中国取消对澳大利亚进口大麦“双反”后，中国贸易商现已开始从该国进口大麦。
2020年，阿东由海南北上，跨省赴吉林工作，由三亚市市长升任吉林省副省长，之后任吉林省委常委、宣传部部长。今年5月底，阿东任共青团中央书记处第一书记。