最近，张文宏医师又上热搜了

但不是因为问诊治愈

而是有东说念主用他的脸进行卖货

其实，不单是张文宏医师

许多名东说念主、明星王人成为 AI 换脸的热点对象

包括，雷军、马斯克、巴菲特

前有"靳东"向你广告示爱

后有"马云"开班教你投资

打算只须一个——骗钱

之前海外有老东说念主被"假马斯克"

骗光了终生蓄积

警报君梳理了几宗典型案例

热烈提议转给父老望望

幸免因为不了解误入 AI 换脸罗网

世界——

上海：

"张文宏"带货卖卵白棒？

本东说念主发声：假的！照旧投诉

最近，有网友反应：家中老东说念主在汇集卖货视频中，看到了张文宏医师卖一种卵白棒，老东说念主信以为真，不仅下单还转发多个群聊。

发布 AI 视频的账号名叫"般画 234 "，视频中，只见张文宏医师刻木为鹄，反复先容一种家具，声息听起来也很像本东说念主。经核实，该视频是诳骗 AI 时期合成的。现时，已在微信视频号平台搜索不到该账号，此前商品橱窗页面知道某卵白棒已出售 1200 多件。

"事情照旧有几个星期了，有好多不解真相的老匹夫，特别是有些对 AI 不是很闇练的、年事相比大的市民，他们就会很容易信托。"华山感染科主任、国度传染病医学中心主任张文宏暗示，这么的卖货账号不啻一个，且一直在变，发现后曾立即投诉 AI 合成的视频，但账号一直在换。"这些假的 AI 合成信息就像蝗灾相通，一次又一次发生，像漫天飞过来的蝗虫相通害东说念主。事实上，从平台投诉效果来看，我认为最终也难以管束问题。"

除了向平台方投诉，张文宏称曾经计划过报警，但对方看不见摸不到就像幽魂一般难以描摹，这也让他犯了难。"报警总要有个对象对吧，当今报警报谁呢？"张文宏直言，这种行为侵略了破费者的利益，相应的部门应该来进行处理。

之后，上海市消保委副布告长唐健盛暗示，这种作念法照旧组成了抵破费者的欺骗，破费者如若受骗，不错按照破费者权利保护法的规律，条件商家作念出退一赔三，而况金额不及 500 元的要按照 500 元来赔。"此外，咱们认为相干的监管部门应该对这种恶劣的行为要接收特别严厉的设施进行处罚，因为这不单是是波及破费者权利，它其实还波及通盘这个词社会的良知与说念德。"

警报君说：

东说念主脸是假的，声息亦然假的，只须骗你下单的心是确凿！

北京：

骗子"换脸"冒充马云，吸引老东说念主投资

"同道，能不成帮我下载一个 QQ 软件？我得用 QQ 插足投资培训。" 11 月 6 日上昼，住在北京市丰台区方庄街说念的一位老奶奶来到居委会乞助。社区处事站副站长赵静得知老东说念主要插足投资培训，坐窝警悟起来，详备计划老东说念主事情经过。老奶奶说，"是马云的门徒让我下载 QQ，我还跟马云连线通过话呢"。说到这，赵静说明这等于沿途汇集欺骗事件，第一时辰就筹商了社区民警王兵。

5 分钟后，社区民警王兵赶到现场，很快归附了事实真相：骗子前期通过给老东说念主充话费的形状博取好感，又在酬酢平台用 AI 换脸成马云，视频连线获取信任。骗子自称是"马云的门徒"，正在作念扶贫款式，有可不雅的分成。这次让老东说念主下载 QQ 软件是为了手把手给老东说念主培训，最终打算是骗取老东说念主财帛。

社区民警和社区处事站责任主说念主员耐烦劝戒，现场让老东说念主视频连线对方，迎面与欺骗分子对话。欺骗分子跌跌撞撞地说我方是卖保健品的，更不料志马云，没聊几句就浮躁下线。王兵将视频对话全程摄像，辘集了欺骗分子头像信息，以备后续侦破案件，而况匡助老奶奶拉黑了欺骗分子电话和账号。

王兵向老东说念主强调，这是欺骗分子的习用伎俩，强调务必不要给生分东说念主转账，更不要听信生分东说念主的话下载任何软件小门径等。老奶奶大彻大悟："多亏了你们，否则我的养老钱保不住了。"

这个骗子长了一张马云的脸，千万要擦亮双眼！

江西：

老东说念主欲贷款 200 万

只为帮男友"靳东"拍戏

"您好，是金园派出所吗，咱们这里有别称老东说念主持理银行卡，然则手续不全，又不愿离开，但愿民警过来劝一下"。11 月 12 日上昼 11 时许，江西省宜春市经开公本分局金园派出所接辖区银行报警乞助。接警后，民警连忙赶往现场，了解后得知：老东说念主到银行办理银行卡贷款业务，由于材料不全，银行无法为其办理贷款业务，老东说念主却坚合手要办理贷款，暗示不给办理贷款就不走。民警感到猜疑，耐烦计划老东说念主为何要办理贷款。老东说念主暗示其要到银行贷款 200 万元给我方的男一又友"靳东"拍戏。

"靳东"不是大明星吗？难说念老东说念成见志他？"我是在短视频平台上意志 ‘靳东’，‘靳东’向我表白了，把咱们的合照发布了短视频，当今他拍戏需要 200 万元，我要去匡助他。"老东说念主略显应允地说说念。民警速即提起老东说念主的手机检讨，发现老东说念主口中的大明星"靳东"是骗子冒充的，其所发布的视频亦然由 AI 合成。但老东说念主不了解汇集时期，对骗子所说所作念深信不疑。

之后，民警耐烦劝导老东说念主，无奈老东说念主仍信托假"靳东"。于是，民警一边持续劝解，一边告知老东说念主的孙子前来共同劝解。最终，民警向老东说念主展示汇集上一些冒充"靳东"欺骗的新闻、现场诳骗 AI 合成像片，老东说念主才大彻大悟。老东说念主暗示不会再信托汇集上的"靳东"，对民警连连说念谢，并铲除了开卡贷款的念头。

警方指示，访佛"杀猪盘"套路事件时有发生，骗子大多王人是诳骗"厚谊牌"骗取受害者的信任与爱好，随后用多样借口向受害者扩充欺骗。非论是"网恋"如故"追星"王人要擦亮眼睛，遭逢索求银行账户、告贷转账等套路应该严慎再严慎。

追星须严慎，用钱要三念念！

广东——

广州：

知名博主汉服装扮视频被制成付费" AI 换脸"模板，被罚抵偿 5 万元

近日，广州互联网法院审结了一缘故" AI 换脸"视频合成模板激勉的纠纷案件。一位知名短视频博主发现，我方的汉服装扮视频被一家科技公司制成了付费" AI 换脸"模板。该博主以侵略肖像权为由，状告科技公司条件赔礼说念歉，并抵偿 5 万元。

广州互联网法院法官曹钰先容，AI 换脸也称为深度伪造时期，其内容是一种基于东说念主工智能的东说念主体图像合成时期。AI 换脸时期将个体的面部形象、体魄形象甚而声息语调等进行判辨，又与他东说念主的形象特征进行交融、强迫，破裂了东说念主的特定空间性、肖像与身份主体的合并性。跟着东说念主工智能深度合成时期的快速发展，AI 换脸等应用软件世俗兴起，受到不少年青东说念主的追捧，同期对天然东说念主肖像权的侵害风险也日渐突显。

曹钰暗示，鸠合肖像权的膨大保护布景来看，肖像的具体认定范例应当除外部形象为判定基础，以可识别性为必备要素。他证明，以视频博目的某诉某科技公司一案为例，关于体魄形象而言，其所对应的面部形象天然发生编削，但若从未被修改的原视频的场景细节、守密装饰及肢体动作等仍能识别建设体形象的主体，则该体魄形象属于可被识别为特定主体的肖像，应被纳入肖像权保护的范围。在" AI 换脸"等东说念主工智能深度合成时期应用场景下，原视频中的衣饰装饰、说念具等亦可成为肖像的赞助认定要素之一。

不外，他暗示，肖像必须具有可识别性技艺成为肖像权保护的对象，但并非通盘的外部形象王人具备可识别性。由于面部特征具备极强的可识别性，故在传统不雅念中，面部形象属于肖像范围并无争议。但在去除面部特征的情况下，一些不具备彰着特征的体魄形态、肢体动作可识别性较弱，不及以使相干公众梦料想特定天然东说念主，故外部形象能否纳入肖像权保护范围存在争议。但不同东说念主物形象，可识别性的判定应有不同范例，受到相干公众的暖热度、外皮形象的知名度等身分影响。举例，关于媒体曝光契机较多的公世东说念主物而言，公众的暖热进度更高，其东说念主物形象的知名度更大，则其外皮形象为公众所识别的可能性更高。

曹钰说，本案中，鉴于张某的粉丝数目较多，作品亦获取无数点赞，且其自身即所以汉服装扮为主要特质的视频博主，故其除面部除外的肖像较平常东说念主具有更高可识别性。判定经由中，需将原视频与" AI 换脸"后的视频进行对比，如若公众鸠合未被修改的场景细节、守密装饰、肢体动作及罕见钤记等，好像将该体魄形象与特定主体建设起对应关系，则该体魄形象可动作肖像权的客体，属于肖像权的保护范围。因此，法院最终对相干形象足以被识别为张某的肖像赐与认定。

AI 一键换脸很冒失，效果可不冒失。

" AI 换脸"以伪乱真，怎么划分督察？

以上等于本周警报的全部内容啦！

快来暖热警报君，get 多样吉利指示吧 ~

文｜记者 鄢敏

素材起原｜方庄生存、宜春公安、天津日报、广州互联网法院开云kaiyun官方网站