您当前的位置:首页 > 新闻 > 社会

AI换脸诈骗爆发?不必恐慌,分分钟转走百万没那么简单!

时间:2023-05-28 10:48:48  来源:钱江晚报  作者:

近日,AI换脸诈骗案,引发广泛关注。

继包头警方发布“10分钟被AI换脸骗走430万”事件后,5月25日,安徽安庆市4月发生的又一起AI换脸诈骗事件被曝光。这次诈骗金额达245万元,且整个诈骗过程时间更短,只有9秒钟。

对此,有人对近几年持续火爆的AI技术产生了疑问。AI换脸诈骗正在全国大规模爆发了吗? 5月26日,多位反诈民警和专家表示,目前AI换脸诈骗的案例并不多,主要是受害者先入为主认为是朋友发来的视频,才有了后续“AI换脸”的陷阱。

不过,市面上的确有一些AI换脸教程正在流出。这种利用新技术,拿捏着受害者心态的“高端”骗局,我们该如何防范呢?

AI换脸正在全国爆发?

AI诈骗之所以备受社会关注、甚至引发恐慌,主要原因在于AI诈骗是模仿真人声音和面部实施诈骗,针对个人信息定制的“专属剧本”。诈骗成功率非常高。

在包头曝光的案件中,骗子就是盗用受骗人好友微信账号,利用AI换脸和拟声技术佯装好友,通过视频聊天成功对受骗人实施诈骗。

多地警方提醒,AI诈骗的成功率接近100%。亲友间网络上借钱更要防范此类诈骗,避免个人信息被别有用心者盗用。

诈骗成功率如此之高,网友不禁直呼“防不胜防”,开始担心刷脸支付、小区门禁人脸识别等各类应用场景下,个人隐私是否已经泄漏。

AI换脸诈骗正在全国爆发了吗?事实并非如此。

5月26日,多名反诈民警告诉潮新闻记者,在实时视频中进行专业级别的AI换脸变声,不卡顿、肉眼难以识别,在技术上并非易事。对设备和技术要求极高。

北京社科院研究员王鹏同样认为,AI技术与直播、实时通讯视频结合,要具有一定交互互动性,技术门槛并不低。

市面上几十元的AI换脸教程,实际上,更类似于PS(图像处理)。有媒体曾体验过某电商平台上39.9元的AI换脸技术。卖家提供的教学内容显示,用户根据指引,完成登录、提取脸部数据、训练模型、换脸输出视频等步骤,就能轻松实现“AI换脸”的视频制作。主要适用于拍照场景、影视剧片段的替换合成。

「AI孙燕姿」在各大视频平台走红图源B站

既然仿真技术上较难操作,那为啥频频有人被骗呢?一位反诈民警向记者透露,诈骗分子主要是盗用并伪造好友身份,利用日常话术,赢得了受害者信任,换脸视频只是进一步增加可信度。

比如,安庆何先生被骗的案例中,其微信“好友”突然发起视频通话,电话接通后,何先生看到“好友”正在一间会议室内,并借故会议有事,通过QQ要求周转资金,导致何先生被骗。

“说到底还是电信诈骗的延伸。这些游走在法律边缘的AI技术黑灰产业链,增加了技术被恶意使用的风险。”王鹏说。

如何防范此类诈骗事件?

由此可见,现在打着AI名义的诈骗,还不能算严格意义上的换头换脸。

技术本身是中性的,关键是由谁来运用。这也应该给有关部门敲响警钟了。

与普通以口头诈骗为主的电信诈骗相比,AI诈骗迷惑性更强,辨识更困难。AI技术可以综合运用语音、视频等手段,模仿亲友、熟人、领导等人的面容、声音,冒充亲友、熟人、领导等,从而以假乱真,别有用心地锁定诈骗对象后实施诈骗。

今年年初,微软推出了语音模型VALL-E,只需要3秒就能复制任何人的声音 图源微软

王鹏建议,首先,有关部门要加强监管,侵犯个人隐私及售卖信息的行为需严厉打击;其次,技术提供方、平台方,要落实主体责任,提高审查门槛,有效避免诈骗行为发生,尽到监督监管义务。

此外,换脸是否侵权,该如何约束?如果出了问题,平台、软件房是否应负相应责任?消费者该如何防范AI换脸诈骗骗局呢?潮新闻·法度工作室普法智囊团有话说。

陕西恒达律师事务所高级合伙人、知名公益律师赵良善表示,不法分子以AI换脸方式骗取他人的钱财,不仅侵犯了被换脸的人的肖像权,还侵害了被骗人的财产权。

同时,无论个人还是平台、AI换脸技术提供方,未经肖像权人同意,通过技术手段提取肖像,并擅自使用或上传至换脸App中供用户选择使用的行为都侵犯了他人肖像权。在民事责任方面,AI换脸技术提供方需承担连带民事责任,被侵权人可以通过提起民事诉讼方式要求AI换脸技术提供方承担停止侵权、赔礼道歉并赔偿损失等民事责任。

我们该如何识别AI骗局?赵良善律师来支招。

潮新闻·法度工作室普法智囊团律师成员

其一,AI换脸并非无任何破绽,可以要求对方用手指在其面部来回晃动,或者用手掌来挡住一部分脸,若面部出现扭曲,则断定是AI换脸。

其二, AI换脸一般利用他人的真人照片合成,因此,若仔细观察面部不眨眼,则是AI换脸。

其三,要时刻保持警惕,尤其是在通话或微信视频中对方声称是亲戚朋友,可以适当询问一些私人信息来验证对方的身份,尽量通过多渠道交叉验证,确认对方身份,再做决定。

其四,要定期更新密码和软件防护措施。为了防止个人信息被盗用,建议定期更改各类账号的密码,并且使用强密码。

其五,尽量使用官方网站或其他具有实名认证或安全验证功能的软件进行交流,防止对方冒用身份。

其六,尽量安装杀毒软件和防火墙等软件保护电脑与手机的安全,以防止恶意程序入侵致使信息泄露。同时,尽量下载如国家反诈App等防诈骗软件,以识别诈骗信息。

“转载请注明出处”



Tags:AI换脸   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除。
▌相关推荐
近日,AI换脸诈骗案,引发广泛关注。继包头警方发布“10分钟被AI换脸骗走430万”事件后,5月25日,安徽安庆市4月发生的又一起AI换脸诈骗事件被曝光。这次诈骗金额达245万元,且整个诈...【详细内容】
2023-05-28  Tags: AI换脸  点击:(6)  评论:(0)  加入收藏
经济观察报记者 任晓宁、周应梅 实习生 陶思羽/文一位包头老板被AI换脸诈骗430万元的消息,瞬间传遍了整个朋友圈。而三天之后,安徽警方公布了另一起AI换脸导致的诈骗案,涉案金...【详细内容】
2023-05-26  Tags: AI换脸  点击:(0)  评论:(0)  加入收藏
继此前“10分钟被AI换脸骗走430万元”事件引发关注之后,5月22日,又一起AI换脸诈骗发生。这次金额达到132万,且整个诈骗过程时间更短,只有9秒钟。5月22日,安徽安庆的何先生接到熟...【详细内容】
2023-05-25  Tags: AI换脸  点击:(12)  评论:(0)  加入收藏
点开直播间乍一看,卖货的竟是当红女星。再定睛一看,“明星”其实是使用人工智能(AI)实时换脸技术的普通主播。他们冒充明星艺人,只为增加卖点,助力卖货……近期,“AI换...【详细内容】
2023-05-25  Tags: AI换脸  点击:(12)  评论:(0)  加入收藏
今年以来,ChatGPT和GPT-4等技术的应用成为信息科技领域的热点,引起公众对AI技术的广泛关注和热情。昨日,中国互联网协会发文称,伴随着深度合成技术的开放开源,深度合成产品和服务...【详细内容】
2023-05-25  Tags: AI换脸  点击:(13)  评论:(0)  加入收藏
5月20日,“平安包头”发布微信公众号文章,称5月8日,包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件,警银联动成功紧急止付涉嫌电信诈骗资金330多万元...【详细内容】
2023-05-24  Tags: AI换脸  点击:(9)  评论:(0)  加入收藏
来源:华夏时报近期,“AI换脸”新型诈骗频发。和你视频对话的可能不是本人!就在AI技术大爆发的当下,高科技犯罪手段也随之更新。近日,一种利用AI换脸技术实施诈骗的手法逐步浮出水...【详细内容】
2023-05-23  Tags: AI换脸  点击:(27)  评论:(0)  加入收藏
中新网5月22日电 (中新财经 左雨晴)“点进直播间一看,‘迪丽热巴’居然在直播卖货。”近日,有网友点开直播间,却发现正在卖货的竟是当红女星。然而再定睛一看,这些带...【详细内容】
2023-05-22  Tags: AI换脸  点击:(12)  评论:(0)  加入收藏
5月17日 我们正处在一个越来越容易制造虚假信息的时代。深度造假(Deepfakes)、扩散模型、生成对抗网络(GAN)以及其他AI技术被居心不良者用于伪造照片和视频,或者创建从未发生过...【详细内容】
2023-05-18  Tags: AI换脸  点击:(20)  评论:(0)  加入收藏
何为AI换脸最近,新型诈骗手段开始应用高科技AI换脸技术,传闻其成功率几乎达到100%,这让人们感到无法防范。据包头市公安局电信网络犯罪侦查局于5月8日发布的一起案件报道,犯罪分...【详细内容】
2023-05-18  Tags: AI换脸  点击:(12)  评论:(0)  加入收藏
▌简易百科推荐
2023-05-29    北京商报   Tags:AI诈骗   点击:(3)  评论:(0)  加入收藏
文|实习生 杨柳 财经E法 姚佳莹编辑|郭丽琴生成式人工智能(AIGC)持续火爆,随之而来的法律、安全与伦理挑战也越来越大。近日,中国多地爆出AI诈骗案件。先是内蒙古包头警方发布消息...【详细内容】
2023-05-29  财经E法  企鹅号  Tags:AI诈骗   点击:(1)  评论:(0)  加入收藏
作者:莫 洁(媒体评论员)数字化解决方案设计师,为工厂量身定制最优方案,让机器更“聪明”;农业数字化技术员,借助机器视觉等新技术,实现果蔬种植智能作业;互联网营销师,通过精心选品、...【详细内容】
2023-05-29    光明日报  Tags:数字职业   点击:(1)  评论:(0)  加入收藏
近日,AI换脸诈骗案,引发广泛关注。继包头警方发布“10分钟被AI换脸骗走430万”事件后,5月25日,安徽安庆市4月发生的又一起AI换脸诈骗事件被曝光。这次诈骗金额达245万元,且整个诈...【详细内容】
2023-05-28    钱江晚报  Tags:AI换脸   点击:(6)  评论:(0)  加入收藏
此前,北京多部门发布通告明确表示,禁止本市产销违规电动三轮、四轮车,网友俗称的“老头乐”就是主要打击对象。自通告发布之日起,任何单位和个人不得新增违规电动三轮、四轮车。...【详细内容】
2023-05-27  快科技2018    Tags:老头乐   点击:(11)  评论:(0)  加入收藏
近日不少网友收到一则“离谱”短信的相关话题冲上热搜只见晒出的短信截图写着:“因您信货诈骗,缺席出庭,已通过“天网”定位具体位置现已通知当地执法部门和司法人员(魏军,王琳,郭...【详细内容】
2023-05-26    中国青年报  Tags:骗子   点击:(12)  评论:(0)  加入收藏
广袤的京津冀大地上,一列列高铁巨龙奔腾往来,让北京的“1小时城市朋友圈”生机勃勃。9年间,在一张蓝图的指引下,三地携手,“轨道上的京津冀”主骨架形成,并且跑出了加速度—&...【详细内容】
2023-05-25    北京日报客户端  Tags:北京   点击:(17)  评论:(0)  加入收藏
利用短视频平台进行直播带货,已渐渐成为一些主播和商家的选择,但某些虚假宣传行为需要引起大众警惕,例如明明是食品或者是药材,被主播故意夸大虚假宣传成具有治疗作用的药品卖。...【详细内容】
2023-05-25    央视新闻客户端  Tags:直播   点击:(11)  评论:(0)  加入收藏
今年以来,ChatGPT和GPT-4等技术的应用成为信息科技领域的热点,引起公众对AI技术的广泛关注和热情。昨日,中国互联网协会发文称,伴随着深度合成技术的开放开源,深度合成产品和服务...【详细内容】
2023-05-25    北京青年报  Tags:AI换脸   点击:(13)  评论:(0)  加入收藏
火车的下铺车票,是很多旅客的首选,因为它们相对舒适、方便、安全。但是,火车的下铺车票,也往往是最抢手的,很难买到。那么,怎么才能提高买到火车的下铺车票的几率呢?这里有一些小...【详细内容】
2023-05-24  个人理财入门  今日头条  Tags:下铺   点击:(13)  评论:(0)  加入收藏
站内最新
站内热门
相关头条
  • · AI换脸诈骗爆发?不必恐慌,分分钟转走百万没那么简单!
  • · 北京“封杀”老头乐!快递、外卖车辆也受影响:装芯片 实时监测
  • · 北京1小时朋友圈有多大?跨省高铁通勤速度惊人
  • · 居家养老,仅靠政府购买服务够吗?
  • · 北京轨道交通开启“刷掌”进站 科技提供乘车新方式
  • · 网约车也难跑了!多地发布入行风险预警,有司机吐槽:干19小时赚不到600块
  • · 线下演唱会回归 北京警方:提防购票诈骗三大套路
  • · 2022年平均工资出炉!IT业最高,房地产业下降
  • · 山东学生身高全国第一?高于全国平均水平,但输给了黑龙江
  • · 医美,小心这些“坑”!一图教您如何识别
  • · 新冠全球紧急状态终结,未来该如何应对?
  • · 小伙花4300元,每天住酒店:比租房舒服太多!账单公布
  • · 全楼紧急疏散!私拆承重墙,裂到了21层!究竟该谁担责?如何赔偿?
  • · 特斯拉一线工人月薪一万,网友:辛苦干一年,不如去车厂“拧螺丝”
  • · “逃离”写字楼的年轻人在重新打量人生
  • · 卧底骗子群了解最新套路:反诈劝阻员的“三十六计”
  • · 五一抢票,什么才是候补正确姿势?加速包能更快吗?权威答案来了
  • · “大不了去送外卖”?职场失意大军涌入外卖行业,骑手“不好干了”
  • · 居民超额存款四年10.8万亿:北京人均存款已接近27万
  • · 社保挂靠代缴,违法!有人已被判刑
  • 站内头条