首页 >文娱 > > 正文

全球关注:瞭望 | 警惕!“AI换脸”诈骗出现涉政苗头

《瞭望》 2023-07-04 08:38:55

近期,各地曝出多起人工智能“辅助”诈骗案件。一些不法分子利用人工智能“深度伪造”冒充领导干部行骗,值得引起高度警惕

一些领导干部由于工作原因出镜率相对较高,这为骗子提供了丰富的面部识别素材;在电视、广播新闻中也可以找到一些领导干部的大段同期声,这令“伪造成本”更低

随着人工智能技术的普及应用,不法分子实施诈骗的精准性、迷惑性、隐蔽性增强,公安、检察等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难


【资料图】

近日,北方某地警方发布了一起利用“AI换脸”对当事人实施诈骗的案件。诈骗分子运用人工智能技术,通过微信视频通话与受害人进行了十多分钟交流,受害人转账数百万元。

引人关注的是,该案不仅是一起新型网络诈骗,更是一起涉政诈骗案件。

不法分子模拟伪造的,是受害人认识的一名领导干部。在微信视频聊天中,“换脸”后的骗子提出,其朋友有一笔工程保证金需要借用受害人公司的对公账户走账。在视频画面中,骗子“换脸”后面部表情自然,声音逼真,受害人便放松了警惕,转账后打电话确认,才知道被骗。

“AI换脸”“AI拟声”、虚拟场景构建……随着设备性能提升和技术软件优化,利用“AI换脸”技术实施诈骗,已成为一种新型网络诈骗。近期,各地曝出多起人工智能“辅助”诈骗案件。一些不法分子利用人工智能“深度伪造”冒充领导干部行骗,值得引起高度警惕。

由于工作原因,一些领导干部的面部、声音等生物特征信息更易被获取,被人工智能学习利用后造成的潜在危害性也更大。接受《瞭望》新闻周刊采访的业内人士表示,社会各界都应提高识骗防骗意识,有关部门应依法加大对人工智能“辅助”诈骗案件的执法力度,严肃追究相关人员法律责任。

朱慧卿图/本刊

眼见不一定为实

近日,华北某地一名地方干部正为一件事犯愁。有人冒用他的名义,与他的亲朋好友大范围添加微信好友。

“和我的亲戚朋友加完好友后,骗子还给他们打了视频电话。通话时间只有几秒钟,朋友们感觉声音、画面都有点儿像。”这名干部说,直到许多朋友打电话询问具体情况,他才知道此事。

“估计下一步就要开始骗钱了。所以,最近几天我连续发了好几条朋友圈提醒大家。”这名干部说。

受访业内人士表示,只要有足够的图像、音频素材,不法分子就可以通过人工智能“换脸”软件、合成声音软件伪造虚拟形象,实施诈骗。“只需提取最少10个字、最多32个字,就可以合成其声音。”国网信息通信产业集团安全科研专家赵明明告诉记者。

一些领导干部由于工作原因出镜率相对较高,这为骗子提供了丰富的面部识别素材;在电视、广播新闻中也可以找到一些领导干部的大段同期声,这令“伪造成本”更低。

在一些案件中,不法分子通过“AI换脸”合成视频等方式,伪造与领导干部见面、合影等内容实施诈骗,增加了涉政类诈骗的欺骗性和危害性。

AI诈骗四大趋势

中国信息通信研究院相关负责人表示,当前,人工智能“辅助”诈骗存在四大趋势。随着人工智能技术的普及应用,不法分子实施诈骗的精准性、迷惑性、隐蔽性增强,公安、检察等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难。

——技术成本由高向低转变。腾讯安全玄武实验室负责人于旸告诉记者,随着技术发展,人工智能“深度伪造”“深度合成”已成为一种可以低成本实现的技术。

——技术应用由单一向多元转变。腾讯互联网安全专家杨建表示,实施人工智能“辅助”诈骗一般要满足多个要素,包括非法获取信息、构建熟人账号、“换脸换声”、破解手机摄像头权限等,涉及多项技术手段。

——伪造身份从模糊向具体转变。传统电信诈骗往往只能以“某派出所工作人员”“某网站客服”等模糊虚指人设实施。但在人工智能“辅助”诈骗中,骗子可以以具体的人物形象出现。

——作案模式从“广撒网”向精准施骗转变。社交媒体平台往往设有视频验证环节,这在客观上增加了冒充熟人、领导干部等诈骗的“可信度”。受访专家分析,随着技术发展,精准盗号、分析关系网等有指向性的网络诈骗案件占比可能有所上升。

多层面约束规范

奇安信安全专家裴智勇表示,目前,专业级别的人工智能“深度伪造”仍需通过较强的硬件在实验室环境实现。这意味着,近期“AI换脸”诈骗形成系统性风险的可能性不大,但仍需未雨绸缪、预防打击。

在源头端,需要进一步加强公民个人信息保护。杨建等专家建议,加强公民信息尤其是生物特征等隐私信息的技术、司法保护力度。针对冒充领导干部等涉政诈骗风险,可通过规范领导干部个人社交账号管理,普及提升账号安全意识等方式进行规避。

在技术层面,数字水印鉴伪等技术有待进一步普及利用。赵明明表示,数字水印能将特定的信息嵌入音频、图片或是视频等数字信号中,进行版权保护,以防止未经授权的复制和拷贝。他建议,加强打入数字水印、开发真伪鉴别等技术治理手段,使其为数字内容生产商以及用户端等提供广泛服务,以科技手段制约不法分子利用人工智能技术实施犯罪。

瑞莱智慧高级产品经理张旭东建议,对涉及政务、安防、金融、消费等重要应用的人脸识别技术漏洞进行完善和升级,防范不法分子通过后台劫持手机摄像头权限。

“尤其是涉众、涉密、涉及公共利益的相关平台和技术服务提供商,需优先完成技术加固,对手机模拟器做好防范。同时,鼓励和引导更多手机厂商在系统升级时支持3D人脸识别技术。”张旭东说。

从法律制度方面看,反电信网络诈骗法、刑法等法律为打击治理各类网络诈骗活动提供了法律支撑。赵明明建议,进一步完善人工智能等领域相关法律,通过案例等指引,建立人工智能侵权纠纷法律框架、诉讼程序和赔偿标准等。

此外,还需通过完善相关制度进一步落实平台责任。新华三集团安全专家曹亮表示,对核心领域使用人脸识别技术的产品,监管部门应建立分级别、多层次的国家安全标准及行业安全标准;压实平台、企业主体责任,督促相关应用开发企业履行源头审查责任;建立健全用户注册、算法机制机理审核、数据安全个人信息保护、反电信网络诈骗、应急处置等管理制度。(记者吴帅帅 刘懿德 兰天鸣 《瞭望》2023年第27期)

上一篇:雨要停了!下周继续热҈热҈热҈!最高温冲40℃ 下一篇:最后一页
x
推荐阅读

全球关注:瞭望 | 警惕!“AI换脸”诈骗出现涉政苗头

2023-07-04

雨要停了!下周继续热҈热҈热҈!最高温冲40℃

2023-07-04

淘宝号注册_淘宝号 播报

2023-07-04

7月3日基金净值:广发均衡优选混合A最新净值0.9922,涨2.23%

2023-07-04

经济日报:韩国房地产市场低迷威胁金融稳定

2023-07-04

天天动态:王者荣耀蔡文姬最强出装回血超高 操作简单却上分强势

2023-07-04

宝地矿业:公司已于2023年6月16日召开年度股东大会,通过《关于2022年度利润分配预案的议案》

2023-07-04

深圳公园大地二手房价格(深圳公园大地)

2023-07-04

疯妖记兑换码全集 全平台礼包码最新-精选

2023-07-04

当前热点-多家券商降低保证金利率由0.25%调整至0.2%

2023-07-04

哈登的第三次“逼宫”,他的无奈与不甘,今夏大交易即将降临-当前独家

2023-07-04

适用于大型语言模型的HPE GreenLake将AI带给更多组织_今日热文

2023-07-04

3-6,5-7!郑钦文遭遇温网一轮游,大满贯首轮全胜纪录被打破 世界热文

2023-07-04

2023东莞茶山社区三伏天灸贴药指南(时间+地点)|最新消息

2023-07-04

多指标回升显示物流业持续向好

2023-07-04

当前滚动:驻香港部队举办青少年专场军营开放活动

2023-07-04

抽水蓄能布局优化 已建在建1.7亿千瓦-天天快报

2023-07-04

天天速递!7月3日两市散户减持前50只个股

2023-07-04

陈江华多高(陈江华身高臂展)

2023-07-04

当前简讯:助力梦想启航!电影《热烈》曝光四款制式海报

2023-07-04

利拉德申请交易,三支有能力,或者应该追逐利拉德的NBA球队!|世界观速讯

2023-07-04

淘宝上的货到付款(淘宝网货到付款女装)

2023-07-04

爱与助攻:江珊女儿的默默支持,铸就江珊与田小洁的幸福婚姻

2023-07-03

当前消息!温网大幕今启,德约志在卫冕,椰子退赛,穆雷盼好成绩

2023-07-03

全球观热点:收藏就怕后继无人,第二届上海市民(青年)收藏大展检阅收藏新潮

2023-07-03

全球观热点:10万亿元大产业?!与你的生活有关

2023-07-03

什么叫网站域名(关于什么叫网站域名的基本详情介绍)

2023-07-03

菲菱科思:6月30日公司高管朱行恒减持公司股份合计4000股

2023-07-03

全球看热讯:内容正在升级改造,请稍后再试!

2023-07-03

小学辅导班招生宣传词_小学辅导班招生宣传单内容

2023-07-03

天天信息:招商轮船、中远海能同日官宣重要人事变动

2023-07-03

逆水寒手游第三天玩法攻略

2023-07-03

世界即时看!诚意满满 新能源越野车的正确打开方式

2023-07-03

天天百事通!沁阳曲阜牧草地撤乡并镇如何退出土地的规定

2023-07-03

他是谁?追踪无名男尸背后的真凶……

2023-07-03

重点聚焦!路虎寻求让客户和监管者满意的方法

2023-07-03

回复交易所问询不到两月 科前生物撤回定向增发申请-天天热点评

2023-07-03

无关性别,别把事往女拳上扣。我是男的,我支持这名女性劝止他人吸烟,她很有勇气 实时

2023-07-03

永福社区自组织助力最美阳台“誉府花廊”焕发新色彩|世界快播

2023-07-03

环球焦点!ETF基金周报丨大数据、云计算相关ETF跌幅居前,股票型ETF总规模周度增加271.87亿元

2023-07-03

速递!上海一豪宅以 1.58 亿元落锤 单价 34.4 万 / 平米,较起拍价溢价 26.4%

2023-07-03

全球要闻:【我为群众办实事】立足岗位践初心,贴心服务暖民心

2023-07-03

向下深耕,向上成长!政通幼儿园教师走班研修促提升

2023-07-03

aoi自动光学检测机工作原理 关于自动光学检测系统

2023-07-03

重安派出所:十余载纠纷一朝化解 庭所衔接见成效 环球热推荐

2023-07-03

世界短讯!四大利好齐发!A股喜迎7月行情开门红

2023-07-03

精选70款纪录片调色预设,用色彩语言叙述人间事!支持AE-PR-PS-剪映-FCPX-达芬奇等 环球新视野

2023-07-03

中药材价格暴涨调查③不到半年涨价3倍!市场多种中药材缺货,药商:不敢贸然进货

2023-07-03

教育部开通暑期高校学生资助热线

2023-07-03

朱雅特的课怎么样(雅特是什么车系?)

2023-07-03

山西太原恢复至泰国普吉国际航线

2023-07-03

聚焦:钱存银行一年,如何存年利率能达到3%?内行人:可以“这样存”

2023-07-03

全球最新:南京江宁旅游康养:更正2022年年度财务报表

2023-07-03

环球热点!三星再发旗舰手机:骁龙888 4420元

2023-07-03

焦点观察:飞龙在天!今天财运正云霓

2023-07-03

狂月天时 12星座一周简运2023/07/03-07/09

2023-07-03

无源音箱和有源音箱区别(无源音箱必须接功放吗)-全球动态

2023-07-03

耐克2023财年营收为512亿美元,大中华区连续三季度正增长

2023-07-03

央行:坚决防范汇率大起大落风险 天天即时

2023-07-03

每日热点:庆阳北750千伏输变电工程开展首次试验桩工作

2023-07-03

全力备战巴黎奥运会丨中国女排逆转战胜美国女排 世联赛总决赛将战巴西

2023-07-03

中国快递烽火30年:最简单的生意,最纯粹的江湖|每日关注

2023-07-03

【世界速看料】银河观赏渐入佳季,科普专家详解人类如何探秘银河

2023-07-03

国家林草局部署全国林草行业安全生产工作 环球观察

2023-07-03

每日短讯:北京蔡徐坤影视文化工作室被列入经营异常名录,涉嫌逾越法律底线?

2023-07-03

第八批国家药品集采呈现“价降、量升、质优”态势|天天速看料

2023-07-03

全球速读:2023年海南一级建造师考试报名入口

2023-07-03

为什么法国会骚乱 法国骚乱的原因 马斯克评论法国骚乱_当前头条

2023-07-03

印尼文翻译中文字典_印尼文翻译中文

2023-07-03

银河证券:国内家电消费有望提升,关注三条主线 环球播资讯

2023-07-03

看热讯:针刺可有效治疗妊娠呕吐

2023-07-03

微信买口罩被骗3万怎么办? 环球要闻

2023-07-03

环球快讯:助力建设成都西部生活消费中心 2023邛崃消费促进季暨邛酒美食音乐节启幕

2023-07-03

【莎头】你是人间值得21-世界快看

2023-07-03

头脑风暴法的原则包括以下哪几点(头脑风暴法的原则包括)

2023-07-03

世界新动态:复旦大学图书馆主页网址_复旦大学图书馆主页

2023-07-03

骑马与砍杀2怎么自立 骑马与砍杀2 天天观速讯

2023-07-03

商通卡使用范围一览表_商通卡使用范围

2023-07-03

经济日报:在乡村振兴中增长才干_全球热议

2023-07-03

济南申论培训机构排名 公考路上,线上学习助你驰骋无限

2023-07-03

伯恩山犬的优点和缺点_伯恩山 世界信息

2023-07-03

短讯!琅琊榜:你在三四月做的事情,八九月自有答案

2023-07-03

“百模大战”下 字节跳动决定做一个“大模型商场”_每日聚焦

2023-07-03

节字开头的成语_节字开头的成语多吗_百事通

2023-07-03

为什么连云港成为中国东海岸最大的深水港?|精彩看点

2023-07-03

本周末高温范围将缩减 华北黄淮高温范围将缩减 基本情况讲解

2023-07-03

龙的天空论坛怎么进不去了_龙的天空论坛

2023-07-03

巴西里约旅游警察中文培训班开班

2023-07-03

文艺评论丨电影人如何书写“给电影的情书”?|全球播报

2023-07-02

花椒苗怎么培育种子_花椒苗怎么培育|快看点

2023-07-02

白俄罗斯议会下院通过加入上海合作组织的法律草案

2023-07-02

东方Project原作BGM相关文件探究

2023-07-02

42岁吉娘娘穿比基尼冲浪美翻!无赘肉身材让人羡慕,离婚后太潇洒

2023-07-02

东莞虎门城管多向发力 扎实开展安全生产月系列活动

2023-07-02

潍坊核雕是用杏核做的还是桃核做的蚂蚁新村潍坊核雕今日答案7.2全新|环球简讯

2023-07-02

当前热点-7月3日温网开赛,中国选手首轮挑战不小

2023-07-02

韩国最大在野党举行抗议集会 反对日本强推核污染水排海

2023-07-02

焦点热议:小米手机出问题了可以向哪个部门投诉_怎样投诉小米手机质量问题简介介绍

2023-07-02

全球观点:60多家企事业单位600余岗位!阿拉善盟走进自治区高校“求贤引才”

2023-07-02

即时:有朝一日龙得水出处_有朝一日龙得水

2023-07-02