商务服务
潮评丨10分钟被骗430万元 谨防诈骗披上AI外衣
2023-06-21 10:30

AI换脸技术被用于诈骗。图源:视觉中国

在赵本山和范伟的经典小品里,面对骗局,范伟的一句“哎呀,防不胜防啊”成为一时金句。没想到,如今的骗局更加隐蔽,让人难辨真假。

近日,包头警方发布一起利用AI实施电信诈骗的典型案例。福州市某科技公司法人代表郭先生10分钟内被骗430万元,对方通过智能AI换脸技术,佯装成好友对其实施了诈骗。随后,#AI诈骗正在全国爆发#的话题也冲上热搜,引发热议。

包裹在AI技术下的骗局,让人心生恐慌,因为它具有强大的隐蔽性。以往,骗子多是以“未曾谋面的陌生人”角色出现,或是假借执法人员的身份,或是编造情况危急的情境,尽管具备迷惑性,但不少人一想到要与陌生人进行金钱交易,难免会多几个心眼。然而穿上“AI”外衣的诈骗,却意图在受害人心里建立起信任基础,利用“熟人”身份降低受害人的戒备心。通过AI换脸、AI变声等手段,骗子摇身一变成了“身边人”,在眼见、耳听都不一定为实的情况下,识别骗局不是一句“多加小心”就能完成的易事。

近些年,AI写作、AI换脸等深度合成技术迅速发展,令人喜忧参半。人们一边惊叹于技术的先进扩充了人类的想象,一边又担心它模糊现实与虚拟的边界。面对这把双刃剑,如何在技术创新与风险防范间找到平衡并不简单。有学者将其称之为“科林格里奇困境”——当技术的改变相对容易时,其不良后果却难以完全预见;而当不良后果变得明显时,采取行动往往为时已晚或成本过高。

AI换脸技术被用于诈骗,尚属人工智能高速成长阶段的新问题,但其引发的财产风险,对肖像权、知识产权等权益的侵犯却不容低估。此前,人类总能通过不断适应新技术的发展而调整治理手段,一次次走出“科林格里奇困境”。如今,也该为狂奔的AI安上“刹车”了。

针对技术手段日益更新的AI诈骗,2022年12月,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》,明确了深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,“应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意”。而抖音平台也于今年5月9日发布《关于人工智能生成内容的平台规范暨行业倡议》,其中提到,各生成式人工智能技术的提供者,均应对生成内容进行显著标识,以便公众判断。

简而言之,AI换脸技术用于诈骗并非“无计可施”。从目前看来,换脸必须经过本人同意、AI画面与真实画面必须形成“辨识差异”将是监管的着重方向。而在本案中,个人微信、人脸、声音等隐私信息为何遭泄露也值得追问,AI技术之所以在诈骗事件中屡屡得逞,也是因为盗取了个人的隐私信息,作为编织骗局的“脉络”。因此,对隐私信息的使用处理,理应严格遵守信息保护边界,避免因为利益等原因随意泄露,给信息提供者带来严重后果。

无论是问题暴露前的“未雨绸缪”,还是问题显现后的“查缺补漏”,都是人类厘清技术发展“边界”的必要手段。我们尤需引导新技术向上向善,谨防诈骗穿上AI外衣。

“转载请注明出处”

    以上就是本篇文章【潮评丨10分钟被骗430万元 谨防诈骗披上AI外衣】的全部内容了,欢迎阅览 ! 文章地址:http://sicmodule.glev.cn/news/2376.html 
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 歌乐夫资讯移动站 http://sicmodule.glev.cn/mobile/ , 查看更多   
最新新闻
李子柒复出引爆热搜,细数她的创作历程与成就
在社交媒体的浪潮中,李子柒这个名字如同一颗璀璨的明星,闪耀着独特的光芒。然而,作为顶流网红,她的归来不仅仅是个人品牌的复
盘点日本那些听起来“野鸡”,实则很牛的大学
提起日本的大学,很多人的认识都停留在东京大学、早稻田大学这几所名校,学长在咨询的时候也经常碰到一些问题。“顺天堂大学?它
日本名门高中推荐——大分高等学校!
日本作为主流热门的留学国家早已受到广大学生和家长的认可,从目前来看,留学生的年龄日趋小龄化。东京都内一些比较有名、升学率
考生必读! 浙江省公务员考试2024公告发布在哪里
浙江省公务员考试是浙江省内最具权威性的公务员招聘考试,每年吸引着众多考生前来参加。而公告是考生了解考试详细信息的重要途径
日本的大学都是怎么分类的?分别对应国内什么等级的大学?
哈喽~大家好,我是青柠日本留学的洛洛老师,很多刚开始了解日本留学的同学和家长,对于日本的大学了解很少很少,充其量也就知道个
安徽中医药大学录取分数是多少?往年录取难度大吗?
安徽中医药大学在安徽是本科第一批次招生,在其他省份也均为本科批次招生,我们通常认为安徽中医药大学在安徽是一本大学。 安徽
经济学专业怎么样_经济学专业主要学什么_就业前景怎么样?
序号学校代码学校名称评选结果110002中国人民大学A+210246复旦大学A+310001北京大学A410055南开大学A510027北京师范大学A-610284
天津中医药大学是一所怎样的大学?招办主任一一解读
一、天津中医药大学是一所什么样的大学?办学实力如何?天津中医药大学创建于1958年,是我国最早建立的中医高等院校之一,座落于