网易首页 > 网易山东 > 正文

堵住AI安全漏洞 法规之外更需技术制衡

0
分享至

如今,AI换脸在网上被玩的不亦乐乎。喜欢哪个明星,就把所有电视剧主角都换成他的脸,如果只是单纯娱乐,貌似也无可厚非。但可怕的是,你的脸很可能会被“植入”到色情视频然后被打包贩卖,甚至你的手机、电脑、智能门锁等应用了人脸识别技术的设备也可能被AI换脸轻松攻破。有人用AI视频造假,亦或是犯罪,似乎就没那么好玩了。

刷脸支付、人脸识别……不可否认,人工智能技术给人们的生活带来了诸多便利。“但我们也应当正视,当前人工智能技术还处在初步发展阶段,仍然面临着一些挑战。”清华大学教授、清华大学人工智能研究院基础理论研究中心主任朱军说。

“任何技术都是一把双刃剑,当AI技术应用到越来越多的场景,由于AI算法本身存在漏洞所引发的安全问题必须引起足够重视。同时,AI技术的滥用也将引发安全隐患,比如隐私与伦理问题。当AI开始触碰边界问题,安全性就成为AI发展过程中必须思考的课题。”北京瑞莱智慧科技有限公司(以下简称RealAI)高级产品经理张旭东在接受科技日报记者采访时说。

技术漏洞带来AI安全问题

回家,到单元楼门口,刷一下脸,门就开了。人脸解锁已经成为生活中最常见的AI应用场景之一。然而,很少有人会想到,当前的AI算法存在明显的“安全盲点”。

RealAI团队就曾做过相关研究:针对识别算法漏洞,可生成一类名为对抗样本的“噪音”,恶意误导AI算法输出非预期的结果,诱导识别系统出错。团队成员通过一张打印上对抗样本“噪音”的纸,成功地让研究对象在识别系统下实现“隐身”,如果再把纸贴在其他实物上,比如小车模型上,也可以让该物体在识别系统下完全“消失不见”。此外,他们还研发了一种带有噪点的“眼镜”,只要戴上,即使不是本人,也能成功破解商用智能手机的刷脸解锁,甚至包括门锁等其他人脸识别设备。

“AI算法漏洞本质上是安全问题的一大类,而解决安全问题往往是攻防两端不断对抗、演化的过程。”张旭东说。目前对主流的攻击手段都有比较有力的防御手段,如可以通过训练模型去除对抗“噪音”,或是检测出对抗样本以后将其从数据中去除,以及使用攻击算法生成大量对抗样本对模型做对抗训练等方式来解决这些问题。

由于AI换脸技术也在不段进化,早期换脸技术生成的视频中人物往往不会眨眼,可根据一些较为明显的特征直接肉眼判断。但随着深度伪造技术的不断演化,这些鉴别方法已不再有效。

“面对这种情况,我们会根据当前市面上流行的换脸算法生成海量的训练样本,再结合贝叶斯学习处理还未出现的新型虚假视频。简单理解,就是基于主流的甚至更为领先的生成技术制作出大量逼真的假视频,再利用这些假视频训练出一个新的模型。做的假视频越逼真,训练出来的模型分辨能力就越强。”张旭东说。

要守好技术和法规两道关

“AI技术滥用最显性的问题在于个人信息被轻易‘操纵’,这背后可能会引发隐私泄露、身份危机,而且还会催生出更加隐秘、难以侦察的新型黑产,如色情黑产、金融欺诈等。”张旭东说。

此外,AI技术滥用的潜在效应还将蔓延到大众的信息获取和社会信任层面,引导公众舆论、引发社会信任危机,比如美国就曾流出国家领导人被恶搞的视频,制作者利用视频煽动政治暴力、破坏选举、扰乱外交。长此以往,难以辨别真相的公众无法选择相信还是不相信,如果选择相信可能会继续给不法分子带来可趁之机,如果选择不相信则可能带来长期的社会冷漠。

张旭东表示,AI安全问题牵一发而动全身,守好技术和法规两道“关卡”是当务之急,同时需要联动社会各界力量,从监管机构、AI科技企业到普通公众共同重视、共同发力才能真正的从根本上使其良性发展。

欣喜的是,AI安全问题已经引起国内相关监管机构的重视。此前,网信办就正式发布《网络音视频信息服务管理规定》,指出自2020年1月1日起,AI造假音视频不得随意发布。新规定中关于AI造假音视频的规定主要有四条:按照国家有关规定开展安全评估、以显著方式予以标识非真实音视频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。

“当然,最有效、最可行的解决方法仍是依靠技术制衡技术。”张旭东说,这主要包括两方面,一是开发出高精度的AI检测算法与检测产品,从源头制止虚假内容的泛滥传播;二是开发出相应的“防火墙”技术,从防御端铸造高墙,保障配备了人脸识别系统的公共安全设备攻不可破。

本报记者 付丽丽

相关推荐
热点推荐
孝庄病逝前对康熙说:我死后立即拆掉寝宫,康熙心领神会含泪答应

孝庄病逝前对康熙说:我死后立即拆掉寝宫,康熙心领神会含泪答应

精致小学教育
2023-12-05 13:26:19
在滑雪场找三陪,已经成了英国滑雪男的基操

在滑雪场找三陪,已经成了英国滑雪男的基操

beebee
2023-12-04 11:06:54
中俄绝不答应!刚拿到中方48亿投资,转头就给美国送去“大礼”

中俄绝不答应!刚拿到中方48亿投资,转头就给美国送去“大礼”

星辰故事屋
2023-12-04 23:04:51
到底是谁在捧刘宇宁啊

到底是谁在捧刘宇宁啊

娱乐综艺巴士站
2023-11-30 20:26:52
996算什么?中国加班最狠的城市排名来了,加班人数占比74.34%!

996算什么?中国加班最狠的城市排名来了,加班人数占比74.34%!

重庆地产视野
2023-11-30 14:50:48
快乐孙兴慜:第一次打进乌龙球是不错的经历

快乐孙兴慜:第一次打进乌龙球是不错的经历

直播吧
2023-12-04 16:37:26
70岁大叔戴着金表,在ktv搂着年轻女子跳舞,网友:没有大叔潇洒

70岁大叔戴着金表,在ktv搂着年轻女子跳舞,网友:没有大叔潇洒

大有看头
2023-12-03 11:55:03
美女写真—— 第 209 期

美女写真—— 第 209 期

艺术课代表
2023-12-04 20:25:50
全球第一大叉车制造商:年收入超过1200亿元,相当于8个安徽合力

全球第一大叉车制造商:年收入超过1200亿元,相当于8个安徽合力

毒舌混知所
2023-12-04 16:09:05
“断崖式衰老”竟然是真的?短短20天,42岁女子容貌变得像70多岁!专家:男性或更早

“断崖式衰老”竟然是真的?短短20天,42岁女子容貌变得像70多岁!专家:男性或更早

都市快报橙柿互动
2023-12-04 23:48:59
加代给梅艳芳“开瓢”,差点被洪汉义销户,全靠赌王出面捡回小命

加代给梅艳芳“开瓢”,差点被洪汉义销户,全靠赌王出面捡回小命

诡谲怪谈
2023-12-02 15:01:34
“抽中”6根香蕉、2个苹果后,江苏一女子损失四万元

“抽中”6根香蕉、2个苹果后,江苏一女子损失四万元

齐鲁壹点
2023-12-05 09:19:21
再见吉米!火箭酝酿三方交易,热火凑齐四巨头,希罗辅佐范乔丹?

再见吉米!火箭酝酿三方交易,热火凑齐四巨头,希罗辅佐范乔丹?

篮球显微镜
2023-12-05 10:16:12
4-0!2-0!亚洲伪强队爆发,有望36年后重返世界杯,国足或被做掉

4-0!2-0!亚洲伪强队爆发,有望36年后重返世界杯,国足或被做掉

侃球熊弟
2023-12-05 09:45:28
深圳湾到广州25分钟、到珠海10分钟 深圳南山将开通“空中的士”

深圳湾到广州25分钟、到珠海10分钟 深圳南山将开通“空中的士”

金羊网
2023-12-05 07:10:03
解清帅爷爷3个细节看哭全网,奶奶成唯一遗憾,爸爸回应资产规模

解清帅爷爷3个细节看哭全网,奶奶成唯一遗憾,爸爸回应资产规模

风云观察者
2023-12-03 19:23:45
以色列追杀哈马斯领导层计划曝光:战后摩萨德对全球各地哈马斯高官采取行动

以色列追杀哈马斯领导层计划曝光:战后摩萨德对全球各地哈马斯高官采取行动

红星新闻
2023-12-02 18:54:11
太卷了!这群偷渡客在美国把刷盘子的工资从1.5万卷到5000

太卷了!这群偷渡客在美国把刷盘子的工资从1.5万卷到5000

凌瑶读史
2023-11-10 15:29:52
韩国第一夫人低估了凯特的实力!两套造型都输了,凯特搬出传家宝

韩国第一夫人低估了凯特的实力!两套造型都输了,凯特搬出传家宝

时尚丽人风行
2023-11-22 13:20:16
六旬老人接孙子放学途中,顺道去嫖娼。接了孩子到家后,发现脖子上重达60克的金项链不见了。

六旬老人接孙子放学途中,顺道去嫖娼。接了孩子到家后,发现脖子上重达60克的金项链不见了。

天闻地知
2023-11-15 15:43:45
2023-12-05 14:52:49

头条要闻

上海女子花4600元找人搬家傻眼:冻肉放锅里 东西乱塞

头条要闻

上海女子花4600元找人搬家傻眼:冻肉放锅里 东西乱塞

财经要闻

一位“天才”行长的消亡史

体育要闻

杨鸣宣布与唐佳良离婚 将共同抚育孩子

娱乐要闻

文章马伊琍女儿出镜 脸方鼻塌身材高挑

科技要闻

小米汽车开展门店展车摆放确认工作,明年一季度正式到店

汽车要闻

纯电续航262km/预售26.69万 追光PHEV今晚上市

态度原创

旅游
亲子
数码
公开课
军事航空

旅游要闻

藏于宏村的530国道,蜿蜒曲折风光隽秀

亲子要闻

尿都控制不住的年龄控制住了二人转手绢,宝宝太棒了!

数码要闻

Surface Laptop Go 3体验:性能升级 轻巧机身续航给力

公开课

武松杀潘金莲,为何先扒她衣服?原文细思极恐

军事要闻

俄乌在“看不见的电磁领域”激战

无障碍浏览 进入关怀版