网易首页 > 网易山东 > 正文

AI学会造假,我们该如何应对

0
分享至

奥巴马会和特朗普说一样的话,信不信?有视频为证。在一个对比视频中,二人不仅话语一致,连话语节奏甚至面部肌肉的动作都是一致的,但谈吐风格却能保持各自特点。

“这是一种被称为GAN(生成对抗网络)的新兴技术。”日前,香山会议召开以“信息隐藏与人工智能”为主题的学术讨论会,北京电子技术应用研究所副研究员李鹏超介绍,GAN是一种生成模型,通过将两个神经网络的对抗作为训练准则,可以自动生成图像,包括自动篡改图像。实际上早在2015年,GAN就被用于制作教皇表演“抽桌布”戏法的假视频,由于过于逼真,很快就火遍网络。

据统计,大量的合成信息占据了互联网,如合成声音、生成图像、AI合成不存在的人像等,约占网络信息的30%。“眼见为实”很可能已经靠不住了。

机器人水军已经很成规模

人们判断真假,经常会说“真的自然”。而人工智能造假,将在尽可能“自然”的前提下,完成自动生成。

“淘宝上的机器人水军已经很成规模了。”浙江大学管理学院教授孔祥维举例道,例如商品评价已经由机器自动生成,不再需要雇人“灌水”。

“自动生成带来的危机是规模性、密集度的大幅增加。”孔祥维说。以淘宝评价为例,如果虚假评价如潮水般涌入,它甚至不需要做到真假难辨,就能将真实评价淹没。

在社会事件的舆论方面,“机器人水军如果操纵舆论,将使国家安全置于风险之中。”孔祥维说。

除了自动生成之外,GAN的开源性也带来巨大的隐患。开源代码,意味着谁都可以用,代码一经开源将“变幻无穷”。相关研究人员表示:“这就意味着对这一代码的研究必须比对手更透彻,才能以不变应万变。”

防造假需嵌入抗编辑水印

抖音等微视频APP的普及,使得视频的发布非常频繁。有没有办法让公众的自拍不像前文提到的视频一样被篡改?清华大学计算机科学与技术系副教授王道顺表示,非法用户除了借助视频编辑工具复制后再修改,甚至未经授权转拍视频内容。这些操作都是为了得到可以任意修改的“白板”,“我们正在探索基于深度学习的抗编辑视频水印技术。”王道顺说。

这就要求水印在视频中是隐藏着的,而且不能够被编辑,人工智能的深度学习技术被用来嵌入这些“入木三分”的水印。王道顺表示,他的团队希望能够完成嵌入和检测两方面的技术输出。

网络对抗进化为智能化平台间的对抗

GAN的魔力在于两个神经网络之间的竞争,通过让两个神经网络对抗,人工智能深度学习从识别事物升级到有能力创造事物。

技术都有两面性,人工智能的“造假术”也可被加以利用。信息隐藏技术可以借用人工智能技术和思路,例如利用神经网络的对抗生成隐藏信息,获得人工智能相关技术与生俱来的自适应、海量等特点。相关专家表示,深度学习在许多模式识别领域取得了巨大的成功,给信息隐写和隐写分析带来新的方法和挑战。

对于信息隐藏的基础研究者来说,因为“思路不同”,传统的分析手段难以发现的隐藏信息很可能在人工智能的深度学习模式下被轻易破解。香山会议就新课题的紧迫性进行了讨论,专家认为:人工智能的发展使得网络对抗从人与人的对抗进化为智能化、自动化的平台间对抗,作为数据保护和隐蔽通信中的关键技术,信息隐藏技术必须有所改变。

相关推荐
热点推荐
“国民媳妇”海清不幸染病:才46岁,可惜了……

“国民媳妇”海清不幸染病:才46岁,可惜了……

圈里八卦圈外香
2023-03-29 12:37:49
勇士20分大逆转找回夺冠密码,科尔放弃五小阵容,库里有制胜法宝

勇士20分大逆转找回夺冠密码,科尔放弃五小阵容,库里有制胜法宝

老胡聊球
2023-03-29 13:27:04
“好色书记”的特殊癖好:偷拍女下属私密照,收藏情人贴身内衣!

“好色书记”的特殊癖好:偷拍女下属私密照,收藏情人贴身内衣!

老黄说史
2023-03-28 12:28:18
美军一把手放话,6成美军已进入战备,中国又成“首要目标”

美军一把手放话,6成美军已进入战备,中国又成“首要目标”

科罗廖夫
2023-03-29 11:05:24
江青去世等12年才入土,墓地在毛主席纪念堂旁边,女儿用心良苦

江青去世等12年才入土,墓地在毛主席纪念堂旁边,女儿用心良苦

秦風历史
2023-03-24 02:46:22
李梦危机后首次露面 大方追星拒绝采访 夫妻携手出国

李梦危机后首次露面 大方追星拒绝采访 夫妻携手出国

体坛说球事
2023-03-28 21:48:56
李梦事件水落石出,罪魁祸首不是别人,姚明或出手协调!

李梦事件水落石出,罪魁祸首不是别人,姚明或出手协调!

体坛猪八戒
2023-03-28 22:41:46
乌克兰国防部长:已收到“挑战者2”主战坦克等北约重装备

乌克兰国防部长:已收到“挑战者2”主战坦克等北约重装备

澎湃新闻
2023-03-28 16:30:19
邓小平复出,萧劲光让他警惕2个人,邓公心领神会:我知道怎么做

邓小平复出,萧劲光让他警惕2个人,邓公心领神会:我知道怎么做

南书房
2023-03-27 23:33:31
200万的LOGO不要了?百事可乐新LOGO启用!

200万的LOGO不要了?百事可乐新LOGO启用!

LOGO研究所
2023-03-29 09:58:16
一季度“开门红”收官在即 “拉存款”难上天!银行人:现实总比理想更骨感

一季度“开门红”收官在即 “拉存款”难上天!银行人:现实总比理想更骨感

北京商报
2023-03-28 20:18:10
中韩贸易关系逆转,韩国政府一改强硬态度,拟对中国公民实行免签

中韩贸易关系逆转,韩国政府一改强硬态度,拟对中国公民实行免签

袁周院长
2023-03-29 14:37:29
带队7-0 3球1助获评10分 梅西赛后秒变模特 对手教练球员纷纷合影

带队7-0 3球1助获评10分 梅西赛后秒变模特 对手教练球员纷纷合影

狍子歪解体坛
2023-03-29 09:52:57
钟局长历史信息被扒,看完这样照片明白钟庚赐能当局长的原因

钟局长历史信息被扒,看完这样照片明白钟庚赐能当局长的原因

卜伊纪录
2023-03-28 21:53:41
官方:前中国足协主席于洪臣涉嫌严重违纪违法,接受审查调查

官方:前中国足协主席于洪臣涉嫌严重违纪违法,接受审查调查

直播吧
2023-03-29 10:14:06
“对不起父母……”因航班延误,男生崩溃大哭!谁的问题?最新进展→

“对不起父母……”因航班延误,男生崩溃大哭!谁的问题?最新进展→

上观新闻
2023-03-26 20:18:31
哈佛大学研究:经常长白头发的人,患癌风险会降低?白发有救了?

哈佛大学研究:经常长白头发的人,患癌风险会降低?白发有救了?

39健康网
2023-03-28 16:05:02
痛心!上海出生的知名表演艺术家去世,长期担任主演,几乎没有请过一天病假

痛心!上海出生的知名表演艺术家去世,长期担任主演,几乎没有请过一天病假

上观新闻
2023-03-29 12:17:33
绕开美国,国宝级发动机私下卖给中国,这次不是乌克兰

绕开美国,国宝级发动机私下卖给中国,这次不是乌克兰

川乡搞笑
2023-03-28 12:04:59
李冰冰的担心是对的,这场轰动饭圈的“网络暴力”,越来越疯魔了

李冰冰的担心是对的,这场轰动饭圈的“网络暴力”,越来越疯魔了

我是愈姑娘
2023-03-28 15:48:00
2023-03-29 17:24:49

头条要闻

媒体:中国吸引力增强 沙特1100亿投中国

头条要闻

媒体:中国吸引力增强 沙特1100亿投中国

财经要闻

体育要闻

足坛第一位"梅西接班人",32岁退役了

娱乐要闻

秦岚承认和魏大勋恋情:如大家所见

科技要闻

马云刚刚回国,阿里就彻底变天了

汽车要闻

今春穿搭添新风尚 不来台红旗H6配你的OOTD吗

态度原创

教育
本地
游戏
健康
公开课

教育要闻

国家智慧教育读书平台正式上线,提供电子书等海量资源

本地新闻

财神殿前长跪不起的年轻人,人均带身份证开光

Peyz战胜T1晋级决赛

喝水都胖?建议改掉三个坏习惯

公开课

我国癌症高发是洗洁精造成的?小心这5种

无障碍浏览 进入关怀版