移动触屏版
移动触屏版扫描二维码
使用触屏版
华强智慧网
百 度 爱 采 购 官 方 服 务 商
发布询价单
官方微信 精彩呈现
官方微信 精彩呈现

换脸技术打开的“潘多拉魔盒”,人工智能亟待突破“天花板”

来源:更新时间:2020-01-15 14:47作者:佚名
[摘要]目前,“人人都怕换脸术”的恐慌,已引起国家有关部门的高度关注。今年1月1日起施行的《网络音视频信息服务管理规定》中就对此作出规定:AI造假音视频不得随意发布,要“按照国家有关规定开展安全评估”,并“以显著方式予以标识”。
华强智慧网讯

  由于技术逐渐成熟,普通人被计算机病毒折磨得苦不堪言的日子,似乎已经逐渐远去。然而,另一场更加隐蔽、杀伤力更大的“病毒危机”,正在向人类悄然逼近。

  新兴的人工智能技术,为人类增添便利的同时,也带来了隐患。有犯罪团伙利用AI技术制作虚假视频骗取钱财,不法分子将女明星的脸换到色情视频上出售……一条条利用AI技术作恶的黑色产业链正在悄然形成,让不少人蒙受钱财、名誉损失。

  换脸技术打开的“潘多拉魔盒”

  有“换脸神器”之称的Deepfake,诞生之初,它只是一项有趣的技术。由于其逼真的效果、开源获取的便捷,被不少技术人士拿来制作各种好玩的视频。比如“AI换脸”刚流传到国内的时候就曾在社交媒体上掀起了一波热潮,有人将杨幂的脸换到了朱茵饰演的黄蓉身上,视频中顾盼神飞的全新“蓉儿”获得了不少网友的喜爱。

  但在让人哈哈一乐的同时,由于个人信息可以被轻易“操纵”,AI换脸被滥用的负面影响也在全面爆发。有人收到朋友发来的“借钱视频”而慷慨解囊,结果轻易被骗;被伪造视频而处于谣言中心的当事人,眼睁睁看着自己声誉受损而百口莫辩;在涉及到巨额金钱往来时,如果遭遇对方信息资料造假,有可能会倾家荡产……这些种种“AI造假”信息不仅会给个人带来不可挽回的损失,还可能引发巨大的社会风险。甚至有人认为,AI换脸视频足以误导民意,威力堪比“核武器”,比如美国就曾流出国家领导人被恶搞的视频,煽动政治暴力、破坏选举、扰乱外交。

  目前,“人人都怕换脸术”的恐慌,已引起国家有关部门的高度关注。今年1月1日起施行的《网络音视频信息服务管理规定》中就对此作出规定:AI造假音视频不得随意发布,要“按照国家有关规定开展安全评估”,并“以显著方式予以标识”。

  人工智能作为一种新兴技术,除会被滥用之外,其技术本身的安全风险也足以引发忧虑。在去年10月举行的国际安全极客大赛中,参赛人员通过在胸前上放一张打印有“图像噪音”的纸片,就能够逃脱智能监控系统的识别,实现“隐身”。

  “这并不是无中生有,而是模拟了真实的人工智能攻击场景。”来自北京瑞莱智慧科技有限公司(简称RealAI)的算法科学家萧子豪如是说道。在去年的国际安全极客大赛中,RealAI与清华联合战队包揽了“CAAD CTF图像对抗样本挑战赛”及“CAAD隐身挑战赛”两项冠军,萧子豪就是该战队成员之一。人工智能有时候会犯一些在人类看来“很傻的错误”,是因为目前以深度学习为代表的人工智能存在一大安全盲点——对抗样本,即在原始图片上增加肉眼无法察觉的噪声就可以恶意误导AI识别算法输出非预期的结果。

  此外,基于深度学习的人工智能本质上相当于一个“黑箱”,是“不可解释”的。“也就是说,我们输入一个数据,人工智能会反馈一个结果,但是这个结论是如何得出的,我们完全无法得知,所以甚至有时候人工智能犯错了,我们也无法解释背后的原因。”萧子豪说。

  人工智能亟待突破“天花板”

  关于人工智能安全性的担忧,一方面需要依靠法律法规和政府监管来约束,另一方面,需要从源头加强安全评估,提升鉴别技术等能力,借助技术手段提前布局。

  2018年6月,清华大学人工智能研究院揭牌成立,以“一个核心、两个融合”作为发展战略,即以人工智能基础理论和基本方法研究为核心,积极推进大跨度的学科交叉融合,积极推进大范围的技术与产业、学校与企业融合。

  在多年研究的基础上,中科院院士、清华大学人工智能研究院院长张钹教授提出了“第三代人工智能”的概念。张钹院士认为,人工智能技术发展至今,已经经历了两代模型。第一代是知识驱动的符号模型,比如专家系统;第二代是数据驱动的机器学习模型,如深度学习、概率统计模型,目前正处于前所未有的兴盛时期。

  “然而这两代技术都存在天然的局限性。” 张钹院士说,目前的人工智能虽然发展非常快,但是也只在图像识别、语音识别等方面取得了比较明显的突破。如果遇到数据知识缺乏、非完全信息、不确定性等场景,这两代人工智能基本上就变得“无计可施”了。

  “现在的人工智能系统是非常脆弱的,容易受攻击或者欺骗。”张钹院士说,基于深度学习的人工智能系统不仅需要依靠大数据“喂养”,而且不可解释,存在非常严重的缺陷,“这个缺陷是本质的,由其基本理论方法本身引起的。”

  也正因此,在一些真正重要的关键领域,比如自动驾驶、金融业务决策和医疗诊断等实际应用场景中,人工智能的进一步发展和应用还面临着很大的问题。

  在他看来,以深度学习为代表的第二代人工智能技术正在逐渐触及“天花板”,亟需发展下一代人工智能技术,也就是安全、可靠、可信的人工智能。尤其,安全性将成为下一阶段人工智能发展必须的基础。一旦忽视人工智能的安全问题,未来将难以持续健康的推动AI技术在更多场景的落地。

  “AI安全”市场前景可期

  作为“第三代人工智能”概念的提出者,张钹院士所带领的清华研究团队早已布局了相关领域的研究,比如将第一代和第二代人工智能的技术优势相结合,构建了基于贝叶斯深度学习的第三代人工智能基础算法,从而打开了通向“真正人工智能”的一扇门。

  在技术发展的同时,张钹院士也倡导将其产业化。张钹说,作为研究型机构,清华大学AI研究院的本分是要搞好学术研究,“但是AI又与应用结合相当紧密,因此我们的研究一定要产生出算法,研究院要孵化出AI新产业,甚至成为人工智能界的BAT。”RealAI就在此背景下应运而生。

  作为清华大学人工智能研究院的核心孵化企业,RealAI由清华大学人工智能研究院院长张钹院士、清华大学人工智能研究院基础理论研究中心主任朱军教授联席担任首席科学家。正如其名,RealAI希望不断突破AI技术边界,探索“真正”的人工智能,以引领第三代人工智能技术的产业化发展。

  针对目前在社交媒体平台上引发“虚假信息洪流”的Deepfake换脸视频,萧子豪表示,“除了涉及隐私泄漏、身份危机、名誉风险等个人安全问题,这背后的潜在效应还可能蔓延到大众的信息获取和社会信任层面,引导公众舆论、引发社会信任危机。”对此,RealAI迅速研发出了一款检测工具,可一键实现对伪造视频进行自动精准识别,识别准确率高达90%以上。

  RealAI高级产品经理张旭东告诉记者,该检测工具基于第三代AI技术,使用无标注数据和无监督的深度生成模型来生成高逼真度、可控的假数据作为数据储备,然后利用这些高质量数据引导模型自动学习出具有强判别性的识别特征,提升对伪造痕迹的识别能力,进而分辨出造假视频。据悉,这款产品能够在虚假内容甄别、线上资料审核以及影像物证真实性检验等实际应用场景中发挥作用。

  “AI安全其实是个很大的话题,未来将可能发展成与网络安全同等规模的市场。” RealAI首席执行官田天表示,真正做到保障AI安全始终不是一小部分人的事,需要联动社会各界力量,从监管机构、AI科技企业到普通公众共同重视、共同发力才能真正从根本上使其良性发展。

  在人工智能发展的过程中,安全问题将会是一个攻防两端不断对抗演化的动态过程,“攻击”和“防御”的双方博弈将会一直存在。“RealAI未来会继续践行安全可控的技术理念,深耕人工智能安全领域,为人工智能行业的健康发展保驾护航。”田天说。

关注华强智慧网微信公众号
推荐阅读
发表评论

展会推荐

精华文章

脉纳万象 启迪真知:脉迪用创新引领行业新发展
我们在谈到生物识别的时候,往往第一时间想到的就是人脸识别...
直面终端用户 宇泛智能携新品亮相安博会
随着科学技术的发展,人脸识别技术遍地生花,落地应用的成熟...
星巡人工智能亮相 打造全栈AI平台
10月23日,中国国际社会公共安全产品博览会于北京中国国际展览...
  Hikvision AI Cloud全系产品方案亮相安博会
今年年初举办的“智涌钱塘”峰会上,海康威视宣布全面开放...
颠覆传统报警方式 艾礼安网络报警系统揭开神秘面纱
10月23日,第十四届中国国际社会公共安全产品博览会(简称“安...
2018年中国国际公共安全博览会圆满落幕
安博会开幕 华强智慧网展团强势来袭10月23日,2018年中国国际社...
智能音箱“红海战场” 谁主沉浮?
智能音箱一直以来都被看作是切入智能家居的入口之一,作为新...
华强智慧网——让客户更快找到您
日光荏苒,从中国安防网,到华强智慧网,一路走来转眼已是...
机器人上岗时代 我们会失业吗?
随着人工智能技术不断发展创新,制造业进行智能化转型升级,...
2018智慧中国新产品新技术武汉研讨会圆满落幕
聚焦安防行业前沿,服务行业多样应用,由湖北省安全技术防范...
人工智能这几个领域的热度相对比较高
随着产业互联网的快速发展,大型科技公司纷纷推出了自己的人...
人工智能时代,什么行业才是明日之星?
中国各大顶尖高校,也在这二年之间,陆陆续续开设了与人工智...
人工智能赋能传媒技术,实现流程再造
随着5G时代的到来,内容供给,尤其是视音频内容的供给实现了...
人工智能热度升温 智慧应用不断落地
2020 年,人工智能热度不减反增,而在人工智能技术不断发展的...
清华人工智能研究院院长张钹:从“让数据说话”到引入知识
深度学习兴起之后,学界将目标转移至数据,提出“让数据说话...
安防网 (www.hqps.com) 版权所有1997-2015 粤ICP备08036625号 经营许可证:粤B2-20090028 软件企业认证:深R-2008-0255