移动触屏版
移动触屏版扫描二维码
使用触屏版
华强智慧网
上市代码000062  原华强安防网
发布询价单
官方微信 精彩呈现
官方微信 精彩呈现

从一键换脸到深裸,科技伦理屡受冲击

来源:更新时间:2019-09-06 11:34作者:佚名
[摘要]曾经刷屏的类似应用软件不止ZAO一款,还有脸萌、足记、天天P图……与ZAO一样,这些应用大多与图像相关,许多也需要用户上传个人照片,但是从未引起如此大规模的争议。
华强智慧网讯

  广被诟病的用户协议、合成视频存在的安全问题……ZAO从爆红到质疑缠身,只用了不到24小时。从人脸合成技术诞生的那一天开始,人们就没有停止过对技术被人利用作恶的忧虑。

  此次对ZAO的担忧,也折射出潜藏在每个人内心的那个疑问:如果人工智能越来越无所不能,人类该如何自处?在新一轮的产业变革中,人类的隐私和其他权益究竟如何保护?

  从一键换脸到深裸,科技伦理屡受冲击

  曾经刷屏的类似应用软件不止ZAO一款,还有脸萌、足记、天天P图……与ZAO一样,这些应用大多与图像相关,许多也需要用户上传个人照片,但是从未引起如此大规模的争议。

  据了解,能够合成视频是ZAO引爆公众讨论的关键。在此之前,图像App的玩法都是基于静态的照片,ZAO则第一次将视频换脸技术带到了普通大众的手机里。

  中国科学院神经科学博士刘耀文向《法制日报》记者介绍说,人工智能相关应用在过去几年迅猛增长,其中人脸识别是应用范围比较广的技术之一。如今在金融、安防、考勤等领域,人脸识别已被大量应用。比如,当用户向互联网金融公司借贷时,平台首先需要做的是“验证你是你”,由于与钱财直接相关,拦截伪造的人脸攻击就变得至为重要。

  因此,这次刷屏的合成视频便触到了许多人的心理底线:当视频也可以被伪造,还有什么可以确保真实?

  其实,换脸技术本身并不新奇。2016年上映的《星球大战外传:侠盗一号》还原了1977年《星球大战4》中总督塔金的角色,但其扮演者彼得·库欣早在22年前就已去世,特效团队为此找来一位长相酷似彼得的演员进行面部表情捕捉,然后用计算机动画技术将塔金复活。不过,出品方卢克斯影业和迪士尼均表示,在制作《星球大战外传》时已经取得了彼得家人和产权继承人的同意。

  将换脸推到风口浪尖的是一系列融合了AI技术的“假视频”。

  2017年12月,一个名为“深度伪造”的用户在美国某论坛上发布了多段色情视频。他让电脑软件学习好莱坞女星的图像资料,然后把女星的面部移植到色情片女主角脸上,引发大量讨论和抨击,最后以账号被封告终。

  不过,AI换脸并未消失。用户“深度伪造”随后直接开源了项目代码,更多效仿者随之而来,为了纪念他,便用他的名字代称“AI换脸”技术。

  据媒体报道,今年6月13日,美国众议院情报委员会召开关于人工智能深度伪造的听证会,公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。美国外交政策研究所研究员克林特·瓦茨认为,深度伪造技术对美国2020年大选具有潜在威胁,若放任伪造视频扩散,则会对美国民主选举产生不良影响,挫伤选民的积极性。

  就在听证会结束后不久,一款名为DeepNude(深裸)的App再次把AI技术应用中的法律伦理问题推到台前:只要给它一张人像照片,等待30秒,就能得到一张裸照。由于风险超出可控范围,研发团队在产品上线几天后便匆忙将这款产品下架。

  美国斯坦福大学计算机科学教授、“百度大脑”原负责人吴恩达也公开批判,称“DeepNude是AI技术最糟糕的应用之一”,AI技术的超级力量应该被用到推动世界发展的项目中。

  在业内人士看来,AI换脸技术是成熟的,之所以没有被推广,就是因为还有很多法律、伦理问题没有讨论清楚。

  各方合作共同治理,健全法律防止失范

  上个月,央行科技司司长李伟就曾警示AI人脸识别技术可能带来的新风险,他说,“人脸支付的时候,一刷脸钱就没了,很可怕。银行卡可以揣在兜里,脸是平常露在外面,识别出来非常容易,现在有的技术可以在3公里之外识别你的人脸。”这句话道出了AI应用对公共安全带来的隐忧。

  此次,换脸软件ZAO将人工智能时代的隐私问题暴露得更加彻底,甚至有评论直言,当人类制造的技术越来越强大,甚至无所不能,人类本身的领地和独特性如何维护便成为值得思考的问题。如今,人工智能的发展渐成加速之势,这个情况甚至超出了不少人最乐观的估计。

  “对于打开了潘多拉魔盒的看法我是认可的,诸如ZAO此类的换脸软件,国外几年前就出现了,之后便被禁止。这个实际就是机器学习算法,对运行系统等各方面要求都挺高的。类似换脸应用出现是将技术平民化,使用门槛降低,让普通人都能使用,但可能会出现很严重的侵权行为。”刘耀文说。

  因此,在受访的业内人士看来,对于AI应用场景安全的讨论,不能只局限于民事侵权。

  在技术至上派的人看来,如果人工智能技术能够持续进步并广泛应用,特别是人类可以制造出真正能推理和解决问题、有知觉甚至自我意识的强人工智能机器的话,将给人类社会带来巨大的好处。

  从现实情况看,人工智能技术的发展确实也已经为人类带来实际回报。但得到这些好处并非没有代价,ZAO引发的争论只是人工智能技术B面的一小部分,面对这股强大且未知的力量,围绕人工智能伦理的探讨从未停歇。

  “更积极的讨论还得基于AI技术的伦理,对其研究开发与应用行为进行规范,通过健全法律法规、健全必要的监管,实行前置的管理,防止失范失控。”采访中,中国传媒大学政法学院法律系副主任郑宁说,比如,AI应用技术应当符合正当有益的原则,应用则需要满足起码的安全保护、隐私保护等条件,形成健全清晰的规则。对于AI换脸来说,如果有前置规则的约束,就可能属于禁止应用之列。由此可见,对于AI技术的发展,法规、规则的研究也应跟上步伐,不断扎密制度的笼子。

  “目前ZAO所展现出来的问题,以及类似软件可能产生的潜在危险和不安全性,也是人们必然要面临的挑战。人工智能为社会提供产品和便利的同时,如何监管才是最现实和最严峻的问题。”郑宁说,我们身处风险社会,任何新技术都是双刃剑,在给人们带来便利的同时,也会产生一定的风险,因此需要加强政府监管、企业自律、行业自治等,实现各方合作治理,“AI技术的监管难点包括监管技术较为滞后、监管法律缺位,同时还要注意到,AI涉及研发者、使用者等多个主体,因此法律责任主体的界定比较困难”。

  不过,也有专家认为,对于各种AI软件,一种处理方法是,如果预感和预测到将对社会有重大威胁,就应全面禁止。还有一种方法是,现在还没出问题就可以放行,但绝非放任,等出了问题再来解决。

  “两种方式做起来的难度是比较大的,主要的难度就是怎样平衡监管的需求和新技术、新应用发展的需求。”王四新说,监管得太严,肯定会伤害这种新技术、新应用,也会增加企业的成本负担;如果不监管,那一旦有了不可预测的情况发生,政府就会很被动,对个体造成的伤害可能也无法挽回。

  对此,郑宁的看法是,对于新技术要保持一定的宽容度,不能出现问题就一棍子打死,“全面禁止不是市场经济的做法,有些问题要让市场和社会去解决,必要时有关部门再干预”。

关注华强智慧网微信公众号
推荐阅读
发表评论

展会推荐

精华文章

脉纳万象 启迪真知:脉迪用创新引领行业新发展
我们在谈到生物识别的时候,往往第一时间想到的就是人脸识别...
直面终端用户 宇泛智能携新品亮相安博会
随着科学技术的发展,人脸识别技术遍地生花,落地应用的成熟...
星巡人工智能亮相 打造全栈AI平台
10月23日,中国国际社会公共安全产品博览会于北京中国国际展览...
  Hikvision AI Cloud全系产品方案亮相安博会
今年年初举办的“智涌钱塘”峰会上,海康威视宣布全面开放...
颠覆传统报警方式 艾礼安网络报警系统揭开神秘面纱
10月23日,第十四届中国国际社会公共安全产品博览会(简称“安...
2018年中国国际公共安全博览会圆满落幕
安博会开幕 华强智慧网展团强势来袭10月23日,2018年中国国际社...
智能音箱“红海战场” 谁主沉浮?
智能音箱一直以来都被看作是切入智能家居的入口之一,作为新...
华强智慧网——让客户更快找到您
日光荏苒,从中国安防网,到华强智慧网,一路走来转眼已是...
机器人上岗时代 我们会失业吗?
随着人工智能技术不断发展创新,制造业进行智能化转型升级,...
2018智慧中国新产品新技术武汉研讨会圆满落幕
聚焦安防行业前沿,服务行业多样应用,由湖北省安全技术防范...
千视(KILOVIEW)推出4K NDI 编解码器新品上市立减活动
千视电子(KILOVIEW)N20 4K NDI ®编解码器新品正式上市。...
蛋科技携手日本能率协会创建的创新生态平台
成立逾半个世纪的一般财团法人日本能率协会(简称JMA)在日本...
AI与5G的结合,让物联网时代更加值得期待
清华大学微电子所所长魏少军认为,可重构AI芯片的前途可期。...
5G助力!OLED产业迎“黄金”时代
据了解,2013年大尺寸OLED面板的销售量仅为20万片,2018年销售量...
物联网不可盲目乐观,还需解决标准乱战
可以看到的是,无论是苹果、谷歌这样的软硬件厂商,还是芯片...
安防网 (www.hqps.com) 版权所有1997-2015 粤ICP备08036625号 经营许可证:粤B2-20090028 软件企业认证:深R-2008-0255