小黑游戏最新手机游戏下载平台

手游资讯 游戏产业 单机补丁 单机工具 单机资讯 游戏视频 游戏美图 最近更新 热门排行
您现在的位置:首页 > 软件资讯 > 软件教程 > 连色情网站都不敢碰的AI禁区,ZAO正在疯狂试探

连色情网站都不敢碰的AI禁区,ZAO正在疯狂试探

2019-09-07 14:48:07作者:佚名来源:本站整理浏览:1958

连色情网站都不敢碰的AI禁区,ZAO正在疯狂试探


你ZAO吗?


一夜“成”明星不再是梦。


从上周末开始,一个名为“ZAO”的AI换脸App忽然火爆全网,用这款App制作的换脸视频在微博、朋友圈随处可见。


只要一张照片,想附体谁就附体谁!▼

ZAO在第一个公开版本发布不到24个小时里迅速蹿红,不仅在社交媒体上刷屏,更登上苹果iOS免费榜第二,微博热搜话题榜前十,堪称“现象级”。

而这个刷屏的背后,其实与我们每一个人的生活都息息相关。

01

陌陌打造,技术用于情色视频

ZAO最大的噱头是和明星“换脸”,并且嵌入短视频中,可下载后传播,用于社交娱乐。

而“ZAO”是由著名线上交友软件“陌陌”团队打造,两位实际控股股东都是陌陌公司的高管。

值得一提的是,ZAO的开发商显示为“长沙深度融合网络科技有限公司”,而陌陌创始人兼CEO唐岩本人就是湖南人。

不过,其实AI换脸视频并不是新鲜事了。

换脸技术七八年前就有了,比如电影《速度与激情7》里,保罗沃克就是用AI技术合成的,花费了千万美金。

但民间的换脸软件,因为逼真程度较差,反响一般。直到2017年12月,一名ID为Deepfakes的码农大牛,在Reddit网站上上传了一段“名人AV”视频。

当时,“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星,这也是世界上所有人们第一次公开见识到AI换脸的强大。

而他随后也制作了一系列“明星AV”合成视频。

但是很快就出现了问题。

比如DeepFakes把希拉里和特朗普做成夫妻的,把他俩脸做在一起的,把他俩做到色情片里的,玩法多种多样。

人们的智慧是无限的,只要有工具出来,就一定会给玩出花样来,而且早期的花样一定不够高尚而且低俗色情的。

由于尺度过大,Reddit论坛迫于压力封杀了“deepfakes”的账号,不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码——完全免费公开。

在代码开源后,AI换脸技术已经有如普罗米修斯盗来的火种,一瞬间撒遍了世界各地。

一下子人人都成了AI换脸专家。

▲景甜换脸AV

只要稍微懂一点技术的人,都可以使用他们的技术来套层壳来玩儿,ZAO也是诸多衍生APP之一。

ZAO运用的是Deepfake技术,但是Deepfake的相关App在国外因为道德、伦理和隐私问题已经被禁用;

但在我们国内,在这个色情网站都不敢触碰的AI禁区,ZAO却可以大张旗鼓的商业应用。

不知道玩ZAO的用户知不知道,在你玩这款APP的时候,自己脸部数据已经上传到企业服务器,可以卖钱的。

02

吃相难看的用户协议

因此,这款APP看似有一张有趣的皮囊,但其灵魂并不好看。

我们平时并不会多看上一眼的用户协议中的隐藏着巨大猫腻,以及让人无法接受的法律风险。

为什么我会这么说首先我们先来看看ZAO的用户协议。

用户协议第6条第1款是这样规定的:


这密密麻麻一大段话是什么意思呢?


意思是,当你选择使用这个app以后,根据协议内容,该app除了可免费使用并修改你的肖像,还可以将它任意授权给自己想授权的第三方,当做信息进行贩卖。


所以当有一天,你在ZAO或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候,你想起诉ZAO,不好意思,它会拿出这个协议来堵你的嘴,告诉你你自己早已同意。


其次,我们再来看看关于侵权的规定。第6条第2款明确规定:

image.png

这又是什么意思呢?


比如现在你将杨幂的脸换成自己的脸,你除了要保证自己永久、不可撤销地把自己的肖像免费给ZAO使用,还要保证杨幂同意ZAO及关联公司使用她的肖像...


但是问题来了,你又不认识杨幂,你怎么能确保?这不是在搞笑吗?


而它这么写,说白了,就是因为自己没钱拿到明星们的授权,为了日后侵权的问题,它通过这个协议,可以将锅甩给你们。


而在此情形下,协议第七条第7款规定:

image.png


这条意思就是延续上一条,如果杨幂状告ZAO,主张自己的肖像权被ZAO平台滥用,那ZAO完全可能说这不怪我,技术无罪,要怪就怪这些换你脸的用户,并且,即使ZAO承担了平台责任,其也完全可以起诉具体用户进行追偿。


对于这样的用户协议,我只能说吃相未免太难看了点,他们把自己的屁股擦得非常干净,将侵权的苦果全部甩给了用户。


所以,现在你们明白了吗?


你今天在网上换脸,觉得很开心,其实你在无形中,已经成了一名你最不齿的侵权人。


更惨的是,你的脸,也不再只属于你自己,它也归ZAO,及它想授权的所有人。


更感到后怕的是,截至我发这篇文章,已经不知有多少用户同意了这份吃相难看的协议,丧失了自己的肖像自主权。


而我选择将用户协议分析给你们,也只是希望你们能将这篇文章转发给所有对这个app感兴趣的人。


因为他们很有可能在不明所以的情况下,就对app进行了使用,同意了协议。


你可能以为只是在用户协议那点了个小小的勾,但你在点确定的一刹那,你已经无形之中丧失了很多本属于你自己的东西。


而这些东西,其实是你无比珍视的“脸面”。


03


AI技术的“潘多拉魔盒”

除了利用协议进行漂亮的肖像权风险的转嫁外,还有一个值得我们探讨的就是——


技术真的是无罪的,中立的吗?


似乎是,至少很多技术的开发者自己是这么认为的。


快播的王欣在法庭上那句“技术是无罪的”言犹在耳,谷歌的态度更具代表性和普遍性:重视道德责任,但如果对新技术严加限制,可能会让延缓开发出一些对人类有益的用途。


而DeepFakes的开源,更是打开了“人脸识别技术”的潘多拉魔盒。


这种无缝替换人脸的技术,在黑产可以玩出无数的花样。


例如诈骗,使用这项技术无缝把老人子女的脸融入视频中,不管是生病要钱,还是绑架,还是转账,都很容易骗到老人。


例如敲诈,使用这项技术把受害人脸加到一些黄色视频中,然后威胁不给钱就群发散布,实际上很多高利贷的催收就喜欢这么玩,只不过过去的P图不够震撼。

image.png


在这种情形下,如果研发人员说,他们不对技术的伦理负责,只想赚钱;如果使用者说,他们不想检讨技术的阴暗影响,只为好玩。


那么我们指望谁来促成技术、法规和使用需求的良性耦合呢?


2019年6月13日,美国众议院情报委员会召开关于人工智能深度伪造的听证会,公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。


这是美国众议院首次举办专门讨论深度伪造及其他类型的AI合成技术的听证会。


而未来,AI深度伪造会发展成什么样,给我们的生活造成什么影响,AI究竟是普罗米修斯的火种还是潘多拉的魔盒。


我们目前不得而知。

04


不容忽视的AI伦理

百度李彦宏曾经“大无畏”地说了实话——中国的互联网用户们“愿用隐私换方便”,而被口诛笔伐。


但是现在想想又何尝不是呢?


我们一边吐槽条款,一边抱着“反正这么多人用,暴露隐私也轮不到我”的心态,享受着软件带来的朋友圈流量、点赞、虚荣


我们正在渐渐的,忍受着各种APP窃取我们的短信、通讯录、照片,甚至是我们的位置。


我们允许它们偷听我们的谈话,偷偷的打开我们的摄像头,看看我们是否裸睡或者甜言蜜语。


我们更允许这款ZAO,要了我们的“脸面”,然后,满足我们意淫的快感,和所谓的“李现”进行虚拟对戏。


然后,在图了各种便利和爽快后,我们的“脸面”也被廉价的搜集了。我们在悄然不断的把我们所有的隐私都泄漏了。


你的一次次放纵和贪图方便,已经把你自己的“脸面”、“指纹”、“声波”、“心率”、“视网膜”、“基因”等等,都被廉价的贩卖给了大数据。

image.png


然后大数据比你自己还懂你。


引导你每次冲动的消费行为。


它控制你每次兴高采烈的点击购买。


它驱使你悄悄的贩卖自己一切可以贩卖的东西。


《天龙八部》里的扫地僧说,少林七十二绝技每练一技都需要相应的佛法才能化解,而要把七十二绝技学成于一身需要极高深的心法修为,萧峰和慕容复的老爸都因为偷学绝技但心法没跟上而深受其害。


技术发展日新月异,对人性的反噬潜移默化,人的修为跟得上AI吗?


昨天还是一键美颜,今天就能一键换脸,明天会不会一键生成个人虚拟形象?


现在,我们要为分辨色情视频中的明星的脸是不是合成的。


未来某刻,我们可能就得分辨眼前的人究竟是不是自己,究竟是不是亲人,而不是一个虚拟的合成。


看着朋友圈那一张张被换掉的脸,浮现出福柯在《词与物》结尾的话,“人将被抹去,如同海边沙滩上一张脸的形象那样被抹去。


在未来的AI年代,我们每个人最大的问题或许会是——


你是谁?

我又是谁?

———— End ————




推荐阅读

Dex2jar 和 jd-gui 的安装与使用图文教程

中标麒麟系统安装教程

中标麒麟系统U盘安装教程

三菱GX Developer安装教程

西门子GSD文件的安装与使用

西门子GSD文件是什么-干什么用的

Tags: 责任编辑:小黑游戏
plist编辑器 V3.2 破解版
类型:文件处理 大小:6.23M 版本: 时间:09-07
立即下载
'); })();