人们正在用换脸技术,把同学、朋友的脸合成色情视频

转载 Jan 20, 2020
文章转自微信公众号:地球人研究报
作者:你的外星小姨
这一天还是来了。

2017年12月开始,“神奇女侠”的扮演者盖尔加朵相关的情色视频开始在Reddit论坛流传。

人们半信半疑地点开视频后,不难发现视频中的盖尔·加朵的面部有很多不协调的地方,随着画面和人物动作的变化,她的面部轮廓忽大忽小,脸与头发的交界处也有明显不自然的乱码出现——显然,这是一个换脸视频。

但对它的传播者来说,实事并不重要。

发布这则视频的用户名叫Deepfakes,除了盖尔·加朵外,像斯嘉丽·约翰逊、麦茜·威廉姆斯等等的知名女星也都是他这份特殊趣味的试验品。

Deepfakes利用TensorFlow等开源的机器学习软件做技术支撑,把谷歌搜图、网站照片库和YouTube视频中采集来的人脸资料,加入到系统中深度学习。经过足够多的训练后,一个个女影星的面孔开始出现在各种情色片中。

几个月后,Deepfakes的账号被Reddit封禁,理由是违反了非自愿色情的条款。

但此时潘多拉魔盒已经开启,Deepfakes的尝试成了换脸色情片盛行的直接导火索,铺天盖地的换脸视频沿着他所走过的踪迹袭来。

当然,这也是今天各种便利换脸工具最初的灵感来源。

“因为它肯定会这样。”

借着色情带来的强大生产力,AI换脸技术在短时间内得到了迅速普及。

当第一批开发者涌入进行技术尝试的时候,换脸术还曾一度向着相对正常的方向发展。传播更广泛的,更多是一些明星换脸的恶搞视频,此时的换脸技术似乎还只是一个人畜无害的“数字化”娱乐手段。

但也因为这个时期人们更频繁的应用,技术人员经过大量的磨合,AI换脸也开始呈现越发成熟的趋势。

但这种成熟已经引发了一些科技人员的不安。

美国科技媒体The Verge当时在评价换脸技术的时候,曾有一番现在看来颇有远见的论述

“现在换脸技术生产的内容姑且还算健康的,但当它融入到主流社会中会发生什么?当它不仅针对名人,也针对普通公民时;当它被用来骚扰女性时(因为它肯定会),或者在学校中盛行时,又会发生什么?。

即使知道事情只会向越来越奇怪和糟糕的方向发展,但技术不会停下脚步。

不久后,另一位Reddit用户继承Deepfakes的衣钵,他用Deepfakes留下来的换脸程序算法开发出了更便捷的应用程序——FakeApp。

软件最初的版本有很多漏洞,面部抖动和乱码问题常会让画面显得很不真实,但这个工具的出现,已经意味着没有计算机学习背景的人也可以轻松创作换脸视频了。

用户通过FakeApp制作的AV视频

“最终,我希望将这款软件改进到这样的程度,每个普通用户都可以轻松把任何一个网上下载的人脸照片与视频里的面孔融合在一起,而整个过程只需要按下一键”——FakeApp的开发者在当时接受采访时如上描述着他的愿景,不知此时的他是否已经预见到接下来的那场风暴的到来。

FakeApp的开发者实现了他的愿景,技术壁垒消失后,大量用户涌入到FakeApp中。但普通用户参入的同时,换脸视频内容方向也开始渐渐失控,即便已经有预警,但该来的还是来了。

在FakeApp助力下,两个月后,换脸色情影片展开了全球爆发式增长。

就像The Verge当时所说的——“因为它肯定会这样。”

Gigazine2018年月新闻:AI制“知名女演员色情影片”暴增

越来越多的“新闻”

印度著名调查记者Rana Ayyub不幸成了换脸色情视频的受害者之一。

在谴责一个政党对强奸一名年轻女孩的可耻回应后,第二天一早,当Ayyub打开自己的新闻网站时,里面突然蹦出了大量的恐吓信息,其中还附带着Ayyub面孔的色情视频链接。

此时,Ayyub“出演”的色情视频已经在印度各大社交媒体上疯狂传播,视频后面还带有她的名字和电话号码,它们被观看了数十万次,Ayyub的手机开始频繁接到性骚扰的电话消息。

“整个国家都在看一个号称是我的色情视频,而我什么都做不了。”后来Ayyub回忆说。

Rana Ayyub

即使现在该视频被证实是伪造的,Ayyub仍然无法完全拜托这个梦魇。她无法消除对她声誉的损害,她害怕在社交媒体上引起更多关注。

“我一直在想,如果有人再对我做了什么怎么办?”

这样的“新闻”已经越来越多。

2017年底被评为英国最佳泥水匠、2018年获得年度建筑贸易业务奖的43岁女性Steph Leese,也遇到了类似的困扰。

因为性别原因,Steph泥水匠的工作常常遭到同行男性的性别歧视和排挤,这在她屡获行业大奖后更是遭遇了更强烈的报复。

此前Steph常遇到的只是有人向她家的信箱中塞狗食,贴侮辱性纸条等恶作剧。但不久前,她已经开始收到通过电子邮件发来的恐吓信,里面带着她10岁女儿的伪造色情影像的链接,而这些影像资料已经开始在当地社交媒体上流传。

斯蒂芬·里斯和她的女儿

Steph联系了警方,但被告知无能为力,因为那些影像资料是匿名发送的。

不管是Ayyub还是Steph,某种程度上作为公众人物的她们姑且还能向外界表达这些困扰,可以借助社会的力量帮她们弱化这些无端的纠缠。

但更多普通人的处境显然会更加麻烦。现在已经有大量用户正在用类似FakeApp的换脸工具,拿他们朋友、前辈、同学等发布在社交媒体上的照片资料,创建换脸的色情影片。

“上周我花了大部分时间来监控这些(换脸视频)社区,发现其中已经有成千上万的人参与制作类似的视频。”VICE的作者经过调查之后说道。

“在Discord的某个相关聊天室内,人们正在分享着自己创作的熟人换脸色情视频。一位用户表示,他制作了一张“相当不错”的视频,故事的主角是他高中班里的女同学。”

为了制作这个视频,他用了她Instagram和Facebook账号中的大约380张照片。

没有合适的法律保护

在已经开始显露出问题严重性的美国,人们已经开始四处寻找法律依据,试图对愈发严重的换脸视频问题谋求法律保护。

但《连线》杂志最近的一篇文章指出,几乎没有任何一条法律可以限制这种换脸视频的传播,文章中引用了一位法学教授的解释:“它处在法律的夹缝中,因为它哪边都不沾”。

ABC新闻曾报道深受换脸色情之害的17岁姑娘Noelle的故事

尽管经过多方控诉,使用Noelle面部肖像的色请视频依然在网络上传播着

一方面,类似的换脸视频侵权,似乎可以归类到网络色情视频中常见的非自愿情色(Nonconsensual Porn)的隐私侵权案例中。但事实上根据美国法律,这些经过换脸的视频是“虚假的”,视频中所暴露的不是受害人“真实的”生活状态,因此也就说不上是侵犯隐私。

而另一个方向的反诽谤法也行不通。因为受害人很难证明创作者打算让他们情绪低落。到目前为止,这些视频主要是为了创造者的乐趣而创造的,而不是对他们欲望对象的羞辱。

某网站大量的相关视频(图片来自《Huffpost》)

好在此前,未经对方许可制作一个人的换脸视频还是一件需要消耗足够成本的工作。

一个通过FakeApp制作过相关视频的用户称:如果只是几张私人照片的话,对FakeApp这种傻瓜式软件来说,是难以制作达到足够的真实性,除非他的头部,下巴,肤色等形状与视频中的角色都非常相似。

FakeApp失败案例

但是最近算法越来越精确,越来越便捷的的换脸软件出现后,相关的挑战显然会更加严峻了。

可是,再多的担忧也不会阻止技术的进步,更何况,一切都犹快播王欣曾在法庭上辩称的那样,“技术无罪”,可怕的终归还是那些别有用心的人。

结语

媒体Huffpost报导类似事件的时候提到过一个情景案例:

“在3月的一个繁忙的工作日,28岁的凯特感到有人在她的肩膀急促地拍了一下。她的同事想给她看一个视频,她瞥了一眼他的电脑,惊讶地看到她自己的脸向后仰着,畏缩着,呻吟着。她出现在屏幕上,一丝不挂地躺在沙发上,两腿悬空,一个男人在做着活塞运动。


凯特感到一阵恶心。她的同事们聚集在一起看发生了什么事,当他们看到视频时,立刻沉默了下来。它看起来很真实,甚至说出了凯特的名字,但她知道这不可能。除了显而易见的——她从来没有做过色情片——她能分辨出这不是她的身体,除了她的脸。这一定是某种骗局……但其他人会相信吗?”

如果同样的事情发生在你身上,他们会相信你吗?

部分资料来源:

Here’s What It’s Like To See Yourself In A Deepfake Porn Video——《Huffpost》

AIで有名女優のポルノ動画を作成するプログラマーが登場、まるでリアルのような完成度——《Gigazine》

People Are Using AI to Create Fake Porn of Their Friends and Classmates——《VICE》

People Can Put Your Face on Porn—and the Law Can't Help You——《Wired》

Tradeswoman is trolled online……Plasterer of the Year title——《Mail-online》
知识共享许可协议
本站文章除特别声明外,均采用 知识共享署名 - 非商业性使用 - 相同方式共享 4.0 国际许可协议 进行许可。
您的支持将鼓励我们继续创作!

Who Am I STEM Club

博罗中学 WAI 科技社官方账号

Great! You've successfully subscribed.
Great! Next, complete checkout for full access.
Welcome back! You've successfully signed in.
Success! Your account is fully activated, you now have access to all content.