神创天陆活动专区

“原谅宝”卷土重来,人们为何愤怒?

去年,一个被称为“原谅宝”的产品构思曾引发广泛的网络关注。事情起源于 5 月,微博用户“将记忆深埋”发帖表示,他与其他朋友利用半年的时间建立了一种算法,将成人影片和视频中的女性与社交媒体资料图片进行匹配,以识别这些女性的身份,并已经在全球范围内成功识别 10 多万名女性。

更早一条微博中,他曾声称,此举目的是帮助程序员检验女朋友是否从事过色情行业,避免成为“接盘侠”。

事情在经由 Vice 的科技版 Motherboard 报道后进一步发酵。该博主也收到大量指责和声讨,不仅一度将微博更名,还对外宣布执行数据删除命令,将 100 多 TB 的数据彻底清空。

但近日,有网友发现,这个账户又将微博改回原名,并时隔一年,宣布平台即将上线。似乎也知道“原谅”一词所含的恶意,这个 2.0 版本有一个新的名字 ICEYE 。前后文中,这位博主表示,因疫情影响导致公司缺乏流动资金,而“被迫”决定将这个平台发布并进行收费——起初为定价 $19.99 ,后来宣布涨价到 $199.99 (约 1415 元)。

“我知道会不好,但我没得选择! ​​​​”这个微博账户中这样写道。但从后续的言论以及对于外界批评的回应看来,他并不真的了解这个产品“不好”在何处。

根据微博中的说明,新版本使用的技术似乎与之前无异,但更强调本人查询,“只能自己查询或现场征得对方同意后查询”,具体实现的方式是要求 eID 或面部活体识别作为验证。

这个说法其实在去年被大举声讨后,就被有所提及。当时他曾一改最初的言论,表示产品的意图其实是为了帮助女性检查自己是否被偷拍,非自愿地出现在色情网站上,以便对网站发起移除请求。

但人们并没有买账。隐私倡导者认为,这种工具拥有“可怕的前景”,可能导致对现任和前任色情表演者的骚扰和威胁,包括那些使用化名的从业者,并鼓励复仇色情。

所谓“原谅宝”,背后的技术并不新颖,并且在全球范围内,已经受到过好几轮的争议。2017 年, Pornhub 宣布它正在使用机器学习和面部识别来检测整个网站上的 10000 多名色情明星,以便用户更容易找到他们喜欢的内容。当时, Motherboard 就评价认为这是一个等待发生的隐私梦魇。

2016 年,俄罗斯开发商 Trinity Digital 推出的 Findface ,将面部识别软件与神经网络相结合,让人们更容易找到他人的社交网络账号。这个初始目的为“帮助人们更好地找到朋友”的程序,很快就遭到了滥用,成为一些用户骚扰匿名成人影片演员和其家人的工具。

似乎是为了回应外界的质疑,这位博主一再强调,会公布用户使用协议和隐私保护条款,还表示会推出男性版本,运用动作和声纹识别,来检测在色情影片中往往不露脸的男性。在最新的一条微博中,他发出连续的问句,“难道这个技术没有向善的可能”,“到底触犯了谁的利益”。

但在 ICEYE 这个平台正式上线之前,外界都只能凭这位博主的一面之辞来猜测它的运作机制;即便上线之后,对于对技术了解甚少的一般人,也很难判断它是否存在功能的漏洞,以及是否有信息泄露的可能。

从这个角度看来,人们对它的不信任乃至愤懑都情有可原。过去十年中,数字技术的全面铺开,形成了一种新的权力再分配。了解并掌握技术的人,拥有能够俯瞰众生的上帝视角;而绝大多数技术的使用者,几乎对自己面对的盒子一无所知,只能任由自己的信息被采集,行动被分析,在享受“美丽新世界”的同时变成一个个裸奔的数据点。

正是如此,掌握技术的人更应当为此格外小心,并不断审视自己,如何不滥用这样强大的权力。而不是包着合法和“为了活下去”的外衣,发出天真的质问。

说到底,人们是否真的需要这么一个工具?在博主的“复出”微博下,难以见到任何为这样的平台存在而欢呼的女性,却出现了大量带着歧视性和侮辱性词汇的“厌女”言论。其所吸引来的话语对于受害者来说,也是一种二次伤害。

仅从目前的情报来看,这个平台的风险都远大于潜在的收益,不仅些许的用户泄露都会造成灾难性后果,当事的女性或者男性还很可能被另一半施压,要求使用这个工具以获取对方的信任。

在这个利益链条中,这些录像被发布到网络上的女性或者男性,被拍摄、剥削,甚至勒索、羞辱,最终还要付出 $199.99 的价格,以求得录像的删除下架,始终是极其被动的。这样的工具并没有跳出羞辱性的话语,甚至加重了它。它再次强调了被性羞辱的人应该躲在暗处,张皇失措地将视频找出下架,以保全自己的“清白”形象。最终,只是让这个链条变得更加完整。

2017 年,澳大利亚著名音乐人 Sia 曾得知自己被偷拍裸照并在市面上流传。她没有选择找到货源买断,或紧急辟谣图片中的不是自己,而是在个人 Twitter 上自行把照片发了出来,并配文:“显然,有人想把我的裸照卖给我的粉丝。 省点钱吧朋友们,这是免费的。 每天都是圣诞节!”

类似的事情也发生在美国女演员贝拉·索恩的身上,在被人以裸照威胁勒索之后,贝拉自行先一步在网上发布了这些照片。她写道: “去他妈的,你以为你有什么权力凌驾于我之上。”

虽然大部分面临相似情境的人,都很难通过这样的方式摆脱困境和骚扰,但她们的举动释放出一个有力的信息,即任何人无权干涉个体支配自己身体的自由。

在去年针对“原谅宝”的评论文章里,伦敦政经的性别研究博士 Nicole Shephard 曾写道,实践中,色情视频的存在很少是主要的问题,受害者面临的最大困境是信息泄露后的人身安全,随之而来的骚扰浪潮,以及试图处理这一切而带来的内心创伤。

在整个中国社会对性别问题认知仍严重不足的时候,可以善意地猜测,这个平台的发明者也并不理解它真正的潜在危害是什么。那么作为公众,是否就应当反思,是不是要承认和鼓励这样的权力使用?

“技术向善”不是一句空洞的承诺,向善的前提是受到监管,前提是知道何为恶,而何又为善。