是的,看完《一群变态锁定观看YouTube的孩童 我以前为他们工作》这篇文章,走不开小姐后背都是冷汗。

这篇文章,据说是1月16日由知名微博用户 @肉呆大魔王 率先通过微博发出来的。内容指称,国外某些机构针对儿童,通过使用一些经典的动漫形象,如《冰雪奇缘》中的Elsa(艾莎)、漫威、惊奇漫画中的蜘蛛侠、绿巨人和小丑等人物生产包含不适于儿童观看的视频内容。这些视频包含了大量暴力、软色情和惊悚等元素。

刚才和姐姐谈起这个话题,她也表示很后怕。前两天我小外甥提及在补课的课间休息时,有孩子占用老师的投影,在哔哩哔哩上放这些恐怖的动画片。她没看到具体内容,还以为只是恶搞而已。

现在回头想想,很庆幸从好无聊先生接触动画片开始,我就一直在旁边陪伴。

陪伴主要做两件事情:其一、判断是否合适他观看,包括片头广告(有的广告比较不希望他接触,需要帮助躲避);其二、控制观看视频的时长。

然而,你我都心知肚明,陪伴只能是一时的。你总有走不开的时候,孩子们总有长大的时候,最终需要自己面对各种问题,做出各种选择。

焦虑感油然而生。儿童作为被全社会认可的需要被保护的人群,那么作为视频的平台方,是不是应该在少儿频道的内容把控上做足预审措施?

Elsagate事件所概括的儿童邪典视频(除了Elsa,关键词还有蜘蛛侠、小猪佩奇、小丑、绿巨人、小丑、打针),为什么可以无界限地被“传播”到国内?

目前根据知乎用户@石帅娃Cool忘了爱所公开的求证/举报信息里,几乎在爱奇艺、腾讯、快手、西瓜视频(今日头条旗下)、小米视频、4399、12377、好看视频等等视频平台上都曾发现过相关视频。

我们才知道,原来只要小孩子想搜Elsa等知名卡通人物,就会被推荐各种变态视频。

从一个母亲的角度,从一个社会观察者的角度,那篇文章,与随后很多篇连续的追踪,让人意识到那么几个问题,是过去、现在和将来,都不能停止追问的。

其一、谁制作了儿童邪典视频?

根据《一群变态锁定观看YouTube的孩童,我以前为他们工作》这篇文章(作者是动画师),他打零工时所服务的企业,某个老板讲的是俄文。

国内呢?

实际上早在去年7月份,这一事件经美国媒体的揭露就已经轰动了全美。而随后迫于压力,YouTube 开始大规模下线视频并且封禁账号。到了去年11月份,YouTube 宣布已经删除了超过50个频道、15 万个视频。

但万万没想到的是,这些在外网已经遭到禁封的含有暴力和色情元素的儿童视频竟然早在16年的时候就已经流入到了国内,并且在很短的时间内迅速在各大视频网站传播。

而在这其中,有一家公司叫“欢乐迪士尼”。它应该是国内最早一批汉化并制作上传相关视频的账号之一。

其视频在微博,优酷,爱奇艺等各大网站广泛传播。

这家公司的主体,是广州胤钧贸易有限公司。

是不是还有更多的国产“欢乐迪士尼”没有被发现?

以现在的技术,如何主动去发现这些制作了含有暴力和色情内容的儿童视频的企业,并惩戒之?

在目前传媒被监管得愈发严格的今天,一个敏感词瞬间会被删稿,为什么邪典视频却能容许流传得这么广这么长时间?如果不是“肉呆大魔王”的微博,是不是这些视频仍将流传下去继续危害少儿身心健康?

视频网站平台的审查员,注意力估计都在时政类敏感词,而忽视了“儿童动画”里的流毒。

其二、算法主宰了人们注意力的今天,变态们有机可乘,我们又该如何防守?

很可怕的是,变态们很善于学习。他们所制作的儿童邪典视频里,红、蓝、黄、粉、绿、紫等饱和度高的视觉敏感色运用得特别多(让人想起三原色幼儿园)。

甚至很多家长都不了解暴力色情+颜色代码会给孩子带去什么影响?

是不是我们只有陪着孩子看动画片这一条路?

批判的尽头,肯定不能止于批判。这些不能只靠YouTube等视频内容托管平台,更要靠我们自己。

做点什么!!

其三、YouTube最近有很多问题被曝光,算法云云,真的可靠吗?

2016年年初以来,Facebook,Twitter和Reddit这类社交媒体平台一直在高呼所谓的自由主义乌托邦。这是美国无管制互联网的一个特色。

平台类企业还有一个特色是,平台托管大量内容,大量有问题的视频没有引发争议,是因为如果你不去搜索不会直接看到甚至不会知道它们的存在。可,那样的视频确实存在,且时刻准备着被人们发现。

只要一个孩子敲击几下键盘,它们就会出现。他会找到他以为自己喜欢的视频,同时算法会给他“链接”出很多很多。

据说,这是开放互联网契约的一部分——我们其实知道网络中存在着丑陋/危害,但我们中的大多数人并没有去思考。

1月3日,YouTube的网红,有1500万粉丝的洛根·保罗(Logan Paul)在日本著名顶的“自杀森林”里拍摄的自杀者遗体视频 曝光,遭到了集体炮轰。保罗的频道属于 YouTube 旗下 Red 订阅服务的一部分。

科技博客网站 BuzzFeed 最早披露,这段视频先是被网友举报有问题,但仍然在 1月1 日被 YouTube 批准发布。

要知道,YouTube 的规定明确表示,“不准发布充满暴力或血腥的内容,这种内容主要是为了哗众取宠,耸人听闻,或是不尊重人。”

那么,Elsagate中涉及的暴力色情儿童视频,都是怎么通过YouTube的人工智能审查技术及内容审查人员之眼发出来的?

看起来该公司仍需要对当前审查方法进行更全面的调整。就更不要提国内的平台了。是的,你可能会想到今日头条的内容审查编辑要超过一万人。这不是笑话。

或许,正如YouTube全站频道订阅量排名第一的网红,粉丝数量超过5000万的PewDiePie (真名是菲利克斯·卡尔伯格 Felix Kjellberg)在一段视频中所说的那样:“它里面包含了 YouTube 自身存在的一切负面问题:点击诱饵、哗众取宠以及不断挑战人们极限的东西。终有一天,它只会给每个人带来不利的影响。”

硅谷说“技术可以解决一切”,对Elsagate事件呢?如何通过技术解决?

我们究竟还能做点什么?

END

相关文章