是的,看完《一羣變態鎖定觀看YouTube的孩童 我以前爲他們工作》這篇文章,走不開小姐後背都是冷汗。

這篇文章,據說是1月16日由知名微博用戶 @肉呆大魔王 率先通過微博發出來的。內容指稱,國外某些機構針對兒童,通過使用一些經典的動漫形象,如《冰雪奇緣》中的Elsa(艾莎)、漫威、驚奇漫畫中的蜘蛛俠、綠巨人和小丑等人物生產包含不適於兒童觀看的視頻內容。這些視頻包含了大量暴力、軟色情和驚悚等元素。

剛纔和姐姐談起這個話題,她也表示很後怕。前兩天我小外甥提及在補課的課間休息時,有孩子佔用老師的投影,在嗶哩嗶哩上放這些恐怖的動畫片。她沒看到具體內容,還以爲只是惡搞而已。

現在回頭想想,很慶幸從好無聊先生接觸動畫片開始,我就一直在旁邊陪伴。

陪伴主要做兩件事情:其一、判斷是否合適他觀看,包括片頭廣告(有的廣告比較不希望他接觸,需要幫助躲避);其二、控制觀看視頻的時長。

然而,你我都心知肚明,陪伴只能是一時的。你總有走不開的時候,孩子們總有長大的時候,最終需要自己面對各種問題,做出各種選擇。

焦慮感油然而生。兒童作爲被全社會認可的需要被保護的人羣,那麼作爲視頻的平臺方,是不是應該在少兒頻道的內容把控上做足預審措施?

Elsagate事件所概括的兒童邪典視頻(除了Elsa,關鍵詞還有蜘蛛俠、小豬佩奇、小丑、綠巨人、小丑、打針),爲什麼可以無界限地被“傳播”到國內?

目前根據知乎用戶@石帥娃Cool忘了愛所公開的求證/舉報信息裏,幾乎在愛奇藝、騰訊、快手、西瓜視頻(今日頭條旗下)、小米視頻、4399、12377、好看視頻等等視頻平臺上都曾發現過相關視頻。

我們才知道,原來只要小孩子想搜Elsa等知名卡通人物,就會被推薦各種變態視頻。

從一個母親的角度,從一個社會觀察者的角度,那篇文章,與隨後很多篇連續的追蹤,讓人意識到那麼幾個問題,是過去、現在和將來,都不能停止追問的。

其一、誰製作了兒童邪典視頻?

根據《一羣變態鎖定觀看YouTube的孩童,我以前爲他們工作》這篇文章(作者是動畫師),他打零工時所服務的企業,某個老闆講的是俄文。

國內呢?

實際上早在去年7月份,這一事件經美國媒體的揭露就已經轟動了全美。而隨後迫於壓力,YouTube 開始大規模下線視頻並且封禁賬號。到了去年11月份,YouTube 宣佈已經刪除了超過50個頻道、15 萬個視頻。

但萬萬沒想到的是,這些在外網已經遭到禁封的含有暴力和色情元素的兒童視頻竟然早在16年的時候就已經流入到了國內,並且在很短的時間內迅速在各大視頻網站傳播。

而在這其中,有一家公司叫“歡樂迪士尼”。它應該是國內最早一批漢化並製作上傳相關視頻的賬號之一。

其視頻在微博,優酷,愛奇藝等各大網站廣泛傳播。

這家公司的主體,是廣州胤鈞貿易有限公司。

是不是還有更多的國產“歡樂迪士尼”沒有被發現?

以現在的技術,如何主動去發現這些製作了含有暴力和色情內容的兒童視頻的企業,並懲戒之?

在目前傳媒被監管得愈發嚴格的今天,一個敏感詞瞬間會被刪稿,爲什麼邪典視頻卻能容許流傳得這麼廣這麼長時間?如果不是“肉呆大魔王”的微博,是不是這些視頻仍將流傳下去繼續危害少兒身心健康?

視頻網站平臺的審查員,注意力估計都在時政類敏感詞,而忽視了“兒童動畫”裏的流毒。

其二、算法主宰了人們注意力的今天,變態們有機可乘,我們又該如何防守?

很可怕的是,變態們很善於學習。他們所製作的兒童邪典視頻裏,紅、藍、黃、粉、綠、紫等飽和度高的視覺敏感色運用得特別多(讓人想起三原色幼兒園)。

甚至很多家長都不瞭解暴力色情+顏色代碼會給孩子帶去什麼影響?

是不是我們只有陪着孩子看動畫片這一條路?

批判的盡頭,肯定不能止於批判。這些不能只靠YouTube等視頻內容託管平臺,更要靠我們自己。

做點什麼!!

其三、YouTube最近有很多問題被曝光,算法雲雲,真的可靠嗎?

2016年年初以來,Facebook,Twitter和Reddit這類社交媒體平臺一直在高呼所謂的自由主義烏托邦。這是美國無管制互聯網的一個特色。

平臺類企業還有一個特色是,平臺託管大量內容,大量有問題的視頻沒有引發爭議,是因爲如果你不去搜索不會直接看到甚至不會知道它們的存在。可,那樣的視頻確實存在,且時刻準備着被人們發現。

只要一個孩子敲擊幾下鍵盤,它們就會出現。他會找到他以爲自己喜歡的視頻,同時算法會給他“鏈接”出很多很多。

據說,這是開放互聯網契約的一部分——我們其實知道網絡中存在着醜陋/危害,但我們中的大多數人並沒有去思考。

1月3日,YouTube的網紅,有1500萬粉絲的洛根·保羅(Logan Paul)在日本著名頂的“自殺森林”裏拍攝的自殺者遺體視頻 曝光,遭到了集體炮轟。保羅的頻道屬於 YouTube 旗下 Red 訂閱服務的一部分。

科技博客網站 BuzzFeed 最早披露,這段視頻先是被網友舉報有問題,但仍然在 1月1 日被 YouTube 批准發佈。

要知道,YouTube 的規定明確表示,“不準發佈充滿暴力或血腥的內容,這種內容主要是爲了譁衆取寵,聳人聽聞,或是不尊重人。”

那麼,Elsagate中涉及的暴力色情兒童視頻,都是怎麼通過YouTube的人工智能審查技術及內容審查人員之眼發出來的?

看起來該公司仍需要對當前審查方法進行更全面的調整。就更不要提國內的平臺了。是的,你可能會想到今日頭條的內容審查編輯要超過一萬人。這不是笑話。

或許,正如YouTube全站頻道訂閱量排名第一的網紅,粉絲數量超過5000萬的PewDiePie (真名是菲利克斯·卡爾伯格 Felix Kjellberg)在一段視頻中所說的那樣:“它裏面包含了 YouTube 自身存在的一切負面問題:點擊誘餌、譁衆取寵以及不斷挑戰人們極限的東西。終有一天,它只會給每個人帶來不利的影響。”

硅谷說“技術可以解決一切”,對Elsagate事件呢?如何通過技術解決?

我們究竟還能做點什麼?

END

相關文章