疫情期間,社交軟件QQ推出了一款可用於“線上自習”的多人直播產品:QQ自習室。進入“QQ自習室”,網友可以分享自己的學習場景視頻,在評論區互動互相加油打氣等。

但在近日,澎湃新聞發現,在這樣一款以學生爲主要目標用戶羣體的產品中,有極少數用戶利用QQ自習室傳播淫穢色情內容。

針對這一情況,1月27日,QQ團隊作出回應,稱經自查發現確實存在少量惡意用戶發佈低俗內容及進行黑產引流。目前,QQ已經關閉了深夜自習室(23:00-8:00)的評論功能,提出進一步收緊評論尺度標準、提升用戶加好友門檻。

從產品功能來看,QQ自習室的使用羣體以學生爲主,進入QQ自習室可見,有大量中考、高考、考研爲主題的自習室。進入一個自習室後可“上麥自習”也可直接“入座自習”,在評論區與其他自習的網友交流,系統會記錄用戶自習的天數與時長。

澎湃新聞記者隨機進入一間自習室,評論區出現了爲淫穢色情引流的“暗語”:諸如“8.88”、“加羣”、“懂的加”,甚至有用戶主動問:“有東西嗎”,下面則有人回應稱:“私我”。

對於爲何未能及時識別這些疑似涉黃內容,QQ團隊稱這是“不同語義變化以及文本的變種對抗”導致的延遲打擊問題。據瞭解,QQ自習室評論有着髒字過濾系統,以及機器文本安全模型的識別,並採取了技術風控手段和人工巡查結合的方式,但專業黑產團伙在作惡時,會想辦法繞過平臺安全策略,發送擦邊評論內容進行引流。

在通過“暗語”吸引目標用戶後,黑產會引導用戶添加好友私聊的方式,進行色情內容傳播。

QQ方面表示,將通過提升用戶加好友門檻的方式,對於加好友實施涉黃引流進行打擊。可採用的方式有:加好友增加自習室用戶的打卡自習時長要求、非長期自習用戶不能加或者被加好友等。

但該方法能杜絕產品被黑產利用嗎?QQ團隊向澎湃新聞記者介紹,QQ鼓勵用戶在發現違規信息時,對相關違規賬戶進行舉報。“我們呼籲用戶增強信息安全意識,對違法違規帳號和行爲進行舉報,一旦發現並覈實立即封停。對於情節嚴重者,還將向司法機關舉報。”

(本文來自澎湃新聞,更多原創資訊請下載“澎湃新聞”APP)

相關文章