知乎運營總監孫達雲

中國網科技6月25日訊 (記者 單徵宇)如何整治網絡暴力、處理網上有害不良信息、謠言等問題近日有了最新動向。中國網科技從知乎方面瞭解到，隨着專注於知乎社區治理的算法機器人“瓦力”推向市場，未來人們用AI技術來建立起一個規範的互聯網社交環境指日可期。

“瓦力”是一種價值觀

“腦回路真奇特”、“你是村裏來的沒見過高樓大廈吧”……這些留言在各大互聯網社交平臺上隨處可見。24日，知乎在798舉辦的“陰陽怪氣”主題書法展上，特意將這些評論以書法作品的形式貼在牆上進行展出。

對於這一做法，知乎對中國網科技透露，網絡上很多人會不注重社交禮儀的重要性，不講究語言分寸，一旦不認同別人的觀點，就用這樣“陰陽怪氣”的語言攻擊對方。知乎希望通過這種形式，來激發大家對建立網絡社交禮儀的關注。

記者調查發現，不僅是知乎一家平臺，虎撲、天涯社區乃至微博等均有用戶反映，會受到因別人用“陰陽怪氣”的留言給自己帶來的困擾和焦慮。這些行爲雖然不違法，但卻會破壞平臺的網絡社區文明秩序，甚至對熱點新聞會形成錯誤的輿論導向。

問題如何解決？據知乎內容質量團隊技術負責人劉兆來介紹，知乎將通過算法機器人“瓦力”來應對這一問題。他稱，“瓦力”可通過AI技術實現可實時識別和處理不友善、答非所問和垃圾廣告導流信息。而經過技術升級之後，“瓦力”則可以實現對“陰陽怪氣”內容的識別，並對內容做相應處理。

據瞭解，留言“陰陽怪氣”，是指用戶以反諷方式攻擊他人，並影響正常的討論秩序的行爲。但中國網科技注意到，對於用戶是否發表出“陰陽怪氣”的言論目前卻很難界定，據知乎方面透露，在過去7年，大量用戶舉報等行爲，使得知乎積累了豐富的帶有用戶篩查性質的行爲語料，並沉澱了豐富的社區管理經驗，這些都幫助“瓦力”去學習，最終做到用社區最大公約數(大部分用戶都認可的一個尺度)來作爲“陰陽怪氣”言論的判定尺度。

知乎運營總監孫達雲表示：“目前‘瓦力’對陰陽怪氣評論文本的識別準確率比很多人工判斷都更準。”

據悉，知乎近期會讓用戶自由選擇是否開啓“瓦力”智能過濾，讓陰陽怪氣識別技術進入產品化嘗試。而在接受中國網科技針對專訪時，孫達雲對記者稱，知乎投入大量精力將AI技術運用到治理社區網絡暴力、違法有害信息等問題上來，就是知乎對AI技術上的選擇。他說：“知乎不會用低俗內容吸引用戶流量，而是更希望給用戶更好的討論氛圍，提供更多有價值的信息，所以“瓦力”也是知乎在AI算法上的價值取向。”

期望建立“網絡社交禮儀”

如今，內容平臺在“AI+內容”上的運營嘗試多從推薦閱讀的方向上切入，但在孫達雲看來，知乎在“AI+內容”的運營上更爲全面，在運用AI技術治理網絡暴力這方面投入的精力更多。

孫達雲對記者稱，知乎的競爭優勢，就是知乎社區的氛圍價值，這也是爲何知乎在治理網絡暴力，塑造網絡留言規範上的投入精力超過其他內容平臺的原因之一。知乎不僅是內容平臺，更是一個用戶社區，用戶在社區裏面的行爲、彼此之間的交互、互動的使用體驗非常重要。

值得注意的是，被記者問及下一階段是否會將“瓦力”應用進一步做商業化推廣，選擇與其他內容平臺合作，孫達雲對記者說：“這是知乎的願景，未來非常願意把它變成一個互聯網社交禮儀、討論禮儀”

據孫達雲介紹，知乎在商業化運營上有兩個非常明顯的特徵：一是對網絡謾罵零容忍，二是重視維護用戶的內容版權。而從這幾年互聯網發展時間線來看，包括微信公衆號在內等越來越多的平臺，都在和知乎一樣，重視這兩個特徵給平臺帶來的價值，並一同加入進來維護用戶內容版權，治理網上謾罵的行爲。

孫達雲表示：“所以說，如果能有更多同行參與進來，有更多科研機構甚至業界專家來討論AI治理網絡暴力話題，這對中國互聯網甚至世界互聯網的治理都有非常大的作用。”

相關文章