保護個人信息，護航數字經濟發展

　　給“算法應用”立規矩(網上中國)

　　使用某個應用程序後，它就能“猜”到你喜歡什麼，並且精準推送相關內容，滋生“信息繭房”、大數據“殺熟”等問題。這樣的情況最近終於開始有了改變。隨着國家網信辦等4部門聯合發佈的《互聯網信息服務算法推薦管理規定》近日正式施行，很多APP先後上線算法關閉鍵，允許用戶在後臺一鍵關閉“個性化推薦”。專家表示，要繼續壓實平臺責任，促進算法應用向上向善，讓算法更好地爲用戶服務，推動信息服務行業長遠、健康發展。

　　可一鍵關閉“個性化推薦”

　　通過參考互聯網上的“攻略”，北京的王女士最近終於將一款社交應用中的“個性化推薦”服務選項關閉，“再打開這個APP，感覺安心不少”。

　　王女士之所以下決心關掉“個性化推薦”服務，源於此前遇到的一些糟心經歷。她在這款應用裏曾發表過皮膚乾燥的言論，此後便在各個平臺不斷收到面部“保鮮”祕笈的文章、美容產品的推銷廣告，讓王女士不堪其擾。

　　在移動互聯網時代，每一個人都在生產“數據”。此前，這些“數據”被平臺以各種方式採集，然後通過算法分析出用戶行爲、習慣和喜好，進而精準地提供信息、娛樂、消費等各類服務。這種基於算法的技術創新在爲用戶提供精準信息服務的同時，也滋生出不少問題。

　　《互聯網信息服務算法推薦管理規定》(以下簡稱《管理規定》)近日正式施行，將算法推薦服務全面納入監管。《管理規定》提出，算法推薦服務提供者應當向用戶提供不針對其個人特徵的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。

　　《管理規定》出臺後，多家平臺先後上線算法關閉鍵，允許用戶在後臺一鍵關閉“個性化推薦”。用戶關閉“個性化推薦”後，平臺會根據內容的熱門程度進行分發，推送內容更加體現應用特色。很多網友表示，以前總是被“安排”看一些內容，關閉“個性化推薦”後，感覺看到了更廣闊的世界。

　　記者在體驗後發現，目前多數APP還是默認打開“個性化推薦”，要找到“個性化推薦”關閉鍵並不太容易。以一款電商應用爲例，需先後點擊進入數個頁面，然後在呈現的10多個選項裏找到“個性化推薦”的關閉按鈕。有用戶認爲，這樣的設置方式難言“便捷”，其目的是讓用戶“知難而退”。

　　關閉個性化推薦，是否意味着算法推薦技術走到盡頭?中國人民大學信息學院教授程絮森分析，隨着新規實施，如何使個性化推薦更加規範，是很大的挑戰，但也相應促進了各互聯網平臺的技術發展進步，有利於加速推進相關行業的數字化轉型與平臺經濟的健康發展。

　　合力推動產品向善

　　同樣的訂單，熟客比新客多付錢，被用戶質疑平臺利用算法模型進行大數據“殺熟”。《管理規定》提出，算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者公平交易的權利，不得根據消費者的偏好、交易習慣等特徵，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行爲。

　　中國信息安全研究院副院長左曉棟認爲，大數據“殺熟”等頑疾歸根結底是濫用用戶個人信息導致的。解決這類問題首先要在治理違法違規收集用戶個人信息上下功夫，其次要保障用戶的選擇權、刪除權等權益。

　　“刷短視頻、玩遊戲的時候，沒感覺時間過得很快，但每次放下手機，發現已經幾個小時過去了。”在上海一家企業工作的陳先生感慨，每次拿起手機娛樂時，感覺像中毒一樣停不下來。另有不少網友抱怨，當自己反覆瀏覽某件商品時，平臺就會顯示一連串促銷優惠信息，很多人因此盲目下單。

　　《管理規定》提出，算法推薦服務提供者應當定期審覈、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沉迷、過度消費等違反法律法規或者違背倫理道德的算法模型。

　　北京大學中國社會與發展研究中心主任邱澤奇對記者說，社會學把人們偏好的內容區分爲兩個理想類型，一類是理性的，類似於對人對事物的觀點，這種對“自我”的偏好是人類認知偏好的一部分，容易形成“信息繭房”效應或“迴音壁”效應;另一類是感性的，類似於對人對事物的情感，人們在情感上容易受到他人的感染，易產生“情緒傳染”效應。

　　邱澤奇認爲，在數字時代，諸多產品都是動態產品，需要根據交互數據對產品不斷進行優化迭代，通過產品升級、算法升級以滿足用戶需求。基於人類認知偏好的複雜性，企業除了承擔產品責任，還要承擔起相應社會責任，把用戶納入產品的開發、生產與服務中，通過政府、企業和用戶共同參與、建立相應規則，不斷推動產品向善、科技向善。

　　實現負責任的創新

　　近年來，一些企業利用算法註冊虛假賬號、僱傭網絡“水軍”，鼓動“飯圈”粉絲互撕謾罵、刷量控評;操縱干預熱搜、榜單或檢索結果排序;向未成年人推送不良內容……針對這些問題，《管理規定》提出“建立健全算法機制機理審覈、科技倫理審查、用戶註冊、信息發佈審覈等管理制度”“提供算法推薦服務，應當遵守法律法規，尊重社會公德和倫理，遵守商業道德和職業道德”等措施。

　　從更深層意義看，因算法技術創新而衍生的一系列問題涉及科技倫理。中共中央辦公廳、國務院辦公廳近日印發的《關於加強科技倫理治理的意見》提出，加強源頭治理，注重預防，將科技倫理要求貫穿科學研究、技術開發等科技活動全過程，促進科技活動與科技倫理協調發展、良性互動，實現負責任的創新。

　　中國社科院信息化研究中心主任姜奇平表示，從技術創新層面看，應推動算法技術回到正常軌道，比如單純基於人們的偏好推薦閱讀內容，錯誤之處在於對人的理解不足，把人理解成機器，沒有考慮到人還具有自由意志。從價值倫理層面看，哲學上的善和倫理的本質都源於自由意志，因此應該在技術創新過程中把人之爲人的一面、人和人的關係擺進技術裏考慮。

　　專家認爲，數字時代的算法技術創新應是一種負責任的創新，要進一步壓實平臺責任，確保科技活動符合科技倫理。只有堅持把消費者對信息服務的評判權置於採集權之上，才能更好把握個性化信息服務業態的發展方向，促進數字經濟高質量發展。

原標題：保護個人信息、護航數字經濟發展 給“算法應用”立規矩

值班主任：高原