原標題：算法系統背後貓膩多 國家出手綜合治理算法推薦

《徵求意見稿》幾乎涵蓋了全部互聯網依靠算法提供服務作爲商業模式的公司，涉及基於算法傳播對內容平臺以及電商消費類平臺，並有多條內容對接《個人信息保護法》。

爲了規範互聯網信息服務算法推薦活動，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，促進互聯網信息服務健康發展，國家網信辦就《互聯網信息服務算法推薦管理規定（徵求意見稿）》（下稱《徵求意見稿》）公開徵求意見。

《徵求意見稿》幾乎涵蓋了全部互聯網依靠算法提供服務作爲商業模式的公司，涉及基於算法傳播對內容平臺以及電商消費類平臺，並有多條內容對接上週剛剛通過的《個人信息保護法》。

頭條抖音微博等算法驅動平臺全覆蓋

《徵求意見稿》所稱的應用算法推薦技術，是指應用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息內容。

根據《徵求意見稿》要求，算法推薦服務提供者應當定期審覈、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沉迷或者高額消費等違背公序良俗的算法模型。

算法推薦服務提供者應當加強信息內容管理，建立健全用於識別違法和不良信息的特徵庫，完善入庫標準、規則和程序。發現未作顯著標識的算法生成合成信息的，應當作出顯著標識後，方可繼續傳輸。

算法推薦服務提供者應當加強用戶模型和用戶標籤管理，完善記入用戶模型的興趣點規則，不得將違法和不良信息關鍵詞記入用戶興趣點或者作爲用戶標籤並據以推送信息內容，不得設置歧視性或者偏見性用戶標籤。

算法推薦服務提供者不得利用算法虛假註冊賬號、非法交易賬號、操縱用戶賬號，或者虛假點贊、評論、轉發、網頁導航等，實施流量造假、流量劫持；不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現，實施自我優待、不正當競爭、影響網絡輿論或者規避監管。

對此，上海大邦律師事務所高級合夥人遊雲庭對第一財經記者表示：“《互聯網信息服務算法推薦管理規定》是繼三大數據法，即《網絡安全法》、《數據安全法》和《個人信息保護法》，以及《互聯網信息服務管理辦法》頒佈後的一個自然延伸。”

他認爲，《徵求意見稿》對於算法推薦技術定義，幾乎涵蓋了全部互聯網依靠算法提供服務作爲商業模式的公司。“除了今日頭條和抖音這樣公認的算法驅動的平臺，以及美團、餓了麼這樣利用算法管理平臺的公司，也都受新規監管。”遊雲庭對第一財經記者表示。

“算法作爲數字世界的運轉規則，目前各大平臺還沒有建立合規、有效的存在算法倫理體系與機制，算法合規需要企業自制與協同監管相結合。”中國數字經濟百人會專家委員會委員柳峯對第一財經記者表示。

柳峯認爲，大多數用戶是很難對企業的算法做出判斷，用戶可以控制的是算法的知情權和選擇權，也就是選擇打開或者關閉算法推薦。他強調，應該對算法應用進行綜合性的系統治理。

“在國家出臺規定的基礎上，應該對平臺型企業要求其進行算法合規的倫理審覈；第二步是企業可以在保密具體算法的基礎上，給對通過自我審覈的算法進行登記備案；最後監管部門可以通過接受舉報調查或者抽查的方式，對算法倫理以及算法合規進行有效規制。”柳峯對第一財經記者表示。

今年1月，中國消費者協會提出加強網絡消費領域算法規制，保障消費者知情權、選擇權和公平交易權。

中消協認爲，網絡消費領域不公平現象的核心是互聯網平臺對算法技術的應用。“算法本身是一種技術手段，經營者可以利用算法提升經營效率，爲消費者提供更豐富、更優良的產品和服務，也可以利用算法鑽法律的漏洞，實施違法違規行爲，侵害消費者的合法權益。”中消協表示。

中消協還稱，消費領域的不公平算法應用，具有技術性和隱蔽性的特點，潛移默化地影響消費者的購買決策。這不利於市場經濟的公平有序競爭，也會是消費者面臨數據算法的壓榨，成爲技術欺凌的對象，甚至被算法扭曲價值取向和道德觀念，淪爲平臺經營者的掌中“玩物”。

多條規定對接《個保法》

在這份最新的《徵求意見稿》中，要求算法推薦服務提供者應當以顯著方式告知用戶其提供算法推薦服務的情況，並以適當方式公示算法推薦服務的基本原理、目的意圖、運行機制等。

具體而言，算法推薦服務提供者應當向用戶提供不針對其個人特徵的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。算法推薦服務提供者還應當向用戶提供選擇、修改或者刪除用於算法推薦服務的用戶標籤的功能。

對此，遊雲庭對第一財經記者表示：“這條適合與《個人信息保護法》對接，並補充了用戶如果認爲算法對其權益造成重大影響的，有權要求算法推薦服務提供者予以說明並採取相應改進或者補救措施。”

在上週人大通過的《個人信息保護法》中就已明確規定：“個人信息處理者利用個人信息進行自動化決策，應當保證決策的透明度和結果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇。”

個性化是用戶選擇的結果，真正的個性化推薦必須確保用戶的選擇自由，而不是強迫，因此，必須賦予用戶不使用個性化推薦功能的權利。

這意味着，一方面經營者應當按照法律規定，遵循公開、公平、公正的原則設定算法模型、制定自動化決策的規則，不得對消費者實行歧視性的不公平的差別待遇；另一方面，個人信息處理者應當保障消費者的知情權和選擇權，向個人進行信息推送、商業營銷時，應當同時提供不針對其個人特徵的選項，或者向個人提供便捷的拒絕方式。

《徵求意見稿》還涉及電子商務類企業，要求算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者合法權益，不得根據消費者的偏好、交易習慣等特徵，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行爲。

“這條也對接《個人信息保護法》以及《電子商務法》要求不得大數據殺熟。”遊雲庭對第一財經記者表示。

“‘大數據殺熟’行爲違反了誠實信用原則，侵犯了消費者權益保護法規定的消費者享有公平交易條件的權利，應當在法律上予以禁止。”全國人大常委會法工委經濟法室副主任楊合慶近日在對《個人信息保護法》進行解讀時說道。

在談到歧視定價的問題時，段和段律師事務所合夥人劉春泉對第一財經記者表示：“市場競爭充分要依靠反壟斷法和反不正當競爭法，用監管力量抵消資本和超級平臺對市場競爭的抑制作用。現在的一些問題不見得是缺乏法律，而是管轄不明確，未來需要明確進一步管轄的問題。”

《徵求意見稿》還規定了未成年人的保護條款。不得向未成年人推送可能引發模仿不安全行爲和違反社會公德行爲，誘導未成年人不良嗜好等可能影響未成年人身心健康的內容，以及不得利用算法推薦服務，誘導未成年人沉迷網絡。

此條也與《個人信息保護法》的規定對應。在《個人信息保護法》中提到，考慮到少年兒童在生理上和心理上尚不成熟，認知能力和控制自己行爲的能力都較弱，容易受到信息推送和商業營銷的誘導，《個人信息保護法》特別將不滿十四周歲未成年人的個人信息確定爲敏感個人信息予以嚴格保護。

責任編輯：劉萬里 SF014