澎湃新聞記者 邵文

作爲人工智能領域最具商業價值的技術方向，人臉識別在安防、金融、交通、教育等關鍵領域實現了廣泛應用，但在技術層和應用層仍面臨安全挑戰，漏洞攻擊、數據泄漏、技術濫用等問題，屢屢成爲社會焦點。

1月18日，首個面向人臉識別系統安全性的國家級檢測與評估結果在國家工業信息安全發展研究中心主辦的人工智能融合發展與安全應用研討會上發佈，騰訊雲、京東科技、商湯科技、曠視科技、海康威視、的盧深視成爲首批通過測評的企業，國家工信發展研究中心副主任何小龍現場爲企業頒發證書。

這項檢測由國家語音及圖像識別產品質量檢驗檢測中心（以下簡稱“AI國檢中心”）完成。作爲人工智能領域的國家級第三方檢驗檢測機構，AI國檢中心就人臉識別系統安全啓動測評工作，對市場主流人臉識別系統開展測試評估，規範人臉識別產業健康發展。

據悉，這是依據《信息安全技術人臉比對模型安全技術規範》《信息技術生物特徵識別人臉識別系統技術要求》等現行和在研的有關國家和行業標準，通過呈現攻擊、注入攻擊等技術手段對對人臉識別產品和服務進行全方面的測試，有效評估人臉識別安全風險。

同時，爲進一步推進國檢中心建設高質量開展，優化資源配置，強化人工智能領域佈局，國檢中心成立專家委員會，邀請語音、圖像、數據治理、安全等人工智能重點領域的多位專家學者、企業家擔任中心的思想庫和智囊團，未來持續推進技術研發、標準制定、政策研究等相關工作，促進人工智能產業高質量發展。

國家工信安全中心人工智能所副所長 劉永東

國家工信安全中心人工智能所副所長劉永東介紹道，人臉識別系統安全風險主要涵蓋算法安全、數據安全和應用軟件安全等維度。本次測評對人臉識別系統的安全風險提供明確的測試方法，包括算法層面的活體檢測+假體攻擊、對抗樣本攻擊等呈現和注入攻擊檢測。

目前，對人臉識別技術的規範和管理早已成爲全球關注的重點。美國、歐盟相繼推出《人臉識別和生物特徵識別技術禁令法案》《通用數據保護條例》等監管政策，同時主導多項人臉識別國際標準。在全球共識下，我國重點提出發展與安全並重的理念，多措並舉推進人臉安全應用，逐步牽頭引領部分標準制訂，在公安和金融等領域先行構建規範。本次測評工作將爲進一步完善人臉識別標準體系、推動產業規範發展提供有力支撐，本次通過測評的企業也將參與後續的標準編制。

本次測評工作也存在一些改善項。國家工信安全中心人工智能所圖像檢測室負責人朱倩倩表示，人臉識別系統的安全評估，不應用一個尺度來衡量，比如門禁閘機、手機登錄、金融支付等身份認證場景對安全性要求不同，從技術角度，安全性判定規則也應加以區分，以及不同測試樣本間的測試結果也存在差異。她建議，進一步打造更細化的評測體系，包括按照不同場景、不同功能、不同應用階段劃分安全等級，對測試樣本分級分類，保證在同一基準上衡量安全能力。

　　國家工信安全中心人工智能所圖像檢測室負責人 朱倩倩

同時，由於人臉識別技術採用大數據訓練的方法實現，目前安全測試項未全部涵蓋，只通過呈現攻擊的方式做檢測，樣本量有限，導致不能完全覆蓋各種不安全情況。因此，檢測手段與技術水平也需加快跟進。朱倩倩表示，加快研發自動化測試工具，研究測試樣本差異，爲企業提供高水準測試服務，幫助企業精準定位安全問題，提出改進及優化建議。

保障人工智能安全應用是一項系統工程，爲人臉識別技術加裝“安全鎖”，除了開展測評與研製標準之外，還須從政策監管、技術攻關、合規建設等方面綜合發力，加強人臉識別系統的安全管控。

瑞萊智慧高級副總裁 朱萌

從加強技術應對的角度，瑞萊智慧高級副總裁朱萌提出兼顧“主動”和“被動”的技術防禦機制，被動防禦是爲人臉應用部署靜態的安全能力，比如人臉AI防火牆，對外部訪問、輸入數據、行爲決策等進行檢測，提升人臉系統抵禦攻擊的能力。主動防禦則是引入和強化安全團隊力量，比如打造攻防演練靶場，幫助企業構建自適應、自生長的安全能力。

最後，人臉識別具有高度的社會屬性，應在法治框架下開展協同治理。如何貫徹落實法規政策的要求，朱萌表示，技術廠商可聯手律師事務所，針對數字經濟時代新場景下監管機構的合規要求，對內健全技術合規體系建設，對外輸出應用合規諮詢服務，比如培育數據安全諮詢、數據保護設計與數據安全管理等服務，從技術流程和業務流程的角度提供完整的安全保障解決方案。