澎湃新聞記者 邵文

當地時間10月6日，歐盟以377：248的投票結果通過一項在警察和司法部門使用人工智能系統的決議——禁止警方在公共場所使用面部識別技術，並對其使用AI進行預測性警務活動實施嚴格限制措施。

具體來說，歐盟的檢察官不應允許從遠處對公共空間中的人進行生物識別，例如通過帶有自動面部識別和其他生物識別程序的視頻監控。

歐洲議會在解釋該決議時表示，執法部門目前使用人工智能會帶來各種風險，包括決策不透明、歧視、隱私侵犯、個人數據保護面臨的挑戰、人類尊嚴以及言論和信息自由。

“這些潛在風險在執法和刑事司法領域加劇，因爲它們可能影響無罪推定、個人自由和安全以及有效補救和公平審判的基本權利，”歐洲議會表示。

除了呼籲禁止用於執法目的的面部識別外，該決議還呼籲永久禁止執法使用其他人類特徵的自動分析，例如步態、指紋、DNA、語音以及其他生物識別和行爲特徵。

根據該決議，基於人工智能的身份識別系統已經在更大程度上對少數民族、LGBTI人士、老年人和婦女進行了誤認，這在執法和司法部門尤其令人擔憂。議會的決議呼籲禁止人工智能協助司法決策——另一個極具爭議的領域，該領域已經應用了自動化，而這可能會鞏固和擴大刑事司法系統中的系統性偏見。

歐洲議會議員同意，人類操作員必須始終做出最終決定，並表示由人工智能驅動的系統監控的對象必須能夠獲得補救。他們還表示，爲了確保在使用基於人工智能的識別系統時維護基本權利，算法應該是透明的、可追溯的並有充分的記錄。他們呼籲公共當局儘可能使用開源軟件，以提高透明度。

歐洲議會議還針對一項有爭議的歐盟資助的研究項目——基於分析面部表情的“智能”測謊儀——iBorderCtrl項目，認爲其應該停止。

此外，決議還希望禁止試圖根據公民的行爲或個性，對公民的信用進行評分的社會評分系統。歐洲議會還明確表達了對Clearview AI等面部識別服務的擔憂，該服務擁有超過30億張從社交網絡和互聯網其他部分收集到的圖片的數據庫。

歐洲議會成員Petar Vitanov在決議通過後的聲明中表示：“人類的基本權利是無條件的。我們有史以來第一次呼籲暫停部署用於執法的面部識別系統，因爲該技術已被證明是無效的，並且經常導致歧視性結果。這份報告對所有歐洲公民來說都是一個巨大的勝利。”

早在今年4月，歐盟就曾提出監管人工智能技術高風險使用的立法草案——其中包括禁止社會評分和原則上禁止在公共場合使用遠程生物識別監控。

根據該法案，人工智能應用場景分爲“低、有限、高、不可接受”四個風險等級，等級越高的應用場景受到的限制越嚴格。對於人臉識別等所有遠距離生物識別系統都被認定爲高風險，並禁止執法部門在公共場合使用這一技術，除非發生兒童失蹤、恐怖襲擊、甄別犯罪分子等情況。如果有這樣的情況，也需得到司法部門授權。

聊天機器人等應用屬於有限風險。這些應用需要讓用戶知曉自己在與機器互動，並有權決定是否繼續或退出該進程。

基於人工智能的電子遊戲、垃圾郵件識別屬於低風險，則不做約束。