歡迎關注“創事記”的微信訂閱號:sinachuangshiji 

文/唐亞華  

來源:深燃(ID:shenrancaijing)

1月28日,一份河南鶴壁高中“違紀情況通報”在社交平臺流傳並引發巨大爭議。該通報公佈的是學校高三年級學生1月18日-1月24日的違紀情況,內容這樣寫到:3班XXX上課睡覺、4班XXX在抹護手霜、5班XXX考試睡覺、7班XXX向別人傳爆米花……

讓人哭笑不得的是,“頭髮像窗簾一樣擋住臉,手也不動,好像睡着了”、“在紙條上羅列明星”、“坐姿不端”、“腿上蓋棉襖”、“哈欠不斷”、“認真摳手”、“上課5分鐘還沒有進入狀態”、“閉目養神,未聽課動筆”……這些內容也被列入違紀行列。

這份通報引發人們對於學生在校被監控這個話題的熱烈討論。雖然學校回應稱,經查,年級管理不規範,已作出嚴肅批評並責令年級主任對學生和家長公開道歉,但是,教學監控還是引發了人們的質疑和擔心。

事實上,教學監控一直是近年來的熱詞。隨着智慧校園的建設,“AI+教育”創業大潮的推進,企業針對校園提供的AI人臉識別、智能手環、智能頭箍、智能校服層出不窮,圍繞學生行爲、表情,甚至是大腦活動的檢測都已進入校園。在這個千億市場上掘金的企業越來越多。

但學校打着“爲孩子好”的旗號,監控學生的一舉一動,分析學生行爲甚至表情,動輒發給老師、家長,甚至在網上公開通報批評,真的不侵犯學生隱私嗎?抓住需求拓展市場的企業劇增,監控學生,應該成爲一門生意嗎?

人臉識別、手環、頭箍、智能校服

科技監控花式進校園

1月27日,名爲“鶴壁高中2021屆”的微信公衆號發佈文章《1月18日-1月24日違紀情況通報》,迅速引發關注。“河南鶴壁高中實名通報學生課堂違紀”的微博話題引起了六十多萬討論,有人“爲腿上放棉襖的同學伸冤”,有人評價“現在小孩讀書就像服刑一樣”,也有人指出“違紀通報本身並沒有什麼問題,但最好侷限在校內”,甚至有人提議“也給領導辦公室裝監控,上班玩手機的一律通報”。

在文章火速傳播的過程中,該公衆號於1月28日下午刪除了文章,並註銷了賬號。深燃多次致電該校官網上的電話,截至發稿前無人接聽。

當天下午,鶴壁學校高三年級相關負責人回應紅星新聞稱,該公衆號爲年級內部公衆號,關注者只有幾百人,學校強調了要提高課堂效率,減少學生課堂小動作,但也僅僅有這一次通報。該負責人還強調,是老師去了解學生情況的時候發現的,不會採用監控設備。

隨後,鶴壁高中官方公衆號上發佈了一則通報表示,學校經查發現年級在此事上方法不當、管理不規範的問題,對相關責任人進行嚴肅批評教育並對學生及家長進行公開致歉。

無獨有偶,寒假即將到來,有學生反映學校強制他們保持“朝五晚十”的作息時間,還要全體開着在線會議軟件“釘釘”,學生的手、本子、卷子、臉必須要露出,必須要穿校服,否則按違紀處理。有學生反饋:“因爲有攝像頭拍攝,即便父母在身邊,也不能和他們好好地待在一起。”

事實上,近年來,每隔一段時間,就有教學過度監控的事件引發熱議。

不少“AI+教育”的項目,能夠提供智能課堂行爲分析系統,運用如姿態評估、表情識別、語言識別、關鍵詞匹配等技術,來對課堂教學過程進行定量分析。

2019年,一套人臉識別實時分析系統就曾引發爭議,該系統聲稱老師和家長可以隨時瞭解到孩子們在學校裏的表現。有報道顯示該系統的演示中呈現的學生行爲數據有:“趴桌子2次,玩手機2次,睡覺1次,聽講0次,閱讀0次,舉手0次,笑了0次,厭惡表情出現了10次……”最終,該公司回應稱:“該圖片爲技術場景化概念演示” 。

用在學生身上的“黑科技”遠不止人臉識別,浙江的小學生就曾被戴上了“智能頭箍”。所謂的“智能頭箍”其實是一個腦機接口頭環,能夠檢測腦電波,判斷學生在上課時集中注意力的程度並打出分數,分數會實時傳輸到老師電腦上,分數排名也會被髮到家長羣裏。

不少人評價這種方式沒有科學性,是把學生當作機器,違反基本的倫理。最後浙江金華某小學在輿論壓力下宣佈已暫停使用“智能頭箍”。

另外,有媒體在廣東廣雅中學的智慧校園信息化採購項目公告中看到,該中學斥資480餘萬採購近3500個智能手環,目的就是對學生進行實時監控

戴上這個手環,可以監測到學生的位置、區域人數、課堂點到、舉手次數、進出校園等信息,並向後臺系統回傳數據。不少人質疑該行爲侵犯學生隱私,影響下一代身心健康,有人甚至認爲“這跟電子手銬沒區別”。

這還不算什麼,甚至有學校給學生穿上了“智能校服”。實際上就是在校服的左右肩膀下縫製了可以記錄生物數據的智能芯片和隨時定位的 GPS 芯片,學生在註冊與領取校服時,校方就會輸入學生的臉部、生理特徵等基本資料至晶片中,並與“學生管理APP”連結。

這個芯片不怕高溫和洗滌,壽命是三年左右,也就是剛好中學三年。通過這個校服,學生遲到、按時進入宿舍、上課睡覺、走神或者是放學以後的行動等都記錄並自動發送給老師和家長。如果未經許可出校門,也會激活自動語音報警器。校方認爲這有利於提高出勤率,但它的隱私問題同樣引起爭議。

再往前,2017年,有學生在社交平臺爆料,“班主任在班裏裝了一個攝像頭,用來監視我們,家長也可以下載APP隨時監控我們。班級是學生活動的地方,這樣一直活在老師和家長的監控下,讓我們很不自在。課下也不能和同學正常交流,生怕被懷疑。這樣真的是爲我們好嗎?”

可見,學生對校方和家長的無界限監控叫苦不迭,但幾年過去了,技術手段在變,對學生的監控行爲反而愈演愈烈。所以,未來的學校,不僅逃學比登天都難,連情緒自由恐怕都難實現

此外,在線教育企業也會引入這樣的技術評估學生的上課表現。據悉,掌門一對一和商湯就達成戰略合作,通過情緒智能識別判斷學生是否是在認真聽課;好未來的智能教室就會利用圖像和語音等人工智能技術, 快速判斷 “一道題有多少學生舉手搶答”、“哪些學生的參與度較低”等

每次有這樣的事件,輿論都會質疑,主要觀點集中在:“究竟是校園信息化還是校園監獄化”、“數據收集是否侵犯學生隱私”、“表情識別分析真的靠譜嗎”、“長期在監控環境下會養成表演型人格”。但輿論並未讓此情形得到改善。

就這次“鶴壁高中”事件,Netstars CTO陳斌對深燃表示,從該學校的通報內容來看,僅靠攝像頭做不到這麼詳細的分析,還需要有人監控分析,“AI可以檢測到學生在不在位置上、上課睡不睡覺,但裏面提到學生看課外書、沒穿校服、喫爆米花、眉來眼去等內容不太可能靠AI實現。”

另外他提到,AI識別人臉並分析行爲和表情的技術在多年前就開始應用了,比如用在汽車駕駛上,因爲長途貨運司機晚上可能會疲勞犯困,運輸公司會在駕駛員正面放一個攝像頭,AI可以比對這一秒鐘的圖像跟下一秒圖像中人的眼睛是不是閉上了,或者姿勢發生了變化,如果判定司機打瞌睡,監控中心就會發警報。

“智能頭箍是電極根據電流傳輸進來的感知情況識別大腦的活躍程度,因爲學生在打瞌睡、睡着或認真聽課時,大腦的活躍程度不同,只要提前做一個檢測並錄入信息,後期比對即可;手環則是裝有GPS定位系統檢測學生的位置,手環中裝了陀螺儀能監測學生手的位置和狀態,另外檢測一些運動數據、心率等技術都已經非常成熟了,在很多領域都有應用。”陳斌這樣解釋幾種監控設備的技術原理。

監控學生,背後是一門大生意

儘管網絡上不贊成監控學生的聲音是主流,但現實中,早有無數企業盯上了智慧校園這塊“肥肉”。

2012年,教育部發布的《教育信息化十年發展規劃(2011-2020 年)》中提到,我國要建立教育經費投入保障體系,該文甚至提出各級政府在教育經費中按不低於8%的比例列出教育信息化經費。按照2018年我國教育經費的總投入爲4.6萬億來計算,8%也能達到3600億,即使保守估計,智慧校園也是一個千億級別的市場。

此前的數據顯示,2019年我國智慧校園行業產值爲584.46億元,預計2020年,這一數字將達到614.82億元。智慧校園產品市場可分爲智慧校園系統和智慧校園硬件市場,其中,智慧校園硬件佔據主導地位,2019年,智慧校園硬件規模爲402.25億元,佔智慧校園市場規模的71.33%

近年來,人工智能企業、教育信息化公司、互聯網巨頭紛紛殺進智慧校園,各家策略和方向不同,主要切入點有智能教室、考勤安防、智慧教學、智慧考試、家校互動等。

其實,智慧校園的初衷是好的,數字化能夠讓教育教學和管理更加便利,但在實際操作中出現了一些跑偏,反而讓學生感到難受。

其中跟學生監控相關的主要包括學生行爲分析和情感分析,比如通過採集學生坐姿、舉手、站立、打哈欠等課堂行爲,就可以評估學生的學習狀態、課堂有效性、學習興趣等。

行業內,人工智能巨頭曠視科技、商湯科技都有智慧校園業務。此外,互聯網巨頭們也沒有缺席這個極具誘惑力的市場。截至2019年底,騰訊教育智慧校園已經覆蓋了全國300餘家教育局,服務了17000餘所學校;2019年3月,阿里釘釘推出了基於“校園數字化管理平臺+校園智能硬件”的智慧校園解決方案;而早就進入教育信息化賽道的科大訊飛,服務學校數量已經超過了2萬所。

前文提到的“智能校服”的生產商是貴州省的冠宇科技,該公司的“智慧校服”後續還升級了校服功能,包括:學生打瞌睡時,會自動響起警報;學生通過智能校服、指紋、指靜脈及人臉識別在校園內支付各種消費,家長可通過手機查看子女在校的消費情況,並控制消費上限;校服還能實時監測學生的身體狀況,若出現較大波動,老師和家長能及時收到提示信息。

創業公司中,完成B輪融資的十牛教育是一家教育科技公司,該公司爲學校提供的軟硬件一體產品,包括考勤機、消費機、紅外線測溫槍、訪客系統以及進出閘門。學生使用有聯網功能的“一卡通”在上述設備刷卡操作,進出門刷卡記錄、體溫、食堂消費、上下校車刷卡、作業完成情況等信息被上傳至SaaS平臺,老師和家長都能實時獲取所有信息。

從業者江南認爲:“教育信息化是個千億級以上規模的市場,AI在教育領域的應用是視頻監控行業的技術和產能溢出,是很多企業拓展新的業務場景發展出來的,這類公司之前的主要市場其實是高考監考和後面逐漸發展的校園安全領域。”

他還提到,這個領域的底層設備廠家是一些人臉識別科技公司,在此之上的情感識別、姿態識別的算法不少也是集成在硬件系統或相應的軟件驅動中,再往上纔是不少教育服務集成商利用這些硬件設備包裝概念。

千億智慧校園市場,已經是互聯網巨頭、科技公司、中小創業公司廝殺博弈的紅海。

公開通報課堂表現,侵犯學生隱私嗎?

教育是個大市場,智慧校園是大勢所趨,企業逐利而來,學校樂於接受。那麼這些產品服務的“主角”——學生,在中間就沒有任何話語權嗎?進入了學校,置於大集體的規章制度之下,學生難道就沒有尊嚴和隱私嗎?

在江南看來,學校提取學生在教學環境下的反應行爲,基於這些行爲數據對學生做出相應的教育干預,是這類型產品設計的邏輯。“這個屬於數據濫用,但不是侵犯隱私。因爲學生進入到校園和教室這些有監控攝像頭的地方,就等於默認他知道自己被拍攝了,但如果學校收集了數據並公開向外界公佈,屬於行爲收集數據的濫用。”

北京至普律師事務所合夥人李聖告訴深燃:“如果學校在教室內安裝監控,由於教室屬於相對公開區域,公共區域內的監控系統是合法的,不存在侵犯隱私問題,同時學校應當告知學生監控安裝情況;如果學校採用手環、頭箍等直接識別個人信息的監控設備,只有徵得學生的同意,學校纔可以採集該信息,否則涉嫌侵犯《民法典》1034條規定的有關公民個人信息保護的權利。”

另外,對於學校公開通報學生違紀信息的問題,他指出,未經本人及其法定代理人同意,學校不得將監控錄像資料以及通過手環、頭箍採集到的資料隨意外傳,否則將承擔包括但不限於侵犯隱私權、肖像權、個人信息安全的侵權責任

有人認爲,這是“AI+教育”落實發展的成果。但教育專家熊丙奇對深燃表示:人臉識別技術用於監控學生表情是反教育,必須堅決制止。他認爲,在教室裏安裝監控,全天無休地對着學生,採集學生的表情、動作,這是把學生當作“犯人”,這種做法的反教育性質十分明顯,但是,這種行爲卻得到一些教育管理者和學校的追捧,是因爲有些教育者和辦學者忘記了教育是什麼,只是考慮怎麼管理方便,以及怎樣提高成績

“教育是有情感和靈魂的事業,無節制地使用人臉識別等技術,正在把教育變得沒有靈魂和情感。所謂AI+教育提高課堂教學質量,這也是基於錯誤的課堂質量觀:對學生進行知識灌輸,把學生作爲被動接受知識的工具。”熊丙奇指出。

無論如何,此次事件中的學校已經對相關負責人予以處罰,事情暫時告一段落。不過,多次校園監控事件均以道歉收尾,多年來類似的事件仍然不斷在發生,後來者應該引以爲戒:推進智慧校園建設的目的是方便高效地開展教學工作,而不應該淪爲監控學生個人行爲的藉口。

*題圖來源於視覺中國。應受訪者要求,文中江南爲化名。

相關文章