242
2022 年之前，紐約禁止在學(xué)校中使用任何生物特征識別技術(shù)。
美國跟人臉識別徹底杠上了。
美國紐約州近日通過了一項法令：2022 年之前，禁止在學(xué)校中使用人臉識別和其他生物特征識別技術(shù)。
這也將成為全美首個明確規(guī)定學(xué)校不允許使用該技術(shù)的法案。
據(jù)南方都市報報道，這項法案提出的背后，是針對去年發(fā)生的一起有關(guān)校園 AI 應(yīng)用爭議的回應(yīng)。
2019 年 5 月，紐約州西部城市洛克波特市在全市校園部署人臉識別設(shè)備，主要目的是增強學(xué)校的安全性。
洛克波特市學(xué)區(qū)負責(zé)人米歇爾·布拉德利（Michelle Bradley）在接受外媒采訪時說，“這是讓學(xué)生、員工和訪客更加安全的又一措施”。
洛克波特市官方信息顯示，人臉識別系統(tǒng)將識別學(xué)校不允許出現(xiàn)的人員，并在識別到異常情況時發(fā)出警報提醒。
系統(tǒng)重點識別的人員包括二級或三級性犯罪者、被停職的學(xué)校員工、法院判決未經(jīng)批準禁止進入學(xué)校的人員、執(zhí)法部門信息顯示會構(gòu)成威脅的人員等等。
由于隱私等問題的存在，人臉識別應(yīng)用在美國向來爭議頗多。
由此，洛克波特市也在紐約州教育廳等部門的監(jiān)督下反復(fù)修改了系統(tǒng)設(shè)置，最終決定只讓系統(tǒng)記錄人員比對的情況，不收集或存儲任何個人信息，學(xué)生的照片等個人信息也不會被添加到系統(tǒng)中。
另外，根據(jù)當?shù)胤梢?，監(jiān)控視頻保存 60 天后將從服務(wù)器上刪除。
2020 年 1 月，這一系統(tǒng)在洛克波特市正式投入運營。然而，一些美國民間團體還是認為人臉識別系統(tǒng)太具侵略性，不應(yīng)在學(xué)校這樣的場所中部署。
他們認為，萬一系統(tǒng)出現(xiàn)了誤報，會給學(xué)生帶來種種傷害，比如影響學(xué)生上課、給學(xué)生扣上莫須有的犯罪記錄。
今年 6 月，紐約公民自由聯(lián)盟提起訴訟，要求洛克波特市停用該系統(tǒng)。
這一起訴得到了當?shù)夭糠止賳T的支持。
當?shù)貢r間 6 月 23 日，紐約州議會眾議員莫妮卡·華萊士（Monica Wallace）和參議員布萊恩·卡瓦納（Brian Kavanagh）發(fā)表聯(lián)合聲明，重申了對隱私問題的擔(dān)憂：
“我們擔(dān)心該技術(shù)的使用可能侵犯學(xué)生、教職員工和訪客的隱私權(quán)及其他公民權(quán)利。這是一種無效的維護校園安全的形式，并且可能無法安全地存儲學(xué)生數(shù)據(jù)。”
據(jù)悉，目前紐約州參眾兩院已經(jīng)投票通過的新禁令。
接下來，禁令將被提交給紐約州州長安德魯 · 庫莫（Andrew Cuomo）。如果他簽字通過，禁令就將成為正式的法律。
?
校園裝“天眼”
美國紐約之外，相關(guān)應(yīng)用此前也在中國教室中被另類應(yīng)用，并引發(fā)了一些社會輿論。
它可以洞察課堂上的一切行為。
此前，浙江省杭州市某中學(xué)課堂上多了一位神奇的新朋友：智慧課堂行為管理系統(tǒng)。
通過這套系統(tǒng)，校園管理者可以清楚地看清、分辨哪些同學(xué)在專注聽課，哪些同學(xué)在開小差。
該系統(tǒng)內(nèi)置三個攝像頭，用以捕捉同學(xué)們的面部表情和動作，然后進行一系列大數(shù)據(jù)分析，最終計算出課堂實時考勤數(shù)據(jù)、課堂專注度偏離分析、課堂行為記錄數(shù)據(jù)以及課堂表情數(shù)據(jù)，并將結(jié)果反饋給校園管理方。
該校負責(zé)人表示，系統(tǒng)每隔 30 秒就會進行一次掃描，針對學(xué)生們閱讀、舉手、書寫、起立、聽講、趴桌子等 6 種行為，再結(jié)合面部表情是高興、傷心，還是憤怒、反感，分析出學(xué)生們在課堂上的狀態(tài)。（其中，僅趴桌子一項為負分行為。）
若此類不專注行為達到一定分值，系統(tǒng)就會向顯示屏推送提醒，任課教師可根據(jù)提醒進行教學(xué)管理及調(diào)整。
據(jù)悉，該系統(tǒng)還可與學(xué)校醫(yī)務(wù)室等其他后臺的數(shù)據(jù)打通，倘若學(xué)生有身體抱恙等突發(fā)情況，還可被暫列入“白名單庫”。
換句話說，在這套系統(tǒng)的“加持”下，同學(xué)們每天 8 節(jié)課的 320 分鐘，任何行為都可一目了然地得以展示。
對于該系統(tǒng)的落地、應(yīng)用，某教育工作者黃老師表示：華而不實。
“學(xué)生有沒有開小差，老師在講桌前可以看得一清二楚。”
在他看來，如何能將“學(xué)”作為主動權(quán)緊緊握在學(xué)生手中已成教育管理者需要思考的問題。
學(xué)習(xí)從來都是一種自主性過程，教育的核心突破不是靠教具形式的升級，學(xué)生在課堂的認真程度取決于授課老師的魅力，強行監(jiān)督只會讓很多學(xué)生成為“面具人”。
同時，該系統(tǒng)的應(yīng)用也遭到了不少網(wǎng)友的痛擊：
暫且避開隱私、倫理等層面不談，單從技術(shù)角度出發(fā)，這項技術(shù)的落地應(yīng)用是否真的可行？
校方稱該系統(tǒng)在課堂應(yīng)用中可以起到兩大作用：
一、課堂實時考勤數(shù)據(jù)。由于教室學(xué)生基數(shù)不大；另外教室范圍也不大。目前很多人臉識別技術(shù)廠商都能夠很好滿足此項需求，不作詳敘。
二、課堂專注度偏離分析（微表情數(shù)據(jù)）。
從系統(tǒng)運行流程來說，它在安裝使用后將會進行兩步操作：
一是人臉檢測，通過人臉相機檢測到同學(xué)們的臉部，從而完成第一大點所說的實時考勤；
二是基于這些人臉數(shù)據(jù)做實時的深度分析，通過微表情識別來判斷學(xué)生們是否分神、開小差。
人臉表情由若干條細微的小肌肉控制，與常見人們發(fā)出的較為夸張或者平常的表情不同，微表情持續(xù)時間很短、動作幅度很小。
另外，微表情是一種自發(fā)式的表情，在人試圖掩蓋內(nèi)在情緒時產(chǎn)生, 既無法偽造也無法抑制。
與其他生物識別技術(shù)的研發(fā)相比，微表情識別因為太過細微，一直是計算機視覺領(lǐng)域一個具有挑戰(zhàn)性的技術(shù)難題，該技術(shù)的研發(fā)門檻較高，技術(shù)難點主要體現(xiàn)在三個方面：
數(shù)據(jù)收集，這里的數(shù)據(jù)必須是動態(tài)的視頻數(shù)據(jù)；
肌肉單元很難做標注，每個人對表情的定義都不相同，“微笑”“難過”等標準難以判定；
微表情識別必須在五分之一秒內(nèi)抓取到情緒變化，也就是要做到一秒鐘處理五幀以上畫面，讓數(shù)據(jù)做到實時。
雷鋒網(wǎng) AI 掘金志了解到，目前這一技術(shù)在金融領(lǐng)域有所應(yīng)用。
以信貸行業(yè)為例，如今騙貸行為頻發(fā)，當涉及大額的貸款申請時，金融機構(gòu)在批放貸款之前都會讓面審員與用戶進行一個十到十五分鐘的問答。
起初會核對用戶的基本信息，在用戶回答的過程中，會為用戶進行一個微表情的側(cè)寫，記錄一個用戶回答問題的習(xí)慣。
隨著面審員問題的深入，用戶在回答之后地問題時，如果出現(xiàn)了違反他之前的回答習(xí)慣（例如眼睛從直視屏幕轉(zhuǎn)為眼睛往上瞟或往腳下看），系統(tǒng)則會為其標記一個異常。
當整個面審環(huán)節(jié)結(jié)束后，系統(tǒng)會根據(jù)之前記錄的異常次數(shù)、等級進行一個綜合評估反饋給面審員。
如果前后差距過大，就意味著從基礎(chǔ)問題到追問環(huán)節(jié)，此人的情緒、心理變化較大，如此就可提醒面審員此人有一定風(fēng)險，要做更多地調(diào)查，以更好地降低風(fēng)險。
也就是說，這項技術(shù)應(yīng)用的前提還需配合面審員問題的逐步深入而出現(xiàn)的細微面部表情變化。
回到主題，學(xué)生們在上課過程中，沒有任何言語上的思考及負擔(dān)，也就意味著所有的面部表情都是自然狀態(tài)下而產(chǎn)生的，斷不可從單一的面部表情的變化去判斷他的心理活動或者是否分心（缺乏標準）。
宇視智能算法開發(fā)部專家楊治昆直言，“對于這套系統(tǒng)的可操作性，我持懷疑態(tài)度”。
在他看來，這套系統(tǒng)在實際應(yīng)用過程中，會存在以下幾個問題：
任何 AI 技術(shù)的落地都要保證誤識率可控。一般來說，正常教室的長度在十二米左右，不近的距離通過機器去判斷每個同學(xué)們的面部細微變化，難度巨大；
任何產(chǎn)品的落地，都需要考慮光照等各種復(fù)雜環(huán)境的影響，這套系統(tǒng)也需要考慮上午、下午、夜間等教室內(nèi)的環(huán)境變化。機器如何能夠確保實時復(fù)雜場景下的準確識別？
視頻監(jiān)控下的學(xué)生是動態(tài)的，應(yīng)用場景是非配合式的，這種情況下識別難度會進一步提升。機器如何能夠做到不同角度的準確識別？
楊治昆表示，這些年 AI 技術(shù)發(fā)展迅速，教育市場也的確成為未來 AI 安防落地的重點拓展方向之一，如今各大安防廠商都在緊盯這塊市場。
但從產(chǎn)業(yè)界角度來看，相關(guān)技術(shù)不能盲目落地。人工智能應(yīng)用要保證識別率、誤識率、魯棒性，唯有滿足這三點，技術(shù)的落地才會具有意義。
目前來看，比較容易落地的場景包括門禁、人臉考勤等等，而該系統(tǒng)提出的微表情分析，就目前 AI 發(fā)展水平來看，還存在很長一段距離。
在他看來，“一個產(chǎn)品的落地，除了要考慮客戶的需求也要考慮到受眾人群的體驗”。
