監控攝像進教室：技術很新 問題很老

　　我高中三年最驚悚的回憶，大概是教室后門的玻璃窗上，班主任不時浮現的黑色眼睛。這雙眼睛如果一直在，會有很多人坐立不安。

　　現在：這雙“眼睛”又來了。比肉眼還要靈敏的攝像頭被布置在教室中央，監控所有學生。人工智能則賦予了它更高級的判斷能力：他今天玩手機3次，打瞌睡2次，舉手0次，學習不認真；她這堂課露出8次疑惑和3次厭惡的表情，微笑卻只有1次，可能不太適應這位教師；教師則可以不動聲色地查閱所有信息。

　　最近試水這一領域的，是人工智能行業的明星企業曠視科技。一個趴在課桌上微笑的女孩，在這家企業的產品演示圖里，被標注了“睡覺、閱讀、舉手、玩手機”等行為的次數。這引起了熱議，有人說，管理學生搞得像治理監獄。

　　被罵慘的企業可能感到很冤。它算不上先行者，一家教育企業早就宣稱，自家的技術能識別學生的專注度和情緒；百度公司則在2018年表示，監控學生的頭部動作和表情，就能辨別對方是否專心聽講，并“貼心”地推出了定制服務。這些新技術應用的“正面案例”大多淹沒在資訊的海洋，為數不多“翻車”挨罵的是杭州的一所中學。去年，該校領導在電視鏡頭前熱情演示了類似的系統。輕點幾下，幾個“不專注學生”的名字出現在大屏幕上。

　　有人懷疑這越界了。大多質疑聲投給了人工智能這項新技術。剛起步、未成型的東西代表未知，而未知帶來恐懼。最糟糕的猜想在科幻小說里被描述過——人類的舉手投足被人工智能分析、控制，失去自由。

　　我想起高中班主任的眼睛和他手里的教鞭，以及一些舊聞：人工智能還沒有流行時，學校風靡安裝攝像頭。有班主任使用班費裝了一個，每天監控班級；也有學校讓家長交100元，就可以隨時查看孩子的一舉一動。

　　好像也沒什么不同，所以，我害怕的是人工智能，還是那些充滿控制欲、想把學生框進他們設計好的模子里的人？或許人工智能本身并沒有引發“新問題”，它只是一個工具，交到了那些本就讓人反感的人手中。

　　一個流行的說法是，新技術一定會帶來新問題，比如人工智能會帶來隱私爭議。但同樣的人臉識別，被用于安防、尋找走失幼童、監護老人或重癥病人，很少會陷入爭議。這些事人命關天，它們符合人們牢固的共識。我們每天使用的App，如今也都要拿走信息，分析和揣測我們的喜好。大多數人會同意那則協議，選擇用數據換取方便的生活，這是我們自己的決定。

　　但那個植入教室的攝像頭引發了軒然大波。孩子們很少能有與教師乃至學校平等的話語權，他們沒得選擇；再好的學生也會走神、會犯困，被一直注意只會帶來緊張甚至壓抑，沒人喜歡被控制，長輩卻總想要一直聽話的孩子；為了在監控與分析下取得“優良表現”，孩子們會不會被迫表演，就像我們經歷過的那些必須朗聲發言與熱烈鼓掌的公開課，這樣的學習有樂趣嗎？直至像一位網友所說，這項技術倘若被當成輔助工具，識別那些長期心情不佳、生活不順的學生，增添呵護，可能便具有溫情。可目前，廠家的賣點和買方的訴求，大都傾向于迫使學生時刻專心聽講，甚至直接獎懲。

　　這般理下來，發生在教室里的這則公案，哪有“新問題”？都是“老問題”！技術發展帶來了諸多前所未有的倫理問題：能否編輯基因、克隆人類；有朝一日高度發達的人工智能是否該具備“人權”。但至少這次，問題沒那么“浪漫”，就是后窗的眼睛變成了更高級的人工智能。

　　9月5日，教育部科學技術司司長雷朝滋在受訪時表露，對于類似人工智能，“要加以限制和管理，希望學校非常慎重。”“學生個人信息，能不采集就不采。”更大的背景是，今年7月，中國提出組建國家科技倫理委員會，將對新技術帶來的倫理和法律問題作出規范。

　　可以想象，這是一條必經之路。亟待完善的規則，既會涉及人類從未面臨的新場景，也要解決諸如這些監控、分析孩子們的攝像頭般，我們在過去尚未達成共識的問題。這也告訴我們，技術在未來的樣貌并不確定，不同人眼中的它們可能截然不同，需要彼此不斷探討甚至爭論。

　　教室攝像頭引發的風波里，有網友激烈地反對。他說，我這么激動，是不想自己的孩子成為被監控的對象。有人想象了一個略顯驚悚的場景：人工智能覆蓋學校后，學生之后的下一個監控對象是誰？教師。再然后，或許是職場里的所有人——不夠“專注”都要扣錢。

　　所幸，至少在今天，人工智能基本還是人畜無害、讓人覺得新奇、下意識喜愛的“孩子”。至于幾年、幾十年后，它的樣子，不由它自己，而由今天的我們決定。（程盟超）