一场突如其来的校园监视危机旷视科技冤吗

　　文/宇多田

　　开学后, 是时分引发你的恐惧回想了。

　　或许《黑镜》的编剧怎样也没想到，这部曾一度被封神，但口碑一路下滑的科幻电视剧，总算迎来了“戏言”一语成谶的时刻。

　　在2018年播出的第四季第二会集，为了更好监护自己的女儿, 一位母亲给她的眼睛植入了芯片控制器，自己能够透过一个相似iPad的硬件检查其身体的各项生命体征，也能够转播它的视觉信号。

　　换句话说，她能够经过iPad看到任何女儿看到的画面。假设后台显现由于女儿看到恐惧画面而导致皮质醇上升，她能够按下屏蔽按钮，用马赛克抹除去女儿看到的特定物体，比如一只凶狠的大狗。

　　现在，让咱们掉包一下里边的技能细节。

　　把植入的芯片，换成教室里能够做到十几个小时接连监控的人脸辨认摄像头。经过人脸辨认的实时剖析，作为家长和教师，你能够随时取得她愈加详尽的多达十几条方针定论：

　　趴桌子2次，玩手机2次，睡觉1次，听讲0次，阅览0次，举手0次，笑了0次，讨厌表情呈现了10次……

　　终究机器或许得出一个归纳定论：她是个有问题的孩子。

　　以上，便是旷视科技在前天晚上引发微博轩然大波的产品图片以及被截取的视频内容。

　　而这现已不是一部电影，也不是一个停留在宣扬片层面的demo，由于相似项目，现已进驻部分小学与大学。

　　在微博与知乎上的征伐声此伏彼起时，旷视科技很快便发布了一则正式声明，表明网上呈现的图片仅仅是技能场景概念演示，公司在教育范畴的产品专心于维护孩子在校园的安全。

　　这则声明中，关键词是“安全”。而最具争议的讨观点之一，也恰恰是“安全”。

　　要处理孩子的人身安全， 需求咱们去剖析他睡了多少次觉，举了多少次手以及瞟了同桌多少眼的问题吗？

　　或许反过来说，这些强加的条条框框，是否能够有用处理校园霸凌？

　　再或许说，咱们知道这个孩子或许有几个体现不合格，那么咱们有没有准备好对症下药的处理办法？即使作为一名教师或许很了解一个孩子上课有不听讲的缺点，可是关于改动他的缺点却一般力不从心。

　　咱们的注重点从谈及“安全”的一开端，就现已舍本求末了。

　　这也是《黑镜》里植入芯片与人脸辨认剖析上课体现与行为的共同点：

　　拿捏欠好尺度，将所谓的“维护”转变为“过度维护”，以维护之名行“拘禁”之实，将会在未成年人的心理上留下怎样的痕迹？最坏的成果，还请拜见黑镜这一集的结局。

　　技能本没有任何过错，底子在于咱们的命运把握在有权运用技能的人手里。

　　旷视“冤”吗？

　　当言辞炮火被引到旷视身上时，咱们其实需求了解更多本相。

　　2018年在北京举办的安博会上，除了“人脸辨认技能”成为硬件与计划的标配，简直现场可供给场景处理计划的安防厂商中，有一半都表明能够做以校园场景为根底的人脸辨认监控。

　　而在百度与天眼查上查找“校园才智处理计划”，宣称能够供给室内人脸辨认监控计划的企业不在少数。

　　实践上，在国内各省的安全校园建造继续多年，起点是防备各类损害学生权益的工作发作，比如阻挠社会人员滋扰在校师生，再有便是让人怨恨的校园霸凌。

　　与此同时，2018年教育信息化2.0行动计划的公布，也让进步教学质量与功率的方针与更多更杂乱的技能手段建立了联络。

　　可是，在技能运用愈加老练与快捷的过程中，有些东西正在发作蜕变。

　　校园与家长的注重点从学生的人身安全，逐步转向愈加契合个人利益的要素上，比如怎样让学生愈加高效地学习，防备早恋等等，这些在他们看来都与更好的成果，孩子们更好的未来以及校园更好的名声直接挂钩。

　　早在2017年，国内就有不少中小学安装了联网摄像头，家长在家里下个App，就能够经过教室黑板上方那个摄像头，看自己的孩子究竟在教室里做些什么。

　　也曾有学生在微博上控诉相似的工作，但并没有引起多少注重。

　　而在App长途监控的根底上，参加愈加强壮的人脸辨认及剖析，只不过是一种“肆无忌惮”，而不是一家技能公司发明的原罪。

　　有职业人士曾告知虎嗅，校园安防建造与信息化建造的盘子很大，各个阶段政府与校园都需求有必定的项目资金投入，这是一个远景很可观的商场。但至于这样如此高技能含量的东西能不能用得上，就另当别论了。

　　另一方面也有人以为，作为一家即将IPO，但营收并欠美观还存在亏本的人脸辨认技能公司之一，成绩压力也让他们想寻觅各个途径完结技能变现，关于一些产品设计的考虑或许欠稳当。

　　“只能说用这种办法去招引收购方，用各种巨大上的言语去包装，或许有些不会配合，但也或许有人会被产品提高教育质量与安全都能统筹的说法给感动。” 据一位不签字的安防人士表明，从这个商场来看，一个巴掌是拍不响的。

　　“但另一方面，企业的技能并没有那么好，很有或许忽悠客户。实践上，你看到的那些剖析维度，其实在实践场景中成果并不精确。”

　　技能的局限性

　　技能创业公司一般都有一个缺点，便是喜爱把宣扬视频或广告图片“修”得趋于完美。

　　除了招引出资，这些视频也是向客户推销产品的一大“伴手礼”，但实践上，许多时分在上手一试后，就会发现效果大都需求折半。

　　以心情检测为例，在一次试用人脸辨认公司的表情检测软件的过程中，咱们发现“高兴”和“高兴”更简单被算法界说，只需我咧开大嘴，嘴角朝上，那么体系就会断定我现在是高兴的。

　　而哀痛，讨厌，或许是“面无表情”，底子没有一个能够被规范化的根底结构，因而检测成功率也较低。工程师也供认，除了“笑”，其他表情其实都无法给出十分精准的成果。

　　更何况以上一切心情，都能够“造假”。比如强颜欢笑，或许是成心张大嘴表明愤恨，都或许骗过机器。

　　此外，咱们也比较猎奇像“睡觉”这个维度是怎样做到精准剖析的。那学生们困了，或许只需求一个曾在日本很盛行的上班族必备神器——假眼贴纸，解一时之急。

2017年从前轰动一时的上班族必备神器

　　最有意思的是，与国内对人脸辨认大部分的正向宣扬相反，由于人脸辨认技能在有色人种、民族、儿童白叟等维度的精确率方面存在巨大差异，人脸辨认技能运用在国外的推行略显困难。

　　作为国外反人脸辨认风潮中最有名的进犯目标，曾被美国警方运用的亚马逊计算机视觉渠道 Rekognition被自家股东在本年年初开端继续施压，他们强制要求亚马逊中止向法令部分出售人脸辨认软件。

　　而这股风潮也在本年8月初吹到了英国，有房地产商在伦敦国王十字区安装了人脸辨认硬件后遭到激烈对立，由于后者对此毫不知情。

　　在美国，这项技能正面临着来自立法者越来越大的阻力。

　　加利福尼亚州参议院正在考虑立法制止在警用随身摄像机中运用人脸辨认软件，而旧金山监事会（美国中西部及东部各州）也现已开端制止法令部分运用这项技能。

　　因而，包含亚马逊、谷歌以及亚马逊等技能公司尽管很不甘愿，以为“新技能不该该由于或许被乱用而遭到制止和斥责”，但却达成了一个一致：

　　拟定相关契合品德的指导方针，要跑在真实能运用这项技能之前。

　　由于一个清晰的监管结构不仅能保证人脸辨认只用于完结合法的使命，也能够协助顾客了解这项技能的优点。

　　让人脸辨认“走上正途”，一边是法令的强势介入，而另一边则是来自民间个人的才智。

　　俄罗斯查找巨子 Yandex 的技能开发总监Grigory Bakunov发明晰一种反面部辨认办法。其实这种办法了解起来很简单，便是在脸上用特别颜料多添几笔，搅扰体系对人脸特征的提取。

　　而日本一位名叫 Isao Echizen的教授为了维护隐私，发明晰一种运用红外发光二极管来搅扰人脸辨认的眼镜。由于这种人类看不见的红外光能够在摄像头的“眼”中呈现出亮堂的紫色。

　　当然，还有多种“杀马特”造型供学生们以及不愿意走漏面部数据的成年人们挑选：

　　隐私维护的漫绵长路

　　怎样维护隐私？这个问题存在很长时刻，但好像无解。

　　由于所在的环境不同，以及每个人对隐私的界说也不同，导致咱们不能做过多解读。

　　比如，征引美国独立研究员Stephanie Hare的话来解说，人脸辨认体系的最大问题之一是涉及到生物特征数据，换句话说，便是人体信息，这无疑与咱们的隐私有关。

　　但这次旷视引发的评论中，有小部分人对“这种做法是否真的侵略了隐私”提出了质疑。

　　比如“已然家长能够把学生的状况反映给家长，为什么机器不能聚集更丰厚的信息给家长？”，再比如“未成年人究竟有没有独立于成年人的隐私权”？

　　这个时分，只能搬出最“教条”的东西来了：

　　《教师法》赋予了教师办理学生的权力，法令赋予了机器什么？

　　而第二个问题本身便是有问题的。《未成年人维护法》清晰表明未成年人具有隐私权，之所以一向被侵略，跟成长教育环境有很大联系。

　　从实质来看，这些质疑声恰恰凸显出跟着技能开展，法令必定要强势介入的必要性。

　　可是每次涉及到隐私问题，咱们的忧虑都会在一次会集迸发后，又敏捷隐姓埋名。

　　2016年Facebook人脸辨认被控侵略隐私如此，2018年亚马逊智能音箱等企业被爆偷听偷录用户日常数据也是如此。现在，在换脸视频App Zao的运用热度曩昔，对AI教室监控产品的征伐声完毕，大约对隐私被侵略的控诉仍然会不了了之。

　　所以咱们底子不该该去责备百度CEO李彦宏在上一年我国高层开展论坛上宣布的“我国大多用户愿用隐私来交换快捷服务”的言辞，抚躬自问，咱们有多少人心里是这么想却不敢说？

　　而回到这个问题上，当学生们即使赞同自己的身体信息被搜集和剖析，那么参加方有没有寻求过这些机器直接效果方的定见呢？

　　是的，这就像咱们去用计算机视觉去检测桃子的巨细形状以及腐朽程度，用人脸辨认以及多种生物辨认办法来监测猪的成长状况与肥胖健康程度，终究咱们也把这套固化的规范，用在了咱们自己身上。

　　是的，我举手0次，打瞌睡10次，笑了0次，我便是一个坏学生。

　　而孩子们会不会在这样隐形的压力下有了愈加契合人道的“专长”，比如学会装腔作势，学会承受把这套机器用在下一代身上。

　　因而，在变成大错之前，咱们更应该着手去做的，是让隐私维护问题引起更多人的注重和推进相关法令的建立，而不是把口水喷到一家公司的身上。

　　终究，引证知乎上一位答复“怎样看待旷视科技新产品监督学生上课？”得到最高赞的匿名人士的一段感概作为结语：

　　“这不是产品司理或许程序员的问题，不是一家公司的问题，乃至不是一个技能问题。这是咱们社会的价值观的问题，是咱们怎样看待本身权益的问题。”