生活

人脸识别十字路口:脸的恐慌

杨智杰  2019-10-21 13:48:34

人脸识别公司正在不断地尝试打破更多边界 急于向投资人证明自己的估值

  9月1日,复旦大学迎来3000多名2019级本科新生报到。学校推出人脸识别“刷脸”报到、云端智能驱动AI机器人现场快速答疑等。图/新华

 

  本刊记者/杨智杰

 

  “低调的学校上?#20154;眩济?#22909;事。”中国药科大学大四学生周琪看到学校的新闻时想。

 

  8月底,有“药界清华”之称的中国药科大学全面引入人脸识别?#38469;酰?#19981;仅用于门禁,还在试点教室安装摄像头刷脸?#35760;冢?#24182;对学生课堂听课情况全面监控。有报道称:“在部分教室试水后,逃课和‘替同学答到’或将成为历史。”

 

  一切早有端倪。6月,周琪收到学校通知,称为了做好人脸识别?#20302;常?#23398;生要提交高要求的照片做信息采集。两个月后,周琪就体验到了人脸识别的应用,出入校门、?#38469;?#39302;等“刷脸”通过,不用费劲找学生卡很方便,但是她没想到随之而来的是一场风暴。

 

  最初的宣传焦点,是学校应用了先进的AI?#38469;酰?#20294;风向很快转变,更多人开始对教室里无时无刻的监控感到恐惧。

 

  在赛迪顾问人工智能部门负责人王晓宁看来,这次的争议,是人脸识别?#38469;?#28145;入应用后必然会面临的一个节点。从?#30340;?#26469;看,2019年,将是人脸识别被市场检验的关键一年,很多公司正急于证明自己的变现能力,抢占更多赛道。但整个行?#31561;?#31361;然被集体卷入风暴眼:人脸识别使用的边界,到?#36164;?#20160;么?

 

  校园信息化的利弊

 

  山世光看到中国药科大学的新闻时,并不意外。他是中科院计算所研究员、中科院智能信息处理重点实验?#39029;?#21153;副主任,研究人脸识别?#38469;?#24050;经有二十多年。

 

  对于做?#38469;?#30340;人而言,在校园应用人脸识别?#38469;?#30417;控学生状态不算新鲜事。“在?#30340;冢?#19968;些科技公司早已有了这样的设想,或者拥有了接近成熟的?#38469;酢!?#23665;世光说。

 

  人脸识别进课堂的探索最早引发关注,始于2018年。在2018年第75届中国教育装备?#25925;?#20250;上,人工智能公司旷视科技曾展出其智慧教育解决方案,利用人脸识别、表情识别等?#38469;酰?#35760;录学生行为、表情、专注度、前排上座率等多维度课堂数据,辅助教学评估。除了旷视,百度、腾?#23545;频?#20854;他科技公司也都推出了“课堂专注度”分析的解决方案,?#38469;?#21644;应用场景都相差无几。

 

  一些学校和培训机构正积极拥抱这项新?#38469;酢?#30334;度AI开放?#25945;?#26174;示,杭州金沙湖实验学校、在线机构海风教育,以及小童科?#21363;?#19994;公司均是教育方案的?#31361;А?/p>

 

  去年3月底,浙江省杭州十一中在高一两个班级试运行“智慧课堂行为管理?#20302;场薄?#19982;中国药科大学?#36127;?#21516;步,今年8月底,上海中医药大学附属闵行蔷薇小学与上海交通大学E-LEARNING实验室合作,开发了智慧课堂行为分析?#20302;场?/p>

 

  这些?#20302;?#30340;做法普遍类似?#22909;?#38548;一段时间,用摄像头扫描一次学生的脸,采集并分析他们的坐姿、表情,评价他们有没有专注听讲。山世光把人脸识别监控学生状态的能力,称作“对人的深刻理解”。相较于常见的用于门禁“刷脸”的身份识别能力,这是更高的要求。

 

  深刻理解人类,本是人们对人工智能的美好期待之一,但是用在教室这个场景下,却引起极大的不适感。

 

  山世光从?#30340;?#20102;解到,一些学校和?#40092;?#30340;确对这项?#38469;?#26377;需求。中国药科大学?#38469;?#19982;信息中心主任许建真在接受?#25945;?#37319;访时就提到,安装人脸识别?#20302;?#26159;教务部门的要求,意在减少学生逃课、早退、找人代?#25105;?#21450;上课不认真听讲等行为,严肃课堂纪律,同时评估?#40092;?#30340;教学质量。

 

  “不是?#24213;黽际?#30340;人?#21069;?#36825;个方案推销给学校,一些?#40092;?#22312;教学上面临难题,他们不能关注到班里的每一个孩子,无法准确把握全班同学的学习状态,如果有人脸理解?#38469;?#20570;辅助,?#40092;?#20204;可以更好地调整教学办法。”同样身为?#40092;Γ?#23665;世光也有相似的?#20889;ァ?/p>

 

  但他也提到,不同职位的教育工作者对此有不同的态度。学校领?#35760;?#21521;于认为该?#38469;?#26377;助于提升教学质量,而一些教师持反对意见,认为自己也被监控了。

 

  ?#25353;?#23478;的争议主要在于公共场合下,个人信息被利?#20204;?#30340;知情权,信息被采集的?#27573;?#21644;使用边界等问题。” 赛迪顾问人工智能部门负责人王晓宁对《中国新闻周刊》说。

 

  中国药科大学在使用这项?#38469;?#21069;,曾向当地公安部门?#22836;?#21153;部门咨询,得到的答复是,教室属于公共场所,不存在侵犯隐私的问题。

 

  但中国政法大学传播法研?#24656;行?#21103;主任朱巍认为,人脸识别要获取学生的肖像权,肯定涉及侵犯学生隐私权,“尽管很多时候在使用肖像权上,学校会和学生有协议,但是学生通常是弱势群体,这样的协议是无效的,所以人脸识别监控的行为值得去?#25945;幀!?/p>

 

  教育学者关注的另一个问题是:即便不讨论隐私,用人脸识别监控学生的状态,更涉及教育的根本价值观。

 

  在人脸识别进入课?#20204;埃?#24456;多教室早已安装?#24605;?#25511;摄像头。中国教育科学研究院研究员储朝晖告诉《中国新闻周刊?#32602;?#26159;否在教室里引入监控,是教育领域研?#32771;?#21313;年的老问题,?#30340;?#30340;结论是:不能。他认为,反对基于两个原因:“一、安装监控?#20302;?#21518;,教师和学生会以伪装的面目出现在教学环境中,长此以往,教师和学生也会以伪装的人格出现在社会上,这个习惯很?#20005;?#38500;,可能会引发?#29616;?#30340;社会问题;二、这涉及对教师和学生基本权利尊重的问题。”

 

  “人脸识别?#38469;?#26412;身并无?#27809;担?#20851;键是看?#38469;?#22914;何被使用。”山世光说,如何被使用,是一道选择题,隐私、(公共)安全和便捷是三个选项,最好的答案是在三个维度上取得平衡,“中国药科大学引入人脸识别?#38469;?#24182;不新鲜,它之所以成为社会热点事件,是因为在以上三个方面没有很好地平衡。”

 

  在一片质疑声中,教育+AI却正成为未来教育的趋势。前?#23433;?#19994;研究院报告显示,2023年,“智慧教育”市场规模有望突破万亿。作为AI领域目前最成熟的?#38469;酰?#20154;脸识别正深入教育行业,在刷脸签到、学员身份查询、校园安防、课堂检测等诸多场景应用。

 

  一个绕不开的疑问是:人脸识别在校园里使用的边界到?#36164;?#20160;么?

 

  在储朝晖看来,人脸识别?#38469;?#22312;校园唯一适合的场景就是安防,用于识别非学校人员,保护学生安全,其余场景都用不上。“?#38469;?#23545;于教学只能是锦上添花,不能替代教与学的位置。”储朝晖对《中国新闻周刊》说。

 

  教育部已经就中国药科大学的新闻作出了回应。科学?#38469;?#21496;司长雷朝滋在接受澎湃新闻采访时表示,“(对于人脸识别?#38469;?#24212;用)我们要加?#38901;?#21046;和管理。现在我们希望学校非常慎重地使用这些?#38469;?#36719;件。”他认为,人脸识别进校园,既有数据安全也有个人隐私问题。对于学生个人信息要非常谨慎,能不采集就不采。能少采集就少采集,尤其是涉及个人生物信息。

 

  教育部在近日也告诉《中国新闻周刊?#32602;?#30446;前教育部正在针对人脸识别?#38469;?#21046;定相关管理文件。

 

  2018年1月10日,比亚迪和华为公司联合发布“云轨”无人驾驶?#20302;场!?#20113;轨”实现了全自动无人驾驶运?#26657;?#24182;具有人脸识别、断电无人驾驶、自动诊断等多种功能。图/新华

 

  蒙眼狂奔的行业

 

  在中国药科大学引发风波的同时,以人脸识别起家的旷视科技也被推向了风口?#24605;狻?/p>

 

  9月初,旷视科技“智慧课堂解决方案”的视频在网上流传。视频中,公司运用人脸识别?#38469;酰?#23398;生的脸被方框圈出,旁边显示“专注度33%,表情分析结果:厌恶”“趴桌子0次,玩手机0次,睡觉0次,听讲6次,阅读8次,举手6次……”

 

  这样先进的“科技?#20445;?#35753;很多人不寒而栗。不过,据核实,中国药科大学使用的并非旷视科技的?#38469;酰?#20294;是这个视频却成了人脸识别监控学生状态最形象的注解。

 

  旷视科?#24049;?#24555;作出官方回应,称网上出现的课堂行为分析图片,只是?#38469;?#22330;景化概念演示。旷视在教育领域的产品专注于保护孩子在校园的安全,其列举的方案内容主要是在出入校门的身份识别。这样的解释,却很难自圆其说。

 

  陷入争议?#22836;?#27874;,对刚刚申请IPO的旷视?#27492;担?#19981;是一个好兆头。8月25日,旷视科技在港交所提交IPO招股文件,一旦成功IPO,旷视科技将是AI上市第?#36824;傘?/p>

 

  作为AI明星创业公司,旷视一路高歌猛进,正代表了国内人脸识别产业的发展速度。以人脸识别发家的商汤、旷视、依图、云从四大计算机视觉“四小龙?#20445;?#19968;直是?#26102;?#30340;宠儿,也是人工智能公司中的“网红”。IDC(互联网数据中心)统计,2017年CV“四小龙”合计占据计算机视觉应用市场69.4%的市场份额。

 

  人脸识别所属的计算机视觉?#38469;酰?#26159;无人驾驶、VR/AR、医疗检测等应用背后的基础?#38469;?#20043;一。在深度学习算法驱动下,计算机视觉?#38469;?#22312;近几年取得了突破性的进展。众多巨头和创业公司纷?#23376;?#20837;,人脸识别成为AI最热门的赛道之一。

 

  国金证券行业研报提到,计算机视觉是最具商业化价值的赛道,全球40%的AI企业?#25216;?#20013;在该领域。应用方向上,国内以安防、金融和互联网为主,国外?#38901;?#36153;、机器人和智能驾驶为主。

 

  在所有计算机视觉创业公司中,人脸识别的公司数量最多,?#38469;?#25104;熟度也比较高。目前,中国人脸识别精确度已经超过人眼。前?#23433;?#19994;研究院的数据显示,2016年,我国人脸识别行业市场规模约为17.25亿元,同比增长27.97%。

 

  “四小龙?#34987;?#26412;都靠人脸识别?#38469;?#36215;家,不过,这些以单点?#38469;?#36215;家的CV(计算机视觉)公司正努力摆?#36873;癈V”标签,从最初的算法提供商转变成?#25945;?#25110;者服务商。旷视科技?#25918;?#24066;场团队?#24330;?#35009;谢忆楠曾对《中国新闻周刊》表示,大家跑马圈地的阶段结束,证明算法是否世界第一不重要了,目前进入到了证明商业价值的阶段,要看?#38469;?#32473;行?#30340;?#24102;来什么改变。

 

  旷视在成立之初主要推出Face++人脸识别开放?#25945;ǎ?#22914;今,其官网则强调自己是“智能物联网方案提供专家?#20445;?#19994;务涉及安防、金融、零售等领域。商汤重点发力金融、安防、智能驾驶、移动互联网、医疗和教育等行业,云从将金融、安防、风控、交通、商?#24213;?#20026;重点探索场景,依图也聚焦安防、医疗和金融、零售等行业。

 

  从头部公司探索的应用场景看来,计算机视觉的应用仍然暴露出明显的问题:应用领域重合,落地产品同质化,竞争异常激烈。

 

  不少?#30340;?#20154;士都注意到,随着人脸识别?#38469;?#24212;用进入“井喷期?#20445;骯已?#22836;卖狗肉”的产品不少,存在较大的产业泡沫。以最常见的“?#35760;?#26426;”为例,价值数百元至上万元不等,一些畅销的“千元机?#20445;?#21482;要脸部采集的数据能吻合六成以上,便能认定是同一人。市场?#39550;?#19981;齐,很多打着“人工智能”旗号的人脸识别?#38469;?#30495;假难辨。

 

  国金证券报告提到了另一个行?#20302;?#28857;:计算机视觉?#38469;?#30740;发周期长、盈利困难。除安防、金融等少数场景,大多数领域还找不到清昕的商?#30340;?#24335;。

 

  旷视科技一直处于亏损状态,根据其招股书显示,2016年至2019年上半年,旷视科技分别亏损3.43亿元、7.59亿元,及33.51亿元和52亿元。不过旷视科技回应,大幅亏损主要是由于上市引发的优先股的公?#22987;?#20540;变动。

 

  旷视招股书显示,旷视成立8年来,共融资13.51亿人民币,?#30340;?#39044;计旷视的估值会在40亿美元左右。而另一家独角兽商汤则是“四小龙之首?#20445;?#20854;联合创始人徐立近日证实,商汤今年的估值超过75亿美元。线性?#26102;?#21019;始人王淮曾对《中国新闻周刊?#26041;?#32461;,“如果仅仅是做人脸识别撑不起这么高的估值,这些公司必然要去拓展其他业务,才能匹配这样的高估值。”

 

  人脸识别公司,正在不断地尝试打破更多边界,急于向投资人证明自己的估值。人脸识别进课堂的争议,正是在这个大背景?#36335;?#29983;的。一位行业人士在接受虎嗅网采访时坦言,作为一家将要IPO,但营收并不好看、还存在亏损的人脸识别?#38469;?#20844;司之一,业绩压力也让他们想寻找各个途径实现?#38469;?#21464;现,对于一些产品设计的思考可能欠妥当。

 

  刷脸无处不在

 

  在产业前景和?#26102;?#21161;推下,人脸识别正在成为无法阻挡的趋势。

 

  前?#23433;?#19994;研究院报告显示,随着国内智慧城市的深入发展,城市监控的高清化进一步?#21344;埃?#25668;像头数量大规模增长,人脸识别在数据采集上的阻碍大大减小,提升了人脸识别的质量与应用领域。预计未来5年人脸识别市场规模将保持年均25%的增速,2022年市场规模将达到约67亿元。

 

  越来越多高校、医院、社区、工业园区、景区、机场、火车站,都在推广“刷脸”通行。清华大学新闻学院教授沈阳曾对?#25945;?#25552;到,中国人平均?#21051;?#35201;暴?#23545;?#21508;种摄像头下超过500次。

 

  2017年5月,上海开始试点“电子警察?#24330;?#25293;行人闯红灯设备。一旦监测到有行人闯红灯,设备就会对闯红灯行为进行完整摄录,并对该行人进行连续抓拍进行人脸识别,随即在周边的公交站点显示屏上进行公告。这项?#38469;?#30446;前在深圳、天津、太原、济南等多个城市都已经展开使用。

 

  各种应用场景“脑洞大开?#20445;?017年,?#26412;?#22825;坛公园在3座公厕中安装了6台人脸识别厕纸机,以此杜绝?#25377;?#32440;的行为。

 

  在网约车行业,基于人脸识别的驾驶员身份验证,也开始普遍应用。比如,美团打车的新注册驾驶员,在首次?#25317;?#21069;、更换手机设备或活跃?#25317;?#39550;驶员都会触发App端人脸识别,通过?#38469;?#27604;对确认实际运营驾驶员与?#25945;?#27880;册信息及公安部门登记信息是否一致。人脸识别未通过的驾驶员将不能?#25317;ィ?#38656;重新提交信息。

 

  而让更多人“惊喜”的是,人脸识别在抓获逃犯方面,屡建奇功。有网友统计,自2018年以来,?#26696;?#31070;”张学友在全国各地的巡回演唱会中,警方依靠人脸识别?#38469;酰?#25235;获?#24605;?#21313;名逃犯。

 

  人脸识别在社交应用软件中也无孔不入。8月底,国内一个AI换脸App“ZAO”在朋友圈刷屏,仅需一张照片,?#27809;?#23601;可以换脸成为热门剧作里的角色。其实,此类社交性的应用早就无处不在,美颜相机、照片换脸,背后皆是人脸识别?#38469;?#22312;支持。

 

  但对这项?#38469;?#23433;全隐患的担忧,从来没有停歇。人脸?#25512;?#20182;生物特征数据(如指纹)之间的一个巨大区别是,它们可以远距离起作用。智能硬件、摄像头随时随地采集个人影像资?#24076;?#38271;时间、大规模地积累?#27809;?#25968;据,而不被察觉。

 

  除了被?#24656;?#25910;集,这些人脸信息的存储,同样存在安全隐患。今年2月,GDI基金会荷兰安全研究员Victor Gevers在推特上爆?#24076;?#20013;国深网视界科技有限公司(SenseNets)发生了大规模数据泄露事件,称这家公司掌握的250多万人的个人信息,其中包含身份证号码、地址、生日、通行证、雇主,以及其过去24小时内路过摄像头的位置,可供任何人访问。

 

  人脸识别?#38469;?#26412;身也存在很多漏?#30784;?#22312;GeekPwn2017国际安全极客大赛上,毕业于浙江大学计算机专业的90后女选手“tyy”仅用时两分半钟就破解了人脸识别门禁?#20302;常?#25226;设备中存储的评委人脸换成了自己的脸,这也意味着可以用任意人脸来“蒙骗”人脸识别?#20302;常?#25171;开门禁。

 

  “目前,对人们生物特征的保护,例如虹膜、人脸、指?#39057;?#30340;保护,?#27982;?#26377;被写进现有法律,信息保护的责任主体、责任边界,如?#38382;?#29992;、处理和销毁信息,法律都未具体规定。”中国政法大学传播法研?#24656;行?#21103;主任朱巍告诉《中国新闻周刊?#32602;?#22312;法律?#21568;?#30340;当下,商业伦理要有约束力,“人脸识别公司作为?#38469;?#28304;头以及获益者,必须让?#27809;?#26377;获知风险的知情权。”

 

  ?#38469;?#21457;展的伦理?#22836;?#24459;边界

 

  不仅在中国,当前全球很多国家都笼罩着“被人脸识别监控”的忧虑。

 

  近日,微软删除了其最大的人脸识别数据库MS Celeb,英国《金融时报》报道,数据库中采集的很多图像的主人并没有授权这一行为,MS Celeb 数据库通过“知识共享”许可证来抓取和搜索图像,这引发一些人的反对。

 

  美国的一些地方开始出台禁令,对人脸识别说不。今年5月14日,美国高新?#38469;?#20135;业聚集的?#23665;?#23665;通过一条禁令,决定该市所有政府部门,包括该市交通管理局和执法部门,都禁?#25925;?#29992;这个新?#38469;酢?#38543;后,马萨诸塞州的萨默维尔?#22270;?#24030;的奥克兰相继出台人脸识别禁令。

 

  ?#20998;?#23545;人脸识别的使用更为谨慎。2018年5月,?#35775;?#23454;施通用数据保护条例(简称“GDPR”),规定违规收集个人信息(其中包含指纹、人脸识别、视网膜扫描、线上定位资料等)、没有保?#40092;?#25454;安全的互联网公司,最高可罚款2000万欧元或全球营业额的4%,被称为“史上最严”条例。

 

  近日,瑞典一所高中因使用了人脸识别?#20302;?#35760;录学生的出勤率,经过调查后被认定学校对学生个人信息处理不符合“GDPR”的规定,收到了第一张基于“GDPR”的罚单,金额为20万瑞典克朗(?#24049;?4.5万人民币)。

 

  美国国家标准与?#38469;?#30740;究院(NIST)2018年全球人脸识别算法测试最新结果中,2018年共有全球39家企业和机构参与本次竞赛,前五名算法被中国公司包揽。

 

  山世光认为,中国人脸识别?#38469;?#21644;产业的发展,得益于互联网上大量的数据,比如网民很乐于在互联网上发布自己的照片,加上国内外政界、娱乐界公众人物的照片,科技公司都可以拿来用作训练人脸识别的能力,这在法律上也处于?#30097;?#22320;带。

 

  “这些数据采集后如?#20266;?#23384;、传输,传给谁,怎么用,谁能看得到,谁能把数据考走,能否放在网络上等等,?#38469;譴看?#30340;法律问题。”山世光对《中国新闻周刊》说。

 

  作为?#38469;?#30740;发者,山世光内心的感受很复杂。在他看来,一方面,中国的人脸识别?#38469;?#21644;应用均在全球领先,如果完全追随美国和?#20998;?#23545;数据和隐私的保护,对人脸识别发展会产生很大的阻碍。

 

  但他承认,人脸识别?#38469;?#24102;来的隐私和安全问题,已经到了必须正视的时候,“要在隐私、安全和便捷三者之间找到恰当的平衡,?#24066;砑际跏识?#21521;前发展,同时保护公民隐私。”

 

  (应受访者要求,周琪为化名)

责任编辑:郭银双

失落的国度彩金
11选5每期必中 北京pk10计划在线计划 三肖六码中特免费么开 山东11选5走势图表 琼崖海南麻将官方网下载 微乐广西麻将外挂 活力霜赚钱吗 北京赛車pk10非凡计划 11选5手机助手下载 七乐彩2017134期开奖结果 11选5下期推算方法 上海时时最快开奖结果记录 重庆时时开奖和值走势 时时彩最准计划软件 河北l1选5开奖号 在南京干什么业务赚钱