科技的进步总是出乎我们意料。 尽管一直以来我们都在讨论AI将对未来生活、教育等产生哪些变化，但实际生活中，我们尚停留在为“学生时代打小报告是否可耻”喋喋不休的阶段。 直到近日网络上出现一张课堂行为分析图片，当头一棒，英剧《黑镜》脑洞大开的剧情已然离你我不再遥远。
画面显示，两位学生正身处教室，而人工智能系统早已在一旁标注出她们在课堂上睡觉、举手、趴桌子和阅读的次数。 一时之间，网友有关人工智能监视学生行为所带来的隐私、伦理价值问题声讨不断，视频中出现的旷视科技因此成为众矢之的。
而即将IPO，正走着上坡路的旷视觉得有点“冤”，声称，这只是技术场景化概念演示。
亟需开拓商业化道路的人工智能行业有“向善”的余地吗？
AI以超乎常人想象的速度进入日常生活，又有哪些问题迫在眉睫？
“AI向善”转身“画地为牢”？
在此之前，AI进入校园的新闻就已经层出不穷。 据梨视频报道，上述旷视人脸识别系统早已落地应用在中国药科大学，该校两间教室“试水”安装人脸识别系统，用于日常考勤和课堂纪律管理。 系统在学生进教室后能自动识别个人信息，系统自动签到签退，全程监控学生上课听讲情况，就连学生发呆、打瞌睡和玩手机等动作行为都能被识别出来。 虽然在声明中，旷视表示校园内的人脸识别系统主要用于智能校门、教室门及宿舍的出入，方便学生安全出入校园。
但根据校方说法，相关系统已在两间教室中进行试点，如果效果好，会进行全校推广。
运用类似人工智能系统的还有杭州第十一中学。 2018年，杭州第十一中学就将名为“智慧课堂行为管理系统”的科技应用在了课堂教学。 这一系统可以对课堂上学生的行为进行分析，并对异常行为实时反馈。 系统每隔30秒会进行一次扫描，针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为，再结合面部表情是高兴、伤心，还是愤怒、反感，分析出学生们在课堂上的状态。 校方向新京报表示，课堂学生行为统计分析属附加功能，“现在应该说连 (考评) 参考都谈不上”。 紧接着，上个月，上海中医药大学附属闵行蔷薇小学被爆出正在构建智能课堂行为分析系统，运用如姿态评估、表情识别、语言识别、教师轨迹热力分析等技术，探索对课堂教学过程的定量分析。
教育本该建立在人与人、人与世界的沟通和互动中。
伴随着人工智能系统进入校园，大众期望的是在教育方法上的变革，例如根据学习者的个人偏好和学习进度实现个性化，或者组合虚拟现实等技术，在沉浸式环境中习得新知识。 而实际上，我们看到的是学生的七情六欲被量化，监视方一键即可收取学生个人信息。 假以多维度了解学生的名号下，其实加剧了师生信息上的不对称，教育二字荡然无存，只剩机械的控制。 此外，可以试想，校园场景运用成功后，AI监测还将蔓延到办公室、公共场合……
52亿亏损后的旷视还有“向善”的余地吗？
近些年来，“向善”一直被挂在科技巨头嘴边，那么利益当头，他们有避利趋善的余地吗？ 我们不妨借此次事件的焦点旷视科技管窥一下人工智能行业的情况。 经常有这么一句说法，下个十年是AI的十年，如果说AI行业是皇冠，那么人脸识别就是皇冠顶部的钻石。 而李开复曾评价AI界有四大独角兽，旷视占得一席。
北京时间8月25日晚，旷视科技在港交所提交了招股书，更是成为四大独角兽里上市领跑者。
可以说，2011年，刚诞生的旷视就备受瞩目，主要因为其创始人均毕业于图灵奖得主姚期智院士创立的清华大学“姚班”。要知道，拥有“半国英才聚清华，清华一半英才在姚班”之称的班级，今年录取名单里涵括了24名奥赛金牌得主，以及3省理科状元。 （据此，有网友调侃，学霸们研发的AI正在不断压缩学渣摸鱼的空间。）
自从推出首个人脸识别应用Face++以来，旷视科技越发受到资本市场的青睐。 7年时间里获9轮融资，融资金额超过70亿元，而创始人印奇和杨沐也曾凭此登上过福布斯中国“30 Under 30”榜单。 从2016年到2018年，旷视全年的收入分别为0.67亿元、3.13亿元、14.3亿元，复合年增长率超过3.5倍，而且2019年上半年的收入达到了9.49亿元，同比也增长了超过2倍。
按2018年收入计算，旷视是中国最大的云端人脸识别身份验证解决方案供应商，占据逾六成的市场份额。 在2018年中国生产的配备身份验证功能的安卓智能手机中，超过七成使用了旷视的基于人脸识别的设备解锁方案。 另外，金融科技公司（如招联金融）和网约车平台（如首约汽车）也采用了旷视的身份验证功能。
然而在一众拍手叫好的情况下，旷视的亏损也不容小觑。
在2016年到2018年期间，其年度亏损分别为3.42亿元、7.58亿元、33.5亿元。 仅仅在2019年上半年，旷视亏损更是达到惊人的52亿元，同比增长超过6倍。 对此，招股书作出进一步说明称，这52亿亏损中有超过98%原因在于公司估值快速增长，属于非现金科目的调整，并不是真实的业务情况。 从现阶段来看，背靠政府机构和企业的旷视科技在商业化道路上确实取得了一定成功。
但不可否认的是，技术开发活动本身具有不确定性，大额的资金研发未必能够创造相应利益，况且人工智能领域的更新十分迅速，技术、人才储备和市场占有率，这些都不足以让目前的旷视一劳永逸。
重重压力下，可以说留给旷视，甚至整个人工智能商业公司践行“向善”的时间和余地并不多了。
亟需解决的不止是隐私问题
无论是AI“监视”学生，还是近日同样被热议的AI换脸，归根结底，当人们在讨论“科技向善”时，聚焦的仍是技术价值观问题。
在AI运用到教育场景问题中，公共数据和个人隐私的界限模糊只是受争议的一小部分，更值得关注的是AI驱动进度已经比我们现行的法律超前很多，以及关于人工智能伦理探讨从未停歇。 一边是无人限制的黑箱，另一边是处处被监测的你我，可能正如马斯克同马云对话中所说的那样，“未来科技发展将会超越我们理解它的能力，我不知道这样是好事还是坏事”，AI正在逼近我们的日常生活，“我希望AI是个好东西”。
