设为书签 Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。 您也可下载桌面快捷方式。点击下载 | 新浪科技 | 新浪首页 | 新浪导航

人在坐,AI在看

2019-09-03 12:50:57    创事记 微博 作者: 量子位   

  欢迎关注“创事记”微信订阅号:sinachuangshiji

  文/乾明 鱼羊

  来源:量子位(ID:QbitAI)

  教室之内,你做什么AI都有记录?!

  为此旷视不得不回应了。

  昨天,一张带有“MEGVII旷视”图标的视频监控图像在社交网络上疯传。

  图中显示,两名在教室中的女生身边,显示出了相应的课堂行为数据,比如趴桌子、玩手机、睡觉、听讲、阅读、举手等等。

  伴随这张图,还有大量网友严厉的指责与质疑,认为这样的技术不应该出现在课堂中。加之变脸AI应用ZAO引发的关注,隐私话题再次被谈及。

  不过相比起来,旷视对这些批评感觉有些冤,按照其官方回应,“这只是技术场景化概念演示”。

  但引发的关注还在继续,更多教育场景内的AI应用,也引起前所未有的重新审视。

  摄像头盯着你上课

  事情跟刚刚进入的开学季有关。

  九月新学期开始后,不少学生就发现,自己熟悉的校园中出现了人脸识别系统。

  比如位于南京的中国药科大学,在校门、图书馆和宿舍都安装了人脸识别门禁。

  对于智能门禁,学生们的接受度倒是很高。有人认为这套系统识别准确,速度也很快;有人表示不再担心忘带校园卡,确实很方便。

  学校保卫处负责人也表示,比起从前实行的校园卡刷卡通行,人脸识别系统的引入解决了过去师生忘带校园卡的麻烦,也解决了代刷卡、复制卡等校园安保问题。

  但这套来自“刷脸之王”旷视Face++的系统,可能不止是人脸识别刷门禁。

  在梨视频的采访中,校方介绍,这套系统不仅能对进入教室的学生进行全程人脸识别,还能监测到学生抬头低头,是否玩手机,是否发呆等行为细节。

  关于这类系统,旷视也早有过相关介绍,目标所指是辅助教育:

  “在课堂教学评价系统中,旷视科技将自主研发的人脸识别、行为识别、表情识别等技术,集成在考勤及行为分析摄像机MegEye-C3V-920和行为分析服务器中。

  通过对课堂视频数据进行实时的结构化分析,反馈学生行为、表情、专注度、前排上座率等多维度课堂数据,辅助教学评估评价。”

  没想到,竟然在社交媒体上引发大讨论。

  旷视在官方回应中说,自己在教育领域的产品专注于保护孩子在校园的安全。

  相应的解决方案,可以协助学校管理人员提升效率并保障学生安全,主要用于智能校门、教室门及宿舍的出入,方便学生安全出入校园。

  至于引发讨论的课堂行为分析图片,是技术场景化概念演示。

  但根据校方说法,相关系统已在两间教室中进行试点,如果效果好,会进行全校推广。

  其实,这样的技术和应用并不算稀奇。有网友表示,这种校园分析的新闻去年前年就有了,现在竟然来了个大爆发……而且成为热搜事件,着实意料之外。

  教育场景正成为AI落地跑马场

  但不容忽视的事实是,这几年来AI赋能落地千行百业的声势越来越大,在这样的大趋势面前,教育场景可以说是蓝海一片。

  《2019年中国智慧教育行业市场发展及趋势研究报告》数据显示,2010-2018年中国智慧教育行业规模持续扩大,增速保持在10%以上,2018年市场规模超过5000亿元。

  众多AI技术公司、教育场景公司,都纷纷加入战局,加入新红利的争夺中。

  而且作为AI领域最为成熟的技术方向,各种计算机视觉/人脸识别方案早已见怪不怪。在校园中采用人脸识别技术,也都已经不稀罕。

  但没有哪家公司的方案,止步于门闸刷脸。

  闸机只是切入点,更多方案提供商希望的是用AI来重构整个教育全流程,课堂自然是一个能够大展拳脚的地方。

  当然,水大鱼大,竞争者也多。提供这样方案的,远不止旷视一家。

  打开搜索引擎搜索“课堂人脸识别”,能够得到621万条结果,各种大大小小的公司,都有相应方案。

  其中甚至不乏更为惊人的“黑科技”方案。

  比如掌门1对1,已经与商汤达成战略合作,在情绪智能识别等领域进行研究,目的就是通过在线辅导的情绪识别,看学生是否处于认真上课的状态。

  创始人兼CEO张翼还分享过用“脑电波”的设想:

  “脑机交互的可穿戴智能设备可以实时监测学生的脑电波数据,通过脑电动态数据采集分析,对学生在学习过程中进行情绪识别、疲劳度识别,分析判断学生在学习过程中的精神状态、思维活跃度和学习专注力。”

  此外,还有英特尔、K12在线教育机构海风教育,少儿英语教育结构VIPKID等等都有相应系统与解决方案提供。

  总体来说,之前“一块屏教育”的故事延续,就是AI可以帮助教学过程实现数据化、机器学习化。

  而且谈到AI落地传统学校,也不是只有这次引发关注的中国药科大学。

  随手一查,案例新闻非常丰富:

  比如2018年5月,浙江省重点杭州第十一中学(阿里云之父王坚母校),将名为“智慧课堂行为管理系统”的科技应用于课堂教学。

  新京报报道中表示,这一系统也可以对课堂上学生的行为进行分析,并对异常行为实时反馈,工作流程是这样的:

  “系统每隔30秒会进行一次扫描,针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。

  目前仅趴桌子一项为负分行为。若此类不专注行为达到一定分值,系统就会向显示屏推送提醒,任课教师可根据提醒进行教学管理,而显示屏仅任课教师可见。”

  不过,校方也给出了回应,在系统设计伊始,便考虑到了隐私问题,系统只采集代码,并非学生面部影像。

  此外借AI落地之名进入校园,也不仅仅只是基于人脸识别的解决方案,还有基于各种传感器的“智慧校服”。

  去年12月底,贵州10多所中小学的学生穿上“智能校服”引起大量关注。

  供应商介绍称,这套智能校服,能精准、及时记录他们的出勤和活动。只要身着这套校服,学生进出校门的准确时间就会自动发送给学校老师和家长。

  而且如果未经许可出校门,那也会激活自动语音报警器。校服还会配合校门口的智能摄像头一起使用,假如学生互换校服,警报也会响起。甚至它也能发送准确的具体位置,帮助学校和家长快速定位。

  但类似方案,也不是中国专利,全球同此凉热。

  早在2012年3月份,巴西也推出了类似智能校服,引发了媒体广泛关注。

  巴西维多利亚达孔基斯塔市最早推出一款智能T恤,这条T恤内置了芯片,可以让家长知道孩子究竟有没有逃课了。

  还有瑞典(真欧洲国家)一中学,使用人脸识别等技术对22名学生进行了为期三周的跟踪调查,记录下他们每次进入教室的情况。

  毫无疑问,这样的人工智能入校、AI+教育,也同样引起了争议与广泛的讨论。

  争议四起:隐私何在?

  核心热议焦点,依然是AI技术落地中的技术。

  有抖机灵的网友说,学霸们研发的AI,正在不断压缩学渣摸鱼的空间。

  但更多网友,关注的还是技术价值观的话题:技术本身无罪,但这并不代表技术的落地,不需要多方面权衡考量。

  而且日常工作学习为摄像头所监控,监控背后的AI还要分析量化你的一举一动,未免让人有些毛骨悚然。

  另外在这场突然掀起的风暴之中,AI落地带来的“隐私”边界,也令人深思。

  有微博网友认为,这种无死角全过程的AI监控,是在扼杀情感。

  有人表示绝对不会让自己的孩子处在这种环境之中。

  也有人指出,这是对教育的本末倒置,学校应用这种技术,不是在培养人,而是在培养升学率。

  “技术再好,用的地方不对有什么意义呢?”

  这种评论也代表了很多吃瓜网友的心声。就像《黑镜》中描述的未来科技,诞生之初哪有正邪之分呢?

  除了隐私、自由,教育场景中令人担心的还有数据安全问题。

  2018年8月的一则判决文书中,就披露了一起非法出售学生信息的案例。

  当时负责管理维护安徽全省学籍管理系统的张某,利用职务之便,以每条1毛钱的价格,出售了4万名学生的隐私信息。据新浪财经报道,张某任职的公司正是科大讯飞。

  前沿技术的发展,有时候远超公众的想象。当一项技术真正走向落地,就不再是小众的狂欢,而要接受大众的审视。

  如何选择更合适的技术落地场景,如何兼顾科技与社会人文,或许是AI赋能,必须要去面对和思考的问题。

  国内国外,也开始越来越多传递出这样的风向。

  比如谷歌开始越来越多科普利于隐私的“联邦学习”,腾讯在创办20周年时将“科技向善”写入公司使命和愿景,而即将IPO上市的旷视实际也在招股书中明确建立“AI道德委员会”。

  掌舵微软AI的沈向洋还呼吁,应该每一项AI技术和产品应用前,都要通过伦理道德委员会审查。

  虽然人类在发明汽车80年后才发明安全带,但AI时代里,我们需要现在就为AI技术系上安全带了。

  总而言之,AI和隐私安全的话题,一切还不会就此终止,还会有更多事件、更多应用被放在聚光灯下审视。

  你觉得呢?

(声明:本文仅代表作者观点,不代表新浪网立场。)

分享到:
保存   |   打印   |   关闭