AI换脸视频、校园门禁系统:人脸识别应用引民众担忧

AI换脸视频、校园门禁系统:人脸识别应用引民众担忧
2019年11月19日 07:30 新京报

  相关新闻:

  8元买3万张人脸照片,到底是谁在买卖你的“脸”?

  黑产盯上人脸识别!花百元探探上可变脸明星艺人

  原标题:“看”脸时代,人脸识别应用引来争议

  人脸识别广泛应用到支付、娱乐、教育等领域,有人感叹科技的进步,也有人质疑“我的脸到底属于谁”。

  人脸,承载了重要的身份信息,而在技术面前,人脸正成为辨认个体身份的“重要数据”。从上班打卡到消费支付,从安保检查到酒店入住,从应用软件到视频娱乐,人脸识别的技术正应用到工作、生活的各个领域。

  人脸识别广泛应用,有人感叹科技的进步,也有人质疑“我的脸到底属于谁”?近期,中国人脸识别第一案备受关注。因杭州野生动物世界启用人脸识别入园,该园年卡用户认为其强制收集个人面部特征,违反《消费者权益保护法》而将杭州野生动物世界诉至法院。

  事实上,人脸识别带来的争议远不止此,从AI换脸淫秽视频到ZAO App的用户协议争议,再到人们对人脸识别进校园、恶搞视频泛滥的迷惑,这些都从不同维度反映着民众对人脸识别技术的担忧。

记者体验某公司智慧课堂人脸识别技术相关系统。  新京报记者 程平 摄记者体验某公司智慧课堂人脸识别技术相关系统。  新京报记者 程平 摄

  风波:“换脸”淫秽视频网上依然有售

  今年8月,新兴的娱乐换脸软件“ZAO”(陌陌公司的一款产品)一夜之间冲上了微博热搜,ZAO在苹果应用商店的标语是“仅需一张照片,出演天下好戏”,ZAO使用AI技术,将用户上传的照片置入影视片段之中,实现用户与“明星”的换脸。

  随着该软件被用户熟知,ZAO的用户协议也受到了争议。新京报记者调查发现,ZAO在用户协议中写到,“保护您的用户信息与个人信息是ZAO及其关联公司的一项基本原则,您同意,ZAO及其关联公司将按照本协议及《隐私政策》的规定收集、使用、存储、管理和保护您的用户信息与个人信息;若您不同意或无法接受《隐私政策》全部或者部分条款或者有疑问的,请立即停止使用ZAO提供的服务,您继续使用ZAO提供的服务将被视为接受”。

  上述协议内容意味着,用户使用该软件,则被视为同意隐私政策,ZAO可以收集、使用、存储、管理和保护用户信息与个人信息。不仅上述条款,ZAO的用户协议中,有关用户上传内容的使用权、授权内容位置、隐私协议、版权等方面均遭到质疑。

  9月3日,针对媒体公开报道和用户曝光的ZAO用户隐私协议不规范,存在数据泄露风险等网络数据安全问题,工信部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈。新京报记者近期调查发现,ZAO的用户协议已经修改,肖像权、授权内容、用户个人信息保护等内容被放置在用户协议的明显位置。

  ZAO受到关注之前,新京报记者曾调查发现,有人利用“AI换脸”技术制作淫秽视频,并在网络上传播售卖,甚至有人出售制作教程。这些视频通过电脑技术将明星的脸植入淫秽视频中,买卖方多通过贴吧、QQ和闲鱼进行沟通交易。

  近期,新京报记者调查发现,名为“AI换脸”“deepfake(与AI换脸相关的技术)”的贴吧均已被清理。不过,网络上依然可以找到“明星换脸”“fakeApp(与AI换脸相关的技术)”等贴吧,并且贴吧里仍然存在网友自制的“明星换脸”视频。

  新京报记者在贴吧中联系上某淫秽视频卖家,该卖家向记者出示了包含明星名字、“明星换脸”淫秽视频类目、“明星换脸”淫秽视频截图等。卖家称,视频仅以打包价形式出售,214部138元,附送精品在线看网站+AI网站(4个)或80部50元。

  同时,新京报记者在闲鱼上检索“换脸”“AI换脸”“明星换脸”“deepfake”“fakeApp”等关键词,均未搜索出任何相关商品;在淘宝上搜索相同的关键词,只检索到“AI换脸视频教学”等商品。值得注意的是,多个明星的大头照正被作为训练人工智能的素材被售卖。

  争议:人脸识别走进校园,有赞成有质疑

  2018年,杭州某中学将一款“智慧课堂行为管理系统”应用于课堂教学,时任校领导表示,该系统可实现无感“刷脸”考勤,同时通过摄像头,还可对课堂上学生的行为进行统计分析,对异常行为实时反馈。该领导曾在接受新京报记者采访时表示,“所采集的只是学生行为状态信息,进而转换成代码进行分析,而不是课堂录像,不涉及学生们的隐私”。

2019年10月15日,南京某大学近期启用了人脸识别门禁系统。 图/视觉中国2019年10月15日,南京某大学近期启用了人脸识别门禁系统。 图/视觉中国

  新京报记者近日选取某公司的人脸识别课堂舆情产品进行测试,被监控区域中的人脸会被系统自动抓取,并在显示器上被红色边框标示出来,边框右侧显示的是被分析的结果,包括什么情绪、注意力程度,以及皱眉、张嘴、闭眼、抿嘴的具体次数。记者测试发现,该系统存在一定程度的误差,识别的脸部表情、心态与实际有不符合的情况。

  事实上,随着智慧校园的建立,多个高校已经引入人脸识别、人脸数据采集分析等相关系统。新京报记者了解到,目前北京大学、清华大学、中国传媒大学等北京高校,均配有人脸识别的门禁或设备。

  “我们学校东门今年新设了人脸识别门禁系统,我觉得很方便。”中国石油大学(北京)的学生王强(化名)表示,原来需要刷学生卡才能进入学校东门,现在只用刷脸就进去了,他认为没有什么不妥,不用带卡也更方便。

  “利用人脸识别类技术,无论是进行课堂管理还是教学效果分析,都不可避免要收集用户的数据。”联合国网络安全与网络犯罪问题高级顾问吴沈括告诉新京报记者,若类似技术被非法利用,个人信息的安全等问题将存在法律风险。也有观点称,人脸识别技术应用在教育领域涉及伦理问题。

  目前,华为、百度、商汤科技、云从科技、旷视科技等公司都有人脸识别技术研发,并涉及公共安全、信息安全、政府职能等多个领域。智研咨询《2017-2022年中国生物识别设备市场供需预测及发展趋势研究报告》显示,预计到2020年,指纹识别市场规模将达到130亿美元、人脸识别将达24亿美元、虹膜识别将达到16亿美元。

  上述报告还指出,中国在生物识别技术领域研究已处于世界先进水平,但目前应用规模和渗透率与欧美市场相差还很大,加之目前行业增速稳定,估计国内未来将有较大发展空间,预计2020年生物识别市场规模将突破300亿元。

  诉讼:中国人脸识别第一案受关注

  说到人脸识别的争议,最受关注的恐怕要数中国人脸识别第一案。

  11月1日,浙江理工大学特聘副教授郭兵收到杭州市富阳区人民法院的受理案件通知书,法院决定立案受理郭兵诉杭州野生动物世界一案。郭兵于2019年初花费1360元购买了杭州野生动物世界的年卡,该卡有效期一年,入园时要同时验证卡和指纹。2019年10月17日,郭兵收到园区发来的短信称,“年卡系统已升级为人脸识别入园,原指纹识别已取消,即日起,未注册人脸识别的用户将无法正常入园。”

  尽管园区表示,这一做法出于让游客快速通行的需求,但郭兵认为,杭州野生动物世界在未经其同意的情况下,通过升级年卡系统,强制收集他的个人生物识别信息,严重违反了《消费者权益保护法》等法律的相关规定。同时,现由于杭州野生动物世界的原因导致年卡无法正常使用,郭兵希望,杭州野生动物世界应退还年卡费用。

  “这不仅是对于我自己权益的侵害,很多人可能都面临着这样的情况。”郭兵对新京报记者表示,面部特征等个人生物识别信息属于个人敏感信息,一旦(被)泄露、非法提供或者滥用,将极易危害消费者的人身和财产安全,“如果是政府部门,特别是公安为了社会公共秩序进行人脸识别,可能具有一定必要性。”

  北京志霖律师事务所副主任赵占领表示,收集、使用个人信息需要符合正当、合法、必要的原则,需要公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意,“人的脸部特征这种生物信息属于个人信息的范围,也是需要遵守网络安全法等相关法律法规的规定”。

  除了此案,歌手蔡徐坤给哔哩哔哩弹幕视频网站(B站)发律师函,也曾把娱乐换脸视频推上了风口浪尖。今年4月,蔡徐坤方发出律师告知函,认为B站上存在大量严重侵犯蔡徐坤权利的内容,包括滥用肖像、故意诽谤、恶意剪辑等。蔡徐坤方提到的恶意剪辑视频,就包括恶意将其他人的脸换到蔡徐坤的表演视频里。新京报记者调查发现,不仅蔡徐坤,B站上有大量的“AI换脸”视频,且人气较高,其中,一个将明星蔡徐坤的脸替换成前网络游戏主播卢本伟的脸的视频,在哔哩哔哩上的播放量为260多万。

  不少B站网友,在相关“AI换脸”视频评论区留言“毫无违和感”“搞笑”“换脸也是恶搞视频的一种,就是图个乐”。网友舒米(化名)告诉新京报记者,他出于猎奇和娱乐心态,喜爱观看“AI换脸”视频。但也有多名网友在相关视频的评论区提出了对于“AI换脸”技术的其他看法,网友灰烬(化名)说,“‘AI换脸’,(可能用于)敲诈勒索色情造谣,技术无罪,果然还是人本恶”。

  新京报记者 程平 陈维城编辑 赵泽  校对 刘越

新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片