Google打脸!利用外包公司继续训练AI武器

Google打脸!利用外包公司继续训练AI武器
2019年02月08日 12:33 新浪科技-自媒体综合

  原标题:Google打脸!利用外包公司继续训练AI武器,被讽明修原则暗搞外包

  来源:量子位

  文:雷刚 安妮

  难以置信,这竟是Google如今的做事方式。

  或许你还没有忘记,有个叫Maven的美国国防部AI武器项目。

  而且就是因为Google参与该项目,内部抗议一波接一波,离职进谏者不计其数,近4000员工联名声讨。

  后来,内外压力之下,2018年6月,Google官方宣布停止参与AI武器研发,并发布AI原则作为指导。一时化舆论危机为道德风骨。

  然而万万没想到,不作恶巨头也有明修栈道暗度陈仓那一套。

  一边是高调建牌坊,另一边则背地里雇佣众包零工人员继续进行AI武器训练。

  这,就是Google刚刚被曝光的新春之雷。

  众包平台训练武器AI

  事情从一家名为Figure Eight(图八)的众包公司说起。

  图八公司,做的就是数据标注一类的工作。他们接项目,然后安排给平台上的“工人”,并以时薪1美元(7元)支付报酬。

  工人们任务也不难,看起来都是一些简短且无须思考的任务,比如识别区分所给图像中的人物,是否符合要求——符合就框出来,不符合就下一张。

  但根据美媒The Intercept最新截获的邮件显示,其中就有一个专门为Google和国防部完成的项目。

  而且就是那个“声名在外”的Maven项目。

  所谓Maven项目,简而言之就是无人机武器。但跟战狼中所用的人控无人机不同,这里的无人机有AI加持,拥有视觉能力,可以区分“敌我”,最后甚至能自主决定攻击。

  但你也知道,AI实现区分“敌我”之前,需要人类通过大量数据和案例教会AI谁敌谁友、分清楚哪些是树木哪些是人——有多少人工,就有多少智能。

  这个图八公司,接的就是这个生意。

  所以按理来说,Google宣布停止参与Maven项目后,合作方图八的任务应该也就一并中止了。

  但The Intercept截获的邮件显示,图八的数字工人们还在不断交付工作,只是他们并不知道究竟在完成什么项目、又是为谁工作而已。

  图八方面也确认,Maven项目的任务还在继续。

  所以换而言之,在Google宣布中止Maven项目大半年后,背地里还有模型训练的工作马不停蹄。

  不知道那些以离职抗议的Google员工,知道真相后作何感想?

  但Google官方已经对此表示未置可否。

  The Intercept就此向Google求证时,发言人把问题转交给了图八公司——大概就是想表明这事儿得问图八。

  不过就外泄的邮件内容来看,Google从中标Maven项目后不久,就已经跟图八公司展开了合作。

  现在想要切割,为时晚矣。

  评论汹涌

  事情被爆料后,网友搬板凳看热闹的阵仗好不热闹。

  无论是外媒、推特、论坛还是国内的微博,网友都开启了热议模式,针对此事的观点评论几乎可以一分为三。

  有吃瓜群众对谷歌“表里不一”的行为表示大跌眼镜,把“不作恶”写进自己的准则却又一再打破,不少网友表示“让人失望”。

  有网友感慨人工智能技术在成熟前竟然需要这么大的标注工作,先有人工后才有智能。

  外媒VentureBeat的记者John Koetsier认为,整件事太讽刺了,人们为了训练AI最终能替代自己干活,竟然在做一些不需要动脑子的微小工作。

  也有微博网友提供了一个点子,认为与其利用零工经济聘请兼职来标注,不如直接放到游戏里让玩家对其训练。

  最多的讨论,是关于谷歌这次处理问题的态度以及影响,不少国外网友气愤的同时,又在“瑟瑟发抖”。

  社会学家Casilli推特表示,这是一个有关发言权的问题。无论是兼职也好、零工也罢还是社交平台的用户,都有权利认识和监督其生产活动。

  不少国内微博网友也认同此事,表示心疼这些连自己在做什么都不知道的工人。

  网友TeameZazzu开始担忧谷歌的一系列AI军事项目,他认为正如美国国家安全局此前国内大规模监听丑闻那样,反恐工具很快就会转移到国内警察部门。在WAMI(广域运动图像)案例中,被执法机构使用显然是违反美国宪法的,是对自由、隐私和民主的生存威胁。

  王子&庶民

  当然,事件曝光后的评论中,另一个问题也被凸显。

  在图八的整个工作中,由于雇主和项目可以选择匿名,而且工作任务被切分得极其细致。

  所以工人们根本不知道自己在为谁工作,也不知道自己正在做什么。

  那么争议来了:

  在AI武器这样的“是非题”中,Google的员工有选择的权利,但图八的工人们,甚至连知情权都没有。

  未来这些AI武器大杀四方甚至被非人道使用时,他们也不知道自己曾帮助过这些武器的实现。

  所以在涉及道德争议任务时,是否也该让众包工人跟Google员工享有同等的知情权?

  而且就在最近,参与Maven项目抗议的Google员工,还获得了“2018年度军控人员”的全球评选。

  但图八公司的众包工人呢?如果不是今日事件曝光,可能他们永远不知道,自己一直在参与Maven项目。

  迫于生计,他们可能也没有选择,但是否就此变相剥夺他们的选择权?

  另外,明修牌坊,暗地里继续训练军事AI,这真的是Google的选择吗?

AI无人机Google
新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

来电聊

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片