微软聊天机器人上线一天就被“教坏”了

2016年03月25日 08:07 新浪科技 微博
微博 微信 空间 分享 添加喜爱
广告

  新浪科技讯 北京时间3月25日凌晨消息,由微软开发的一个聊天机器人已经在Twitter网站上变成了“流氓”,它不但辱骂用户,还发表了种族主义评论和煽动性的政治宣言。

  这个实验性的人工智能(AI)聊天机器人名为“Tay”,可通过人类对话进行学习,其设计目的是与18到24岁之间的年轻人进行互动。在微软放出这个机器人的短短24个小时以后,该公司就不得不对其发表的一些煽动性评论进行了编辑处理,并表示该公司正在“进行一些调整”。

  微软发表声明称:“人工智能聊天机器人Tay是个机器学习项目,专为与人类交流而设计。在学习过程中,它作出的一些回应是不合适的,反映出了有些人与其进行互动的语言类型。我们正在对Tay作出一些调整。”

  Tay由微软技术和研究及必应(Bing)团队开发,可通过海量的匿名公开数据学习如何与人类沟通。另外,与Tay共事的还有包括即兴喜剧演员在内的一个团队。Twitter用户受邀与这个聊天机器人进行互动,其他一些社交媒体的用户也可在Kik或GroupMe上将其添加为联系人。

  微软称:“Tay的设计目的是与人进行交流并为其带来娱乐,能够通过休闲幽默的对话与人进行线上互联。Tay越是与人聊天就会变得越聪明,因此与她进行对话的体验将可变得越来越个性化。”

  但这种设计所带来的一种不幸结果是,Tay在与人类交流的过程中被“教会”了像纳粹主义同情者、种族主义者和种族灭绝主义者那样发布Twitter消息。同时,试图与其进行严肃对话的用户也发现了这种技术的局限性,他们指出Tay似乎对流行音乐或电视不感兴趣。还有人猜测,Tay如此之快地就降格至与人类进行不合适的聊天对话,可能表明了人工智能的未来。(唐风)

推荐阅读
最新
关闭评论
我有话说
分享到微博
发布
最热评论 刷新
原创策划

精彩专题

苹果推出4英寸iPhone SE

苹果推出4英寸iPhone SE

苹果春季新品发布会仅1个小时,推出4英寸iPhone SE,新增玫瑰金配色,国行售价3288元起。 [详细]

知读会

硅谷都在读的格鲁夫旧书

硅谷都在读的格鲁夫旧书

格鲁夫30年前的中层管理手册,同样适用于当代科技创业公司。书中的一些举措很有参考意义。 [详细]