暗黑机器人雷锋网读懂智能&未来首页 AI研习社 AI影响因子 活动 专题 精选 爱搞机
业界人工智能智能驾驶AI+ Fintech&区块链未来医疗网络安全AR/VR机器人开发者智能硬件物联网GAIR
国际正文
1
不仅仅是Tay：暗黑系AI聊天机器人历史一览
本文作者：Misty 2016-03-28 15:41
导语：微软人工智能语音聊天机器人Tay原本清纯萌萌哒，最后成为暗黑系种族主义者，其实这种情况并不是第一次发生......
不仅仅是Tay：暗黑系AI聊天机器人历史一览
微软打造Tay的本意，其实是让这只AI聊天机器人说出各种各样古怪有趣的笑话，然而事实是后来的Tay被活活调戏成了种族狂热者。就在Tay开始在Twitter上与人“对话”（或是微软所说的“学习”人类讲话）的短短几个小时之内，这款清纯的机器人变成了一个邪恶的话题终结者。
现在Tay已经下线了，微软表示他们将对Tay做点“调整”。但我们猜测，微软是想阻止Tay在种族灭绝言论的道路上越走越远。同时，很多人想知道为何微软最初没有预料到如今的局面。如果你打造了一个会重复任何话语（包括一些暗黑种族歧视言论）的聊天机器人，你得料到这一天终将到来。
其实，AI聊天机器人最后成为种族主义者并不是第一次发生，之前在互联网历史上也出现过诸如此类的暗黑系机器人。现在让我带大家来看一看吧。
BOT OR NOT?
2014年，Anthony Garvan打造了Bot or Not？，旨在推出一款俏皮的Turing测试衍生物。系统对玩家进行随机配对，并要求玩家猜测他们的对话者是人类还是机器人。和Tay一样，这款机器人也会从之前的谈话内容中学习人类讲话。
Garvan上周四在某个社交网站上表示：当Bot or Not?在社交新闻站点Reddit上走红之后，它开始变得有点不对劲了……
”在激动心情平复之后，我开始亲自测试它，来验证下我的成绩。以下是我们对话的内容。”
我：Hi!（你好啊！）
机器人：n***er（屏蔽词）
Garvan浏览了一下玩家们对这款游戏的评论，他发现有些用户察觉到了这款机器人最终会重复它之前学习到的讲话方式。
他写道：“很多人向机器人灌输了各种种族主义言论。”
Garvan通过清除这些言论并调整游戏来处理此问题，应对那些向机器人极力输入种族主义言论的用户。
在他本周发出的文章中，Garvan对Bot or Not?和Tay出现此状况的原因发表了意见。“我相信微软和其他的机器学习社区变得太过强大，数据太过神奇，以致于它们忘记了这些数据原本来自于我们生活的这个不那么美好的世界，”
可口可乐的MAKEITHAPPY机器人
MeinCoke于2015年由Gawker开发，它在与用户对话中引用了很多希特勒的《我的奋斗》中的原话。
原因何在呢？如果你还记得可口可乐这个短期项目的原意是将尖酸刻薄的推文变成可爱的ASCII（美国信息交换标准代码）你也许就知道答案了。
可口可乐这项名为MakeitHappy的项目旨在向人们展示一个软饮品牌如何让世界变得更加快乐。但是最终形式是重新设置了其推特账号，于是账号可以重组很多糟糕的词汇，最后将其拼凑成一个“happy”的形状。
之后Gawker的一位员工发现了此项目背后的自动过程可以让@CocaCola这个账号发布关于美国白人种族主义的14个单词口号（口号的形状是一只超萌的气球狗狗！），该公司设置了一款机器人，它能直接引用希特勒自传中的话语，然后用#MakeitHappy当话题来发布推文。在该项目结束之前，可口可乐已经发布了很多诸如此类的推文了。
WATSON
大约五年前，IBM的一位科学家决定尝试着教Watson一些网络俚语，他向此款机器人输入了整本《城市词典》（美国在线俚语词典），Watson也就学习了许多新潮的词语和犀利的俚语。
《财富》杂志报道：Watson并不能区分《城市词典》中充斥的政治语言和脏话，同时它在阅读维基百科的时候也养成了一些坏习惯，在测试中，它甚至在一位调查者的问答中使用了“bullshit”(鬼话)这种脏话。
在Watson真正死亡之前，他的团队正极力为他“洗脑”,将这本词典撤出Watson。
总而言之，如果微软想让Tay反映整个互联网教会她的东西，那么微软是成功的。但如果它的目标是创造一个新千年一代的俏皮机器人，那么也许它该去找另外一位老师了。
Via：Stuff
雷锋网原创文章，未经授权禁止转载。详情见转载须知。
0人收藏 分享：
相关文章
人工智能机器人Tay
与AI大牛面对面：人工智能机器人，助手还是终结者？ ...
腾讯牵手优纳科技，深耕 AI 辅诊和病理大数据领域； ...
IBM押注AI、量子计算、区块链，发布未来5年五大科技 ...
菜鸟将投资 10 亿在西安建设 AI 物流基地；西北油田 ...
文章点评：
我有话要说……
表情 同步到新浪微博 提交
最新评论
吴邪 03月29日 11:03
创造出来过于理想的生物，然后让其马上投生到不完美的世界里
回复 (0)
Misty
编辑
欢迎合作，欢迎来撩。 微信号：Misty_Yoong
发私信
当月热门文章
最新文章
推荐美图的 Pinterest，如何靠机器学习吸睛？
社交媒体 AI 只会捅篓子？它可是新一代反恐精英
不瞒你说，企业才是 AI 进步的超强助攻！
四周劲敌林立，霓虹国如何在第四次工业革命上发力？
谁都知道AI 将改变零售业，不过还有哪些注意事项？
AI 热潮注定会失败？机器学习智能才是王道？
热门搜索
AI智能硬件智能手表app可穿戴支付iCloudAppsWWDC夏普戴尔
热门关键字
热门标签人工智能 机器人机器学习深度学习金融科技未来医疗智能驾驶自动驾驶计算机视觉激光雷达图像识别智能音箱区块链智能投顾医学影像物联网IoTCV微信小程序平台微信小程序在哪CES 2017CES2016年最值得购买的智能硬件2016 互联网小程序微信朋友圈抢票软件智能手机智能家居智能手环智能机器人智能电视360智能硬件智能摄像机智能硬件产品智能硬件发展智能硬件创业黑客白帽子大数据云计算新能源汽车无人驾驶无人机大疆小米无人机特斯拉VR游戏VR电影VR视频VR眼镜VR购物AR直播扫地机器人医疗机器人工业机器人类人机器人聊天机器人微信机器人微信小程序移动支付支付宝P2P区块链比特币风控高盛人脸识别指纹识别黑科技谷歌地图谷歌IBM微软乐视百度三星s8腾讯三星Note8 小米MIX小米Note华为小米阿里巴巴苹果MacBook ProiPhoneFacebookGAIRIROS双创周云栖大会优葩智能硬件公司智能硬件QQ红包支付宝红包敬业福深度学习tesla 电池drone大飞机duckduckgo快播eero机器人世界杯x5max拆机inspire 1vr成人影片oled灯vive 分辨率saas是什么意思网络发展更多
联系我们关于我们加入我们意见反馈投稿
Copyright © 2011-2018 www.leiphone.com 雷锋网-移动互联网智能终端第一媒体 All Rights Reserved 粤ICP备11095991号-1 ICP证粤B2-20150332 0daybank
文章评论