保守的机器学习如何拯救日新月异的我们

AI科技评论 · 公众号 · AI · 2020-01-23 21:59

正文

请到「今天看啥」查看全文

机器学习从本质上来讲是保守的，它没法改变，它只能默认未来和过去是一样的。如果你给你的伴侣发消息时候用过「Hey darling」这个开头，那下次你一打出来「Hey」，「darling」就会出现在自动补全列表的第一个位置上，即便这次你可能是要提分手的。如果你打的某个词是你自己此前从未用过的，那么自动补全会根据所有用户的输入统计数据，把最经常出现的词推荐给你。可能大多数时候这不会造成什么问题，但是 2018 年 7 月我给看孩子的保姆（babysitter）发消息打到「Can you sit（带）」的时候，它接下来推荐的自动补全是「on my face and」，这就非常糟糕了，我把这事发到网上以后还引起了不小的争论。

这种保守性在每一个使用机器学习算法的推荐、推理系统里面都能看到：当你在网上搜索「电冰箱」之后，算法就会给你打上「想买电冰箱」的标签，然后一直关注着这个「想买电冰箱」的身份的活动，在各种广告位给你介绍各种电冰箱，即便你已经买了也不会停止；或者在视频网站纯粹因为好奇搜索了某个冷门话题，大概了解了、觉得以后再不会看这个话题之后，它还是会反反复复给你推荐这个话题，因为需要「强化推荐你感兴趣的内容」；在社交平台上关注一个人之后，它会给你推荐「相似的人」，即便你自己很明白你为什么没关注他们。

不可否认，机器学习有很强的寻找关联性的能力，比如机器学习可以自然地认为「在很长一段时间里张三的通讯录里都存了李四的电话号码和家庭住址，所以他们肯定是好朋友」；但机器学习并不能学到因果关系，所以实际上更容易出现的事情是，张三的通讯录里存了李四的电话号码和家庭住址，这是因为张三在跟踪、偷窥李四，然而 Facebook 扫描了张三的通讯录以后，反而推荐李四把张三加为好友。