Instagram CEO决心要清理互联网内容

机器会给每个评论打分，分值最低零分，最高一分，比如0.41分、0.89分。这代表Instagram公司有多大把握认定相关评论不当。分数越高，评论的影响就越坏，得分超过了一定水平，评论就要被删掉。Instagram公司调整了机器评分系统，允许它有1%的误判率。这意味着，在机器删除的评论之中，有1%是人类评估员会手下留情予以保留的。 

有时，用机器可能是解决问题最纯粹的方法。人类饱受偏见和矛盾之苦，容易作茧自缚。电脑没有感情，不存在这方面的羁绊。但机器只有在它们依托的规则无误时才会表现良好。今年早些时候，文本分析公司Luminoso的首席科学家Rob Speer基于词语嵌入设计了一套算法，尝试理解人们在文本帖子里传递的情感。他把这套算法用在食客对餐厅的点评上，意外地发现，墨西哥风味的餐馆全都表现不佳。这个结论把Speer难住了，他只好深入分析数据。因为事实上，顾客喜欢墨西哥食物，只是他用算法设计的系统认为他们不喜欢。最终，Speer找出了症结：“原因在于，系统通过网上的内容了解墨西哥这个词的意思。”他解释说，由于墨西哥一词在网上往往和非法这个词有关，所以对程序算法来说，出现墨西哥就不是什么好的意思。 

我给Systrom讲了这个故事，他当即表示：“听起来太可怕了。”接着他指出，Instagram公司不会依据那样的算法来评分，分数会根据人类评估员的判断来打。但有没有可能评估员也有某种形式的偏见？以那个穿Tim Lincecum球衣的小伙子为例，他会不会看到别人对高个的女士讲脏话特别敏感，对别人冲矮个女士的脏话相对没那么敏感？他会不会觉得谁的命不是命相关的话题讨人厌？或者给说这类话题的人更多自主权？即便是在Instagram公司办公室工作的评判者，他们的偏见也是积少成多的。只消电脑上点一点鼠标，他们就能决定一个滤网的偏见，而这个滤网协调着一个7亿人所处的网络世界。 

从去年6月产品上线至今，用户看来都是合理的正面反馈。实际上很少有人注意到Instagram公司的滤网产品。但它并非无懈可击。比如它难以辩析在不同文化背景下指代不同事物的词。它屏蔽了含有fag一词的句子，以为说到fag就是蔑称男同性恋，其实这个词在英国俚语里是指香烟。它屏蔽了用户新开账户里的“你需要查一查自己的体重指数”这句话，却给已认证账户发出的这句话开绿灯。它还难以辩析Kanye West的那些歌词。如果一句话里出现诸如“我那些南方的黑人兄弟最了解我/我觉得好像我和Taylor可能还有性关系/为啥啊，因为我让这个婊子出名了”这样的歌词，它很容易判断。可要是Kaye变着花样侮辱Taylor的话，它就摸不着头绪了，比如“你把你的冰箱大门敞开/有人就去里面取一块三明治” 。 

Instagram公司的一大风险是，滤网会慢慢改变这个社交平台的环境。当然，Instagram平台以分享图片为主，可要是真知灼见和有深度的批评越来越少，这个平台会变成什么样？最有见地的观点不会总是那么阳光乐天、一团和气。正如大家经常注意到的，没有iPhone，Instagram不会存在。而苹果之父乔布斯就以一些可能滤网不会放行的言论闻名于世。Systrom试图打造的世界也许令人感觉不那么好，可能会觉得是经过净化的环境，可能是另一种意义上的迪士尼乐园。 

去年6月宣布推出过滤评论的产品时，Systrom发布了一张用字母组成一个心形的图片，用它来解释自己要做什么。他得到的回应大部分都是正面的，评论一片欢腾，众人纷纷高呼：“真了不起！！！！！！”、“（表情符：微笑、鲜花、OK）”、“好耶（表情符OK）”、“谢谢你！”、“太棒了！！！” 

即使有批评的声音，也没干扰滤网推行。也有用户抱怨帖子没按发布时间排序了。还有人觉得清理评论这件事就不合常理。但包括注册名为futurestrader的用户在内，还有等少数读者一语道破和他们最息息相关的担忧：“Instagram和整个社交媒体都变得藏污纳垢，尽是一些恶意挑衅的帖子，这点我同意。可我希望，在审核那些有异见的评论和观点时，不会因为这种大环境收紧审查的尺度。” 

硅谷审查原则——好坏标准是一个伪命题，或者说至少含糊不清。美国政府在宪法层面限制了公民个人的审查权，但私人平台没有这方面的限制。言论自由这一观念很早以前就是硅谷的核心关注点。第一代电脑程序员接受的黑客道德、宽松的行为准则促进了互联网信息自由流通。2009年，Facebook公司宣布，以“让世界更开放和联通”为公司使命。也是在这一年，伊朗爆发了被政府镇压的绿色革命，它也可以被称为Twitter革命。“我们希望尽可能多呈现网上的观点，因为我们相信，发声越多，言论才会越好。”Twitter公司的一位创始元老Jason Goldman这样告诉我。2012年，Twitter公司的一位高管称其平台为“言论自由的党派、自由言论的喉舌”。 

在Twitter公司成长的年代，人们还在追求天真的理想主义。创立Twitter公司的一群年轻人并不懂得性别歧视的水有多深，甚至可能不知道，有人顶着一个简单的网上身份，内心潜藏着法西斯主义等危险思想。当时，自由言论的拥趸渴望打倒独裁。而今，高呼言论自由的人要求得到权力大放种族主义的厥词，却又不愿被人斥为种族主义分子。 

因此，在互联网公司，言论自由的定义已经转变。Facebook公司曾猜测，网站新闻推送里的一些虚假报道虽然某种程度上也算自由言论，但可能成为特朗普当选美国总统的幕后推手。同样在去年6月，Facebook修改了公司使命宣言，这可能不是巧合。如今，Facebook公司希望“让人们又建立社群的权力，让世界更亲密团结。”Facebook公司最初的使命犹如出自美国第四届总统、国父之一麦迪逊之口。现在这个版本更像一条可口可乐的广告词。 

对Systrom来说，道理很简单：言论自由不代表可以自由践踏别人的言论。他的网络不是向公众开放的广场，是人们可以选择是否使用的平台。被Instagram公司言论不够自由的质疑逼急了，他会反问：“是不是言论自由仅仅是某个人的自由？” 同样面对言论自由的疑问，Jackson Colaco的回答更犀利：“如果一个平台散发的毒性已经严重到用户都不想发一条评论，甚至不愿意分享一个观点，实际上就是威胁到他们表达。” 

但是，Colaco的话带来了一个新的问题：你怎么知道什么时候限制言论有助于大家表达？什么时候少一点限制更好，什么时候限制少了还适得其反？要答得上这些问题可得花些功夫。Systrom选择把它们搁在一边，指出Instagram其实只瞄准了非常恶劣的评论。他说：“我们说的是最差的那5%的评论。就像那种穷凶极恶的坏蛋。我认为，我们不会试图在灰色地带游走。” 

（编辑：555手机网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!