XDA智能手机网 - 第一智能手机评述媒体
科技您的位置:首页 >科技 >

YouTube管理员忽略了警告 让有毒视频猖獗

发布时间:2019-04-03 14:51:57 来源:

多年来,YouTube因为在网上引发谬误而受到重创,因为另一场涉及佛罗里达州帕克兰高中枪击事件的阴谋论视频的爆发,其中受害者是“危机演员”。

一年前,Susan Wojcicki在舞台上为YouTube辩护。她的公司因为在网上引发谎言而数月来一直受到重创,他们正在从另一场涉及佛罗里达州帕克兰高中枪击事件的阴谋论视频中挣扎,该视频表明受害者是“危机演员”。

YouTube的首席执行官Wojcicki是一位不情愿的公共大使,但是她在南方的西南会议上在奥斯汀,推出了一个她希望有助于平息阴谋理论的解决方案:维基百科等网站上的一个小文本框,位于视频下方质疑诸如登月之类的成熟事实,并将观众与事实联系起来。

Wojcicki的媒体巨头,一心想超越电视,估计每年的销售额超过160亿美元。但是那天,Wojcicki将她的视频网站比作一个不同类型的机构。“我们真的更像是一个图书馆,”她说,作为自由言论的捍卫者,他说出了一个熟悉的位置。“如果你回顾一下图书馆,一直存在争议。”

自从Wojcicki登台以来,该平台上的主要阴谋理论 - 包括关于儿童接种疫苗的理论; 另一个将希拉里克林顿与撒旦邪教联系在一起的人 - 引起了立法者渴望监管科技公司的愤怒。一年后,YouTube与网络中较暗的部分更加相关。

这个难题不仅仅是关于登陆月球或者疫苗效果的视频在YouTube上。用户在几乎没有编辑监督的情况下产生的庞大“图书馆”必然会有不真实的废话。相反,YouTube的问题在于它允许废话繁荣。并且,在某些情况下,通过其强大的人工智能系统,它甚至可以提供燃料,使其传播。

Wojcicki和她的副手们知道这一点。近年来,YouTube 及其所有者谷歌的数十人对全球最大的视频网站浮出水面的大量虚假,煽动性和有毒内容表示担忧。一名员工想要标出令人不安的视频,这些视频只是缺乏仇恨言论规则,并且不再向观众推荐它们。另一个想要在电子表格中跟踪这些视频以绘制其受欢迎程度。第三,对“alt-right”视频博主的传播感到烦恼,创建了一个内部垂直,显示了他们的受欢迎程度。每次他们得到相同的基本反应:不要摇晃船。

该公司花了数年时间追逐一个业务目标高于其他人:“参与度”,衡量观点,花费的时间和与在线视频的互动。与在YouTube工作或最近离职的20多人进行的对话显示,公司领导层无法或不愿意对这些内部警报采取行动,因为他们担心会受到限制。

一位为她工作的人说,Wojcicki“永远不会把手指放在规模上”。“她的观点是,'我的工作是经营公司,而不是解决这个问题。'”这个人和其他与彭博新闻采访的人一样,要求不要因为担心报复而被发现。

YouTube拒绝了Bloomberg News要求与Wojcicki,其他高管,Google管理层以及其母公司Alphabet Inc.董事会发言的请求。上周,其首席产品官Neal Mohan告诉纽约时报,该公司在推荐和激进内容的问题上“取得了很大进展”。

YouTube发言人对Wojcicki对这些问题不以为然,并且公司优先考虑优先于其他所有问题的观点提出质疑。相反,该发言人表示,该公司过去两年一直专注于寻找内容问题的解决方案。自2017年以来,YouTube推荐了基于称为“责任”的指标的剪辑,其中包括视频后显示的满意度调查的输入。YouTube拒绝更全面地描述它,但表示每周收到“数百万”的调查回复。

“我们的主要关注点是解决平台最棘手的一些内容挑战,”一位女发言人在一封电子邮件声明中表示。“我们采取了一系列重要措施,包括更新我们的推荐系统以防止有害的错误信息传播,改善YouTube上的新闻体验,将关注Google内容问题的人数提高到10,000,投资于机器学习能够更快地查找和删除违规内容,审查和更新我们的政策 - 仅在2018年我们就制定了30多项政策更新。这不是目的:责任仍然是我们的首要任务。“

为了回应对增长优先于安全的批评,Facebook Inc.提出了其核心产品的巨大转变。YouTube仍在努力向公众和投资者解释任何新的企业愿景 - 有时甚至向自己的员工解释。在过去两年中离开YouTube和谷歌的五名高级人员私下引用该平台无法驯服极端,令人不安的视频作为他们离开的原因。在谷歌内部,YouTube无法解决问题仍然是一个主要的抱怨。周二早些时候,谷歌股价在纽约早盘交易中下滑,今年迄今为止上涨了15%。在去年受到重创之后,Facebook股票在2019年上涨了30%以上。

几周前,一场致命的麻疹爆发引起公众对社交媒体上疫苗接种阴谋的关注,YouTube的惯性再次被照亮。总部位于伦敦的研究极端主义的公司Moonshot CVE发布的新数据显示,只有不到20个传播这些谎言的YouTube频道覆盖了超过1.7亿观众,其中许多观众推荐其他充满阴谋理论的视频。

该公司对针对儿童的明确视频的反应乏力,引起了科技行业的批评。前谷歌总监帕特里克·科普兰(Patrick Copeland)最近在LinkedIn发布了他对旧公司的起诉书。在观看YouTube时,Copeland的女儿被推荐了一个剪辑,其特色是具有夸张的性感特征的白雪公主角色和从事性行为的马。他写道:“大多数公司都会在工作中观看这个视频。” “令人难以置信!”在谷歌工作了十年的科普兰决定封锁YouTube.com域名。

Micah Schaffer于2006年加入YouTube,就在它被Google收购之前的九个月,并且在它成为文化穹顶的一部分之前。他被分配了为自由运动站点编写政策的任务。当时,YouTube专注于说服人们为什么要观看业余爱好者的视频并上传他们自己的视频。

几年后,当他离开YouTube时,该网站仍然无利可图,而且主要以轻浮为主(大卫的一个片段,一个漫无目的的七岁孩子去看牙医之后吸毒,是当年第二受关注最多的视频。)但即便如此,恶意内容也存在问题。大约在那个时候,YouTube注意到赞美厌食症的视频有所上升。作为回应,工作人员主持人开始疯狂地梳理剪辑以限制年龄限制,将其从建议中删除或完全取消。他们“威胁到我们用户的健康”,Schaffer回忆道。

最近,当有关所谓的疫苗接种风险的视频宣传开始在YouTube上传播时,他被提醒了这一集。他认为,在早些时候,这将是一个简单的回顾。“我们会严格限制他们或完全禁止他们,”沙夫说。“YouTube永远不应该让危险的阴谋理论成为平台文化的主导部分。”

他补充说,在过去十年的某个地方,YouTube优先考虑追逐利润而不是用户的安全。“我们可能一直在亏钱,”他说。“但至少骑滑板的狗从未杀过任何人。”

从2009年左右开始,Google对YouTube进行了更严格的控制。它引领了高管,如Netflix的销售主管Robert Kyncl,制定了一项技术战略和商业计划,以维持其爆炸式增长。2012年,YouTube得出的结论是,观看的人越多,播放的广告就越多,推荐视频,剪辑或者剪辑后,是关注网站的最佳方式。

因此,由谷歌资深人士Salar Kamangar经营的YouTube设定了一个公司范围的目标,即每天观看10亿小时,并重新编写其推荐引擎以最大限度地实现这一目标。当Wojcicki接手时,在2014年,YouTube是实现这一目标的三分之一,她在投资人John Doerr的2018年出版的“重要的事情”一书中回忆道。

“他们认为这会破坏互联网!但在我看来,这样一个明确和可衡量的目标会激励人们,我为他们欢呼,“Wojcicki告诉Doerr。“十亿小时的每日观看时间为我们的技术人员带来了北极星。”到2016年10月,YouTube实现了目标。

同样的秋天,三位谷歌编码员发表了一篇关于YouTube推荐系统如何使用其新上传的镜头的方式的论文。他们概述了YouTube的神经网络,一个模仿人类大脑的人工智能系统,可以更好地预测观众接下来会看到什么。该研究指出人工智能如何试图压制“clickbait”视频,这些视频谎称他们的主题并且失去了观众的注意力。

然而,它没有提到地雷 - 错误信息,政治极端主义和令人反感的孩子的内容 - 从那时起已经获得了数以百万计的观点并且震惊了公司。这些话题在2016年美国大选之前很少出现。一位前高级经理说:“我们在杂草中努力实现目标并推动网站的使用。” “我不知道我们是否真的拿起了头脑。”

YouTube没有为病毒式传播提供准确的方法。但在10亿小时的比赛中,出现了一个公式:愤怒等于关注。哈佛大学卡尔中心的研究员布里坦海勒说,这是一个政治边缘人很容易被剥削的人。“他们不知道算法是如何工作的,”她说。“但他们确实知道内容越离谱,观点就越多。”

YouTube内部的人知道这种动态。多年来,关于如何处理麻烦的视频 - 那些没有违反其内容政策并因此留在网站上的争论很多。一些软件工程师绰号“病毒性差”。

谷歌的隐私工程师Yonatan Zunger回忆起他在2016年离开公司之前向YouTube工作人员提出的建议。他提出了第三层:允许留在YouTube上的视频,但是,因为它们“接近线路” “删除政策”将从建议中删除。“糟糕的演员很快就能很好地理解亮线的位置,并尽可能接近这些线条滑行,”Zunger说。

他提出的提议是YouTube政策的负责人。“我可以非常自信地说他们是错误的,”他说。

YouTube没有改进其推荐引擎,而是翻了一番。2016年研究中描述的神经网络从2015年开始的YouTube推荐中生效。通过可用的措施,它实现了将人们留在YouTube上的目标。

“这是一个成瘾的引擎,”弗朗西斯·欧文(Francis Irving)说,他是一位关注YouTube人工智能系统的计算机科学家。

欧文说他已经向YouTube员工提出了这些问题。他说,他们怀疑地回应,或表明他们没有动力去改变软件的运作方式。“这不是一个灾难性的失败算法,”欧文补充道。“它适用于很多人,它赚了很多钱。”

Paul Covington是一位高级Google工程师,他与人合着了2016年的推荐引擎研究,并在接下来的三月份的一次会议上介绍了调查结果。他被问及工程师如何根据他们的算法确定目标。“这是一种产品决策,”科文顿在会议上表示,指的是一个单独的YouTube部门。“产品告诉我们,我们希望增加这个指标,然后我们去增加它。所以它并没有真正留给我们。“科文顿没有回复要求发表评论的电子邮件。

YouTube发言人表示,从2016年底开始,该公司在其推荐算法中增加了一项“社会责任”措施。这些输入包括人们共享多少次并点击视频上的“喜欢”和“不喜欢”按钮。但YouTube拒绝透露有关指标或其影响的更多细节。

唐纳德特朗普当选后三天,沃兹奇基召集全体员工参加每周一次的会议。一名员工大声担心该网站与选举相关的视频受到最多关注。他们由Breitbart News和Infowars等出版商主导,他们以愤怒和挑衅而闻名。Breitbart有一个受欢迎的部分叫做“黑人犯罪”。据一位与会者说,这一集引发了广泛的对话,但没有立即的政策法令。一位发言人拒绝对此案发表评论,但表示“通常极端内容在平台上表现不佳”。

当时,YouTube的管理层专注于一场非常不同的危机。它的“创造者”,将视频上传到网站的成群结队,都很不高兴。有些人对薪酬进行了大肆宣传,其他人公然威胁要叛逃到竞争对手的网站。

Wojcicki和她的副手制定了一个计划。YouTube称它为Project Bean,或者有时称为“Boil The Ocean”,以表明任务的艰巨性。(有时候他们称之为BTO3--这是YouTube推动移动观看和订阅的第三次重大改革。)该计划旨在重写YouTube的整个商业模式,据三名前高级工作人员介绍。

它的核心方式是为创作者付费,而不是基于他们的视频所托管的广告。相反,YouTube会支付参与费用 - 有多少观众观看视频以及观看了多长时间。一种特殊的算法可以汇集传入的现金,然后将其分配给创作者,即使他们的视频没有广告。这个想法是为了奖励那些被系统缩短的视频明星,例如那些制作性教育和音乐视频的人,这些广告商认为广告商太过于担心。

YouTube上的编码人员至少工作了一年才能使项目顺利进行。但是公司经理却没有意识到这个项目会如何适得其反:基于参与的支付风险会使其“恶劣的病毒式传播”问题变得更糟,因为它可以奖励那些因愤怒而获得普及的视频。一位参与者表示,支付欠款的算法受到严密保护。如果它开始生效,那么这个人说,很可能像Alex Jones这样的Infowars创作者和阴谋理论家在网站上有大量追随者,在去年8月YouTube推出他之前 - 将突​​然成为收入最高的YouTube之一星星。

Wojcicki于2017年10月将Project Bean投放到Google的领导团队。到那时,YouTube和其他社交媒体网站面临着第一波谴责,即制造“过滤泡沫” - 将人们引导到先前存在的信念,然后为他们提供更多相同的信息。据熟悉交易所的两位知情人士称,Wojcicki的老板Sundar Pichai拒绝了YouTube的提议,因为部分原因是他认为这可能会使滤波器泡沫问题变得更糟。另一位熟悉情况的人表示,由于担心会过度复制创作者的报酬方式,这项努力被搁置了。

YouTube拒绝对该项目发表评论。

2017年11月,YouTube终于采取了决定性行动,打击频道推送有害视频,几乎在一夜之间就收到广告或网站上的数千人。创作者称之为“The Purge。”该公司面临着持续的广告商抵制,但真正的催化剂是媒体报道的爆炸式增长,针对儿童的令人不安的视频。最糟糕的是“玩具怪胎”,一个父亲与他的两个女儿发布视频的频道,有时显示他们呕吐或极度痛苦。YouTube删除了Toy Freaks,并迅速远离它。

但是这个频道并没有出现在阴影中。据报道,该网站拥有超过800万用户,是该网站收视率最高的前100名用户之一。一名前职员表示,这类令人不安的视频是公司内部的“公开秘密”,通常会以言论自由为理由证明其存在。

YouTube还围绕其针对儿童的节目进行了另一场辩论。在推出针对未成年人的专用应用程序之前,YouTube Kids,有几个人主张该公司只提供精心挑选的服务视频,以避免任何内容混乱。这些论点丢失了,应用程序从那时起就选择了视频。

YouTube确实在努力解决其内容问题。它雇佣了数千人来筛选视频,找到那些违反网站规则的人。但是对于一些内部人员来说,这些修复工作花了太长时间才能到达或者在问题的严重程度旁边出现问题。根据专门从事外语内容的前主持人的说法,截至2017年,YouTube关于内容主持人如何处理阴谋论的政策并不存在。

据一位前职员说,在今年年底,不到20人的工作人员是“信任和安全”,该部门负责监督内容政策。这位知情人士表示,该团队不得不“争先恐后地”争取更多来自科技巨头的资源。YouTube发言人表示,该部门已经“显着”增长,但拒绝分享确切的数字。

在2018年2月,视频称为Parkland射击受害者“危机演员”的视频在YouTube的趋势页面上传播开来。政策工作人员在将页面上的建议限制为审查新闻来源后不久就提出了建议。据知情人士透露,YouTube管理层拒绝了该提案。该人不知道拒绝背后的原因,但他指出,YouTube当时打算加快观看与新闻相关的视频的时间。

但是,YouTube很快就解决了与新闻相关内容的问题。去年7月,YouTube宣布将在YouTube搜索中添加Google新闻结果链接,并开始在其新闻栏目中提供来自知名媒体的“权威”来源。YouTube还向制作视频的新闻机构提供了2500万美元的赠款。在2018年的最后一个季度,YouTube表示它违反了其指导方针,删除了超过880万个频道。这些措施旨在帮助在其网站上隐藏令人不安的视频,该公司现在指出这些努力是其注意其内容问题的标志。

然而,在过去,YouTube积极劝阻员工不要积极主动。律师口头告知未被指派处理节制的员工,以避免自己搜索有问题的视频,例如最高法院法官Ruth Bader Ginsburg的病毒谎言,据一位前执行官表示不满。该人士表示该指令从未以书面形式提出,但消息很明确:如果YouTube知道这些视频存在,其法律依据会变得更薄。联邦法律保护YouTube和其他科技巨头不对其网站上的内容承担责任,但如果公司采取过于积极的编辑角色,公司可能会失去对该法律的保护。

无论如何,一些员工仍在寻找这些视频。两位知情人士表示,一个有意义的时刻发生在2018年初左右。一名员工决定创建一个新的YouTube“垂直”,这是一个公司用来分组其视频片段的类别。这个人聚集在一个想象的垂直视频下的视频“alt-right”,政治团体松散地与特朗普联系在一起。基于互动,假设的alt-right类别将音乐,体育和游戏视为YouTube上最受欢迎的频道,试图展示这些视频对YouTube业务的重要性。一位熟悉执行团队的人表示他们不记得看过这个实验。

尽管如此,由于该公司的算法仍然令人头痛,刀具已经问世。

一些前工作人员的错误是Wojcicki,他继承了一项业务,旨在净更多的观点,并没有有意义地改变其方向。其他人指责YouTube的业务负责人Kyncl负责监督创建者关系和内容审核决策。虽然YouTube的产品负责人Wojcicki和Neal Mohan已经就内容相关问题发表了几个公开演讲,但Kyncl在此事上并没有那么直言不讳。即便如此,这位高管已经采取了其他一些公开举措,谷歌内部人士将其视为自我推销。去年8月,在关于YouTube上极端主义视频普遍存在的诅咒报道发布一周后,他在奢侈品牌Brioni的广告中模仿了一套西装。根据一位知情人士的说法,该广告在YouTube的麻烦中发布,引发了对Kyncl在谷歌几名员工中的优先考虑的担忧。

今年1月,YouTube跟随前谷歌员工Zunger的建议,为有问题的视频创建了新的等级。所谓的“临界内容”,不违反服务条款,可以留在网站上,但不再推荐给观众。一个月后,在一连串关于疫苗接种阴谋的新闻发布后,YouTube表示将这些视频放在该类别中。今年2月,谷歌还发布了一份冗长的文件,详细说明了如何处理包括YouTube在内的服务的错误信息。“我们今天的推荐系统的主要目标是为我们的用户创造值得信赖和积极的体验,”该文件写道。“YouTube公司范围内的目标不仅仅是'增长',而是'负责任的增长'。”

该公司一直在应用Wojcicki一年前提出的修复方案。YouTube表示,来自维基百科和其他来源的信息面板,其中Wojcicki在奥斯汀首次亮相,现在每周显示“数千万次”。

来自iHealthTube.com的一个关于疫苗接种的2015年剪辑是一个“自然健康”的YouTube频道,现在是一个小灰盒子的视频之一。该文本链接到MMR疫苗的维基百科条目。总部位于伦敦的反极端主义公司Moonshot CVE认为该频道是YouTube上最一致的反疫苗理论发起者之一。

但YouTube似乎只是零星地应用修复程序。iHealthTube.com最受欢迎的视频之一与疫苗无关。这是一个七分钟的片段:“每个癌症都可以在几周内治愈。”虽然YouTube表示不再向观众推荐视频,但页面上没有维基百科条目。它已被观看超过700万次。

热点推荐
随机文章