XDA智能手机网 - 第一智能手机评述媒体
科技您的位置:首页 >科技 >

Facebook针对恐怖分子的人工智能将超越穆斯林极端分子

发布时间:2019-01-31 17:49:35 来源:

在欧洲国家领导人的尖锐批评以及其社区的担忧之后,Facebook正在培训人工智能,以在其平台上瞄准恐怖主义信息和宣传。这个人工智能将针对像伊斯兰国这样的穆斯林极端分子,但也将瞄准任何暴力任务或从事暴力行为的团体,一位知情人士告知VentureBeat。更广泛的恐怖主义定义可能包括帮派活动,毒枭或支持暴力的白人民族主义者。

Facebook目前正在测试使用受过培训的自然语言处理,以根据已被暂停的帐户使用的单词类型主动识别要删除的帖子。

我们目前正在试验分析我们为赞扬或支持伊斯兰国和基地组织等恐怖组织所取消的文本,以便我们能够制定基于文本的信号,表明这些内容可能是恐怖主义宣传。该分析涉及一种处于学习如何检测类似帖子的早期阶段的算法,“Facebook的全球政策管理总监Monika Bickert和反恐政策经理Brian Fishman在博客文章中写道。

该社交网络强调了一系列控制极端主义内容的举措,包括使用计算机视觉识别与恐怖分子相关的照片和视频,在Facebook上保留虚假账户,以及向反恐专家团队寻求咨询。

本月早些时候, 在伦敦爆发恐怖袭击事件后,英国首相特蕾莎·梅呼吁各国制定国际协议,以“规范网络空间,防止极端主义和恐怖主义计划的蔓延。”她敦促像Facebook和WhatsApp这样的社交网络(由Facebook拥有)采取行动,部分归咎于犯罪,因为他们的平台让恐怖分子成为一个“安全的地方”来运作。

今年3月,德国政府部长表示,像Facebook和谷歌这样的公司可能面临高达5300万美元的罚款,因为他们未能采取足够措施来遏制仇恨言论。英国国会议员已经批准了类似的罚款。

5月份评论后不久,Facebook政策主管西蒙·米尔纳表示,该公司希望将其社交网络变成恐怖分子的“敌对环境”。

在这篇文章和过去的其他帖子中,Facebook已经表示会及时从其平台上删除仇恨言论。英国下议院内政委员会就仇恨犯罪和极端主义提出的批评性报道称,情况并非如此。这份 4月份发布的报告指出,像Facebook,Twitter和谷歌这样的公司应该在他们的平台上处理安全性,就像足球队需要在比赛中提供额外的安全性一样。

“社交媒体公司目前几乎没有因未能删除非法内容而受到处罚。有太多的社交媒体公司知道非法材料,但没有及时删除,或者没有及时删除,“报告指出。“我们建议政府就不断升级的制裁制度进行咨询,以便对未能在严格时间内删除非法内容的社交媒体公司进行有意义的罚款。”

虽然人工智能这些日子可能会受到很多关注,但用于瞄准恐怖主义的tAI仍然取决于人们作为这个过程的一部分。例如,计算机视觉可以自己识别和删除明确的内容 - 比如斩首视频 - 但其他帖子需要人工协助才能在决定是否提取Facebook帖子时理解和考虑背景,一位知情人士告诉VentureBeat 。

上个月,马克扎克伯格表示,该公司计划为Facebook社区运营团队雇佣3,000名员工,而今天则为4,500人。社区运营团队审核被认为可能不合适或违反Facebook政策的内容。

热点推荐
随机文章