Facebook色情性爱内容充斥后台 审核过程防不胜防

时间: 2017-05-23 / 分类: facebook资讯 / 浏览次数: / 0个评论 发表评论

日前,泄漏文件显示,Facebook每个月要处理近54000份复仇色情和性爱勒索事件。

今年一月,Facebook向员工透露,为处理这类性虐待,他们每个月要禁用14000个账户,而在这些事件中,33%都涉及儿童。

但是,由于Facebook依赖用户的举报,因此这些虐待内容的真正规模可能要大得多。

英国《卫报》获知,审核人员发现公司在色情内容方面的政策让人困惑。“色情内容政策是审核人员经常犯错误的地方。”知情人士透露,“它太复杂了。”

Facebook承认,色情内容是受高度重视的领域,他们正在使用“图像匹配”软件来防止这类内容上传到网站上。此外他们也表示,你很难在可接受性色情内容和不可接受性色情内容之间画一条分界线。

Facebook全球政策管理主管Monika Bickert表示:“我们经常检验、修改审核政策。这些事情虽然复杂难缠,但我们决心将其做好。”

不仅仅是Facebook,这类借助平台来散播色情内容,以及日益兴起的复仇色情和性爱勒索事件,已经让许多社交媒体公司患上了头疼病。他们承受着巨大的政治压力,如果不加大投入筛除这些虐待性内容和非法内容,就将面临高额罚款。

《卫报》获取的文件首次揭露了Facebook应对平台色情内容的审核政策,以及为保持公司清白,审核人员所需承担的工作压力。一份幻灯片显示,今年1月,审核人员向高级经理提交了51300份潜在的复仇色情内容案。所谓复仇色情,也就是利用亲密照片来羞辱、玷辱对方,甚至实施报复的行为。

此外,Facebook还提交了2450件潜在的性爱勒索案(勒索他人钱财或其他色情图片的行为)。这样一来,所需禁用的账户增加到14130个。在这些案件中,有16件还提交到了Facebook的内部调查团队中。

另一份53页幻灯片的文件显示,Facebook引入了两个“热键”来帮助审核人员快速识别性爱勒索和复仇色情内容。

除了这两个领域,Facebook也同样重视剥削儿童和恐怖主义。在泄漏的文件中,我们看到该公司列出了许多在面对色情内容时,所遭遇的各种问题。

文件显示,Facebook允许“成年人间适度的性爱内容、火热舌吻、穿着衣服的性爱摆拍以及像素化的性行为”。在详细的文件和图表中,Facebook将性行为分了几个大类,包括“性兴奋”、“手交”、“口交”、“阴交”、“恋物癖”和“性探索”。

此外Facebook也提出,审核人员还需关注性爱用语。根据内容的具体细节,Facebook会作出允许发布或禁止发布的决定。

还有一份名为Sexual Acivity的文件显示,用户说“我想上你”这种话是允许的。但是,如果言语中包含细节性描述,比方说何时何地会发生,这种情况下被其他用户举报则应删除。

该公司65页幻灯片的手册提到了另一些情况,用户发布“我想吃你的XXX”,或者“美女,想尝尝我的XXX吗?”,这种言论是被允许的。

Facebook也允许用户在“幽默语境”下发布性爱内容。比方说,有一个笑话说一个小男孩误撞到父母在发生性行为,那么这时候作为解释是可以添加性爱内容的。Facebook表示,虽然举的例子“看起来过时”,但他们拒绝透露已经调整了哪些政策,或者何时调整了某些政策。

如果用户发布“我想戳那个贱人的XXX”或者“美女,我怎么才能进你后门”之类具体的话,那么Facebook的态度如何呢?该公司表示,如果有用户举报,这类言论是会被删除的。

“并非所有令人不快或不适的内容都违反了我们的规定。”Facebook表示,“出于这个原因,我们赋予了用户自定义主页的权力,他们可以选择取消关注、屏蔽或隐藏某些不想看见的帖子、用户、页面和申请。”

“我们允许一般的欲望表达,但是不能容忍具体的性爱细节内容。”

文件显示,Facebook不断在调整相关审核政策,这也是为了回应之前的某些批评,称该公司在删除性爱图片内容方面拖拖拉拉,在其他内容方面又过于严格。

去年9月,Facebook因为一张反映越南战争的照片(曾获普利策奖)中有裸体儿童,而删除了这张照片,之后备受指责。在一系列审查之后,Facebook又恢复了这种照片。

从《卫报》所获文件中我们看到,为了防止这类事件再次上演,Facebook制定了全新的政策。在“反恐战争”新规定下,“有新闻价值”的内容享有发布特权。

虽然文件并未定义何为“有新闻价值”,但Facebook现在允许发布“婴儿的裸体照片,这些婴儿小到还不能站立,且照片不能近距离拍摄婴儿的生殖部位”,此外,“大屠杀中成年人的裸体照”也允许发布。

不过,如果有用户举报大屠杀中的儿童裸体照片,则应当删除。

《卫报》获知,内容审核人员被这些政策搞得晕头转向。比方说,Facebook允许发布“人工和数字生成裸体内容”,但如果遭到举报,则应删除“数字生成的色情内容”。

Facebook在文件中写道:“我们允许发布的裸体内容包括绘画、雕塑等艺术内容,而不允许发布数字生成的裸体或色情内容。我们之所以划这样一道线,是为了筛除大量数字色情内容,但这也牵连到了越来越多的非色情数字艺术。当前这道线之所以难以遵循,是因为人工艺术和数字艺术之间本身就难以区分。”

Facebook还制定了处理“性引诱”内容的细节政策,比方说提供联系方式是可以的,招揽客人时使用名字的首字母缩写也是可以的。

但是,如果用户在“非医药/科学/教育情境”下谈到了性爱行为,则这些帖子在被举报后应当删除。

Facebook表示,他们正在“开发更便利的工具,以维护社区的安全”。同时该公司补充道:“我们将简化举报流程,让审核人员能够更快判断哪些内容违反了规定,也能在用户需要帮助的时候及时联系执法部门。”

Comments are closed.