Facebook欲用人工智能监管视频直播 筛选违规内容

黑氪HitCrunch 浏览次数: 2016-12-02 16:52

路透社消息,Facebook应用机器学习部主管Joaquin Candela透漏,公司目前正在研究如何使用人工智能技术,自动的筛选出违规的直播视频。 Faceb'...

路透社消息,Facebook应用机器学习部主管Joaquin Candela透漏,公司目前正在研究如何使用人工智能技术,自动的筛选出违规的直播视频。

Facebook因为内容尺度的把控问题已经遭受了不少非议。今年初,因删除了一张标志性,反应越南战争的裸体照片,Facebook受到国际社会的强烈谴责。

之前Facebook对内容的监管主要依赖于用户的举报。公司会让员工对被举报内容进行核查。违规属实,内容就会被删除。但有时候会出现较棘手的内容问题,这时候问题会被提交到高层,由管理人员做决策。

Candela说,Facebook将开始逐步使用人工智能技术去筛选违规的内容。这种技术的实现是基于一种算法,用来识别裸露、暴力、以及所有不符合相关政策和规定的内容。

在今年6月,路透社就报道过,Facebook已经在开发一种智能标记的技术,可以自动识别标注恐怖组织和极端份子的照片和视频。如今Facebook更近一步,准备把它延伸到了视频直播上。当然,技术的实现难度会高许多。这套人工智能系统目前正使用Facebook Live进行测试,这是Facebook自家的视频直播服务。

用人工智能实时标记直播视频,目前还处于研发阶段,这其中涉及到两个难题:首先,计算机的视觉算法得快,一旦出现违规画面,能够快速的识别。这一点已经被Facebook解决。其次,必须同样迅速的对是否中断当前的视频直播做出判断。这需要一位对相关政策和规定了如指掌的专家来作出决策。

路透社消息,Facebook应用机器学习部主管Joaquin Candela透漏,公司目前正在研究如何使用人工智能技术,自动的筛选出违规的直播视频。

Facebook因为内容尺度的把控问题已经遭受了不少非议。今年初,因删除了一张标志性,反应越南战争的裸体照片,Facebook受到国际社会的强烈谴责。

之前Facebook对内容的监管主要依赖于用户的举报。公司会让员工对被举报内容进行核查。违规属实,内容就会被删除。但有时候会出现较棘手的内容问题,这时候问题会被提交到高层,由管理人员做决策。

Candela说,Facebook将开始逐步使用人工智能技术去筛选违规的内容。这种技术的实现是基于一种算法,用来识别裸露、暴力、以及所有不符合相关政策和规定的内容。

在今年6月,路透社就报道过,Facebook已经在开发一种智能标记的技术,可以自动识别标注恐怖组织和极端份子的照片和视频。如今Facebook更近一步,准备把它延伸到了视频直播上。当然,技术的实现难度会高许多。这套人工智能系统目前正使用Facebook Live进行测试,这是Facebook自家的视频直播服务。

用人工智能实时标记直播视频,目前还处于研发阶段,这其中涉及到两个难题:首先,计算机的视觉算法得快,一旦出现违规画面,能够快速的识别。这一点已经被Facebook解决。其次,必须同样迅速的对是否中断当前的视频直播做出判断。这需要一位对相关政策和规定了如指掌的专家来作出决策。

大力的监管视频直播,似乎也和之前的Facebook假新闻事件有一定关系。美国大选期间。Facebook旗下新闻网站出现了一些有利于川普的虚假新闻,例如宣称罗马教皇支持川普。这间接帮助了川普当选,引起很大的非议。

为了应对此事,扎克伯格在11月份表示过,将把自动标识技术应用到facebook的新闻媒体上。Facebook表示,目前他们已经使用相关的自动标识技术来处理每周数以千万计的消息。

而Facebook人工智能研究室主任Yann LeCun拒绝对使用AI检测假新闻这件事发表评论。他说,新闻的进步,涉及到审查和过滤,涉及到言论自由还是客观公正。这已经超出人工智能的讨论范围了。而无论是否使用AI审查内容,假新闻问题都会一直存在。这其中如何取舍,不是他能决定的。大力的监管视频直播,似乎也和之前的Facebook假新闻事件有一定关系。美国大选期间。Facebook旗下新闻网站出现了一些有利于川普的虚假新闻,例如宣称罗马教皇支持川普。这间接帮助了川普当选,引起很大的非议。

为了应对此事,扎克伯格在11月份表示过,将把自动标识技术应用到facebook的新闻媒体上。Facebook表示,目前他们已经使用相关的自动标识技术来处理每周数以千万计的消息。

而Facebook人工智能研究室主任Yann LeCun拒绝对使用AI检测假新闻这件事发表评论。他说,新闻的进步,涉及到审查和过滤,涉及到言论自由还是客观公正。这已经超出人工智能的讨论范围了。而无论是否使用AI审查内容,假新闻问题都会一直存在。这其中如何取舍,不是他能决定的。

网友点评
猜你喜欢