如今，视频直播成为移动互联网巨头的标配服务，各种乱象也出现在市场上，比如一些主播甚至会直播一些色情等场景，引发了舆论关注。据报道，社交网络巨头 Facebook 准备采用先进的人工智能技术，对于网民的视频直播进行实时的监控和识别，含有违规内容的直播将会被干预。
据美国科技新闻网站 Engadget 报道，Facebook 负责“应用机器学习技术”的总监康德拉（Joaquin Candela）对媒体披露，其团队正在开发一个新工具，可以对视频直播中的敏感内容进行监控和识别，这当中包括了身体裸露画面、暴力等。
这一技术已经在 Facebook 直播产品“Facebook Live”中进行测试。
据媒体六月份报道，Facebook 当时已经在开发一种智能识别的技术，如果照片或者视频内容属于极端组织，则将自动被识别标注。不过这样的识别技术如果要沿用在视频直播服务中，存在一定的技术难度。
这一技术的开发也意味着，单是靠网民举报和工作人员的指控，已经无法抑制违规视频直播的出现，Facebook 希望利用人工智能技术保持主动的监控。
无论是在中国还是美国，新兴的视频直播服务已经引发了一些争议。比如在之前的一个直播中，美国人 Antonio Perkins 遭到了芝加哥警方的枪杀，这一直播引发了不良后果。Facebook 后来表示，将会快速删除那些炒作暴力活动的直播或者视频。
康德拉表示，要对视频直播内容进行实时监控识别，主要存在两个技术难题，首先是计算机视觉识别的算法必须足够快，预计目前 Facebook 的研发能够达到应用水平，另外系统也必须对违规视频直播进行优先级决策，让一些了解政策的专业人士决定是否应该停止某个直播。
打击违规视频直播，似乎也和最近美国互联网行业打击网络假新闻有一定关系。在美国大选期间，Facebook、谷歌等网络平台被指传播假新闻，推动了特朗普当选。目前各家公司都推出了新技术、新政策，让网民更快速举报假新闻、恶作剧等。
视频直播已经成为人气急升的移动互联网应用，就在近日，Facebook 旗下的全球性图片社交网络 Instagram 也推出了视频直播服务。