手机版 - 网站地图
您的当前位置:主页 > 社会 > 正文

“鉴黄师”这个没人性的工作要逐渐被机器取代

编辑:admin 时间:2019-05-20

前些年,有一些新兴职业曾经引发过热议,在这其中,“鉴黄师”显然是讨论非常多的职业。很多好事者觉得这个职业很好,能够看大量的“有料”视频和图片,还有工资拿。不过真实的情况则是,如果让你连续每天不停地看这些资料数个小时,对身心不仅是一个很大的伤害,还是一件很没有人性的事情。

  而且必须要说的是,“鉴黄师”更多的时候还是用来鉴定传统的黄色影碟、录像之类,而到了互联网蓬勃发展的时代,这个职业就有些跟不上时代了。原因也很简单,那就是网上的数据实在是太多了,人力根本看不过来,而一味的增加人手显然也不是一个办法,因为会带来高昂的管理成本,所以如何能够更好的解决这些不健康的内容,就成为一个非常重要的问题。

  人工智能开始接替人类“鉴黄”

  随着技术的不断提升,人工智能开始爆发,成为这两年的热点。而人工智能是什么?又能做什么?不仅有很多的展望,还有很多的探讨,不过最为直接的,就是可以开始利用人工智能来解决鉴黄这件重要又没人性的事情了。

  对于人工智能而言,最基本的几个方面就是图像识别,语言识别,自然语言处理等,最擅长的就是进行大量的图像、声音的区分,可以说真的是为鉴黄而生。而目前在阿里云的服务中,鉴定非法、违规内容已经成了非常重要的一项,而在这些非法内容中,最常见的自然就是黄色内容了。

  为此我特意专访了阿里安全部高级算法专家威视和产品专家念夏,去深度地了解一下这个很多人都感兴趣的话题,我们是如何训练人工智能去完成鉴黄工作。                                                       

  事实上这个功能的核心需求者其实是广大中小网站,当时阿里云上差不多托管了中国四分之一的网站,他们特别需要更为低成本和高效的安全筛选机制,因为不然很有可能就被网民上传的非法内容坑掉。阿里的安全部门很早就开始利用机器学习的方式来进行非法内容的筛查和识别,2015年后,随着各方面技术尤其是硬件能力、存储能力等的提升,开始了更为深度的学习和提升。

(阿里AI鉴黄师,用技术解决社会问题)(阿里AI鉴黄师,用技术解决社会问题)

  到了2015年底收集五福的大活动,因用户要上传大量图片,这成了考验阿里AI鉴黄能力的一次重要“战役”,到了2016年,阿里就已经做到开放这个能力给微博,帮助微博进行包括头像在内的图片审核了。

  机器加人工,可能是最终解决方案

  人工智能的鉴黄模型并不复杂,或者可以说大部分鉴定某一类内容的的方法都是一样的:先做好分类的标准,再去收集大量的样本,根据标准给样本打上标去让模型深度学习,最终就会得到一个鉴定的算法。这种算法不仅仅用来筛查黄色图片,也会帮助淘宝这样的电商平台来寻找违禁违规产品,对于不同的网站鉴定的侧重点不同,但毋庸置疑的是,对于大部分网站运营者来说,用户上传内容的合法、合规性审查,是一个实实在在的刚需。

  随着人工智能的能力不断上升,这种鉴定包括不限于图片,甚至文字和视频也可以进行相应的鉴定。比如说可以通过识别文档的文字内容,来判断内容是否违规,提取视频文件的图像和声音进行鉴定,来判断视频是否存在涉黄违法的隐患。可以说人工智能大大提升,阿里安全,用技术解决社会问题的能力大大提升,也降低了运营中的风险。尤其在当下这种每天海量数据(21.050, -0.25, -1.17%)上传的情况下,人工智能鉴黄带来的效率提升,更是实实在在的。而这种鉴定能力,甚至还可以支持多国语言和多地方言,确实变得越来越强大。8月21日,在北京举办的网络安全生态峰会上,阿里将集中展示这些技术。

  不过,人工智能毕竟还是机器,必定也是存在一定的误报情况,或者是一些新情况的理解不足,比如一些特定场景下的艺术品展示,如果不加甄别,也被划入涉黄的范围内,自然也是一件遗憾的事情。再就是一些新增的特殊场景的特殊要求,也可以通过训练人工智能来完成调整,威视介绍说,比如某些直播对主播抽烟、吃香蕉、直播着装等有所限制,很多时候都是通过人工智能完成初步鉴定,然后将可疑行为再交给人去进行最终的判断和处理。

热门文章

网站地图 | 热门标签

Copyright © 2018 至上励合全球首站 All Rights Reserved.

免责声明:本站内容均来自网络,如有侵权请联系管理员,我们会第一时间为您处理或者删除侵权内容!联系邮箱:ceocmd@126.com

Top