我们谈论色情时，AI能做什么？

饮食男女，人之大欲存焉。

几千年前，孟子与告子辩论，告子说：“食、色，性也。仁，内也，非外也。义，外也。非内也。”尽管，这句“食色性也”常被人们误以为是孟子所言，但将色与食物放在同等重要位置的可不止告子一人，就连孔子也曾说：“饮食男女，人之大欲存焉。”

“色”这一事的重要程度可见一斑。

而这来自于人类最原始与本真的需求，在千百年间，也催生、推动了成人产业的发展。

日前，TRE台北国际成人展正如火如荼的举行，日本著名女优高桥圣子的参展成为了最大噱头。而再过数日，2018亚洲成人博览也将拉开帷幕。

根据今年5月18日艾媒咨询发布的《2018Q1中国情趣用品专题研究报告》显示，现阶段中国情趣用品市场正处于快速发展时期，预计2020年中国情趣用品市场规模将突破1300亿元。此前，90后女生马佳佳因为围绕情趣用品创业备受关注，近年来，以网易春风为代表的行业“老司机们”也纷纷入局。

然而，关于“色”有合理合法处于“明处”的成人产业，也有隶属违法犯罪暗地中的淫秽色情。

所谓“春风”不度玉门关，安全意识要增加。

成人产业界的“安检”一职就此产生。

色与戒

图 | 来源：南方都市报

吴霞坐在电脑前，快速的滑动着手中的鼠标，电脑中是多个点开的窗口。她熟练的点开运营审核系统，每个用户的微动态、活动、相册图片等信息都会显示在电脑上。她的工作就是从中选出违规的内容。隔着大西洋的另外一边，萨拉与吴霞做着类似的工作，不同的是，她每天需要看8000多条包括大量种族主义言论、以及其他不堪的照片和视频。

这样的安检工作，被称为鉴黄师。

职业鉴黄师每天的工作内容主要包括查看各种文本、图像、视频，查看其中是否含有色情、血腥、暴力等内容。

巨大的工作量、长时间观看令人不适的内容，久而久之，身为鉴黄师的她们不仅视力会下降、精神和心理上也受到了很大的影响。

英国媒体就在此前报道了微软公司网络安全团队中的两名员工亨利和格雷格将微软告上法庭的新闻。起诉的原因就是他们在工作的过程中需要查看成千上万的暴力视频和图片，导致了两人出现精神分裂以及抑郁等症状。

两人的律师表示，“许多人无法想象，亨利一天究竟要看多少可怕和残忍的东西。不仅看到儿童遭性侵犯的画面，还有针对儿童的谋杀以及难以形容的暴行。”

长期以往，亨利出现睡眠障碍，工作中看到的画面经常出现在他的脑海中，他的病情越来越严重，甚至开始出现幻觉、精神分裂和抑郁等症状。

而这并非个案。之前，在美国、英国、中国等都曾出现过多例鉴黄师起诉“老东家”的案件，状告鉴黄师这一职位带给他们严重的心理影响。

但这个高危的职业，在国内却被冠以“高薪”、“神秘”等标签，引起了不少人对于鉴黄师这一职业的羡慕。

鉴黄师真的享受“年薪二十万”的待遇吗？

据悉，Facebook的鉴黄师薪资在每小时13美元到28美元不等；国内的一些网络公司，该职位的月薪也仅为2000元-4000元。并且，很多鉴黄师在工作几个月到一年之后就会辞职。

人员流动性大，也成为了这个岗位显著的特点。

图 | 来源：电影色戒海报

被强烈需要的鉴黄师

一边是鉴黄师们对色的拦截，一边是伴随着互联网社交媒体、直播、短视频不断涌现，色情、暴力等内容在法律边缘疯狂试探的此起彼伏。

直播行业中，前有 “直播造人”、“黄鳝自慰”被媒体怒批的斗鱼TV；后有未成年人露体直播被《法制晚报》曝光的美拍。短视频行业，有因内容低俗被人民日报点名、被责令整改的快手；也有刚推出国际版走向海外，就因为呈现不适内容，被印尼官方封禁，海外之路就此夭折的抖音。

这些依靠内容起家的社交媒体平台们，在影响力、业务、商业化不断上升的同时，内容成为了其最坚实的铠甲，却也成为了最薄弱的软肋。通过已经“凉凉”的五五开和陈一发事件不难看出，在内容安全面前，商业价值再高也不能容忍。

因此，负责内容审核的鉴黄师成为了保证内容安全至关重要的防线，鉴黄师也自然而然成为各大企业扩招的对象。

2018年4月7日，快手在被责令整改后，面向全国发布招聘信息，新招3000内容审核编辑，将2000人的审核团队扩大至5000人。而在海外，截至2017年12月，Facebook负责内容审查的人员就从4500名增加到了7500名，并且计划在2018年底，该岗位人数达20000人，而海外著名平台YouTube母公司谷歌也将内容审查团队扩充到了10000人以上。

企业对于鉴黄师的需求是迫切而广泛的，但这一职业带给从业者的心理伤害引发的官司、人员流动性大造就了招人难、成本高的局面。而伴随着人工智能技术的成熟以及商业化落地到金融、医疗、服务、文娱等各个领域，一些科技公司看到了人工智能在鉴黄、内容审核这一应用场景潜在的机遇。阿里巴巴、腾讯、网易、图普科技等就是代表之一。

AI鉴黄，了解一下

2015年10月，阿里巴巴宣布“绿网”正式上线，该系统的另一个名字是“黄图打分器”，即通过AI技术鉴别黄色图片。

同年，腾讯上线了万象优图智能鉴黄服务。

而被戏称为“养猪场”的网易也不甘落后，推出了网易易盾，提供智能鉴黄、暴恐识别等服务。

成立于2014年4月的图普科技，目前已经为迅雷、酷狗、我图网、七牛云、花瓣网等众多一线互联网公司达成合作，为其定制个性化图片/视频识别引擎。

图 | 来源：微博

那么，AI又是如何充当鉴黄师的呢？

据悉，AI鉴黄和很多人工智能系统类似，将海量的色情图片作为素材，通过深度学习算法进行训练，识别色情信息，并通过样本建立模型，最终机器以此为据判定哪些是色情图片。

图片与视频直播不同在于，图片是静态的，而视频和直播是动态的，但其识别方法并没有本质区别。鉴别视频和直播时都是通过间隔截图、关键帧截图等从视频内容中提取相应的视频帧进行图像识别。

目前，Facebook、快手、迅雷、百度等都通过AI系统对色情、暴力等违法内容进行鉴定过滤。扎克伯格表示，脸书的AI系统已经能够过滤掉高达99%的不良内容，但剩下的依旧需要鉴黄师进行处理。而根据百度发布的《2017年度信息安全综合治理报告》中显示，AI系统能够实现95%以上的信息审核。

尽管已经极大的提升了效率，但当前AI并不能完全取代鉴黄师的岗位。

擅长在多模态深度语义理解，和结合上下文多轮语义理解的深思考人工智能CEO杨志明解释道:“现在，在图像识别或者视频，针对于某些特定的目标，比如狗、职务、人这些识别都已经非常准确。但针对图像或者视频场景的理解，比如小狗趴在葡萄架下乘凉，整个场景的理解相对更难。而色情、暴力、血腥等往往正是需要AI对场景进行理解。”

此外，杨志明也表示，在技术层面，人们通常说的色情、暴力等本身是一个抽象复杂的概念。只有先在技术上将其定义清楚才能做内容上的识别。不过，技术人员可以采用知识图谱来描述这些概念，比如暴力，可能会有施暴工具、被害者、施暴者等。在定义清楚之后，再用场景理解，识别的准确率就会提高很多。

关爱鉴黄师身心健康，从AI做起。

结尾：

从春宫图、妓院、金瓶梅到如今的情色电影、成人产业，色与食始终是人类根本的需求。而随着时代的发展，科技对于色与性的介入也将不仅仅停留在AI取代鉴黄师的层面。目前，已经有不少科技公司正在研发性爱机器人、虚拟情人，通过新材料、AI、VR等多种技术手段，多层面和维度去满足人类关于性的需求。

未来，谁又能保证人类不会像电影《Her》里面一样，爱上一个语音助手呢？

文章部分资料来源：1. 南方都市报 《女鉴黄师：一分钟看上百张图 视觉冲击大久了扛不住》 2. SuperD超多维科技《AI鉴黄师如何工作？计算视觉技术与网络视频审核》。

最后，记得关注微信公众号：镁客网（im2maker），更多干货在等你！