“脸书”成“死亡笔记”，小扎要在全球推广AI自杀分析系统，这样真的能拯救自杀者吗？

巫盼 6年前 (2017-11-29)

如何让AI真正落地，更好地为人类所用，这是包括Facebook在内的所有企业都要面对的问题。

Facebook上又双叒叕有人直播自杀啦！扎克很忙，扎克很累。

所以，他们最近正式对外宣布要在全球范围内推广AI防自杀系统。

停不下来的自杀事件，“脸书”成了死亡笔记

今年10月，因为女儿没有邀请自己参加婚礼，土耳其的一位父亲在Facebook上向网友倾诉一番后，毫不犹豫地拿起枪抵住自己的脑袋，爆头而亡。

这已经不是Facebook上第一起自杀事件了。今年4月，一美国男子因失恋在Facebook上直播随机杀人，在枪杀一名无辜老人后自杀，未过几日，一泰国父亲将自己女儿直播吊死后自己也上吊身亡。

更糟糕的是，这些自杀视频在Facebook主页上通常挂了几小时甚至几周后，才被官方发现并删除，此时视频已经被大量用户看见并且转发，对社会造成了极大不良影响。

由于网友们根本无法去到现场，报警也需要一定时间，那些在Facebook上自杀的人，大多都没有得到及时的制止与抢救。“脸书”变成了完整记录他人死亡过程的死亡笔记。

惋惜之后，人们将矛头对准平台，Facebook遭遇重大形象危机。

在今年的Facebook 年度开发者大会 F8 上，扎克伯格在向那些逝者表达慰藉之后，向我们介绍，公司正计划通过人类与人工智能的协同作战，以加强平台的内容管理和秩序维护，消除人们的不满和质疑。

今年5月份，扎克伯格在其脸书主页宣布，公司将再雇用3000名员工，与原有团队共同组成7500人的审查大队，采取7*24小时的工作制，专门负责检测Facebook上的不当贴文与视频，包括那些有自杀倾向的内容。

然而作为全球登录用户最多的社交应用，Facebook每天更新的内容数以亿计，不管在成本还是速度上，人工审核都有所不足，因此，公司又研发出了一套人工智慧防自杀分析系统，将AI程序作为信息的第一道过滤，帮助工作人员更快地发现异常状况并采取措施。今年3月初，该系统在美国范围内进行了测试。

今年秋天，一名美国女子在Facebook直播过程中不断挥舞手中的刀子，并扬言要自杀，Facebook的人工智能系统立刻侦测到其异常状态，并判定其有自杀倾向，随后立即通报警方与医院，有效阻止了一次自杀行为。

据Facebook介绍，AI侦测与回报机制的速度比人工的手动回报快三成，在正式投入使用后，一个月内能检测并拦截到的自杀事件就有百余个，有效挽救了许多生命。鉴于其功能已经相对完善，所以官方宣布将在全球范围内正式推广此系统。

Facebook到底是怎样用AI防止自杀的呢？

目前，系统主要是对用户的发帖内容进行扫描，“我想死”“我讨厌这个世界，我不想活了”这样的内容都会被作为检测的关键语句，接着，系统就会自动将这些用户标记起来，然后直接转发给公司相关部门，交由专员筛选和处理，对于那些确实有自杀倾向的人，Facebook会及时向当事人及其朋友发送有用信息，并且联系警方、医院，以及当地的防自杀组织甚至政府。

除了文字识别，Facebook在视频直播中也植入了AI程序，当发现疑似自杀直播后，系统不会切断信号，但是会开始内容监控，并在屏幕上显示热线电话等相关内容，不过关于直播监测的技术细节，官方目前并没有透露。

某种程度上，该系统确实极大提高了Facebook应对此类事件的能力，但是其在响应的速度和准确度上仍有很大的提升空间。

虽然和人工相比，AI程序已经相当迅速了，但是这类紧急事件对系统响应速度的要求十分之高，甚至要比警察系统的响应速度更快，因为它是第一道检测程序，直接决定了此次拦截能否及时有效实施，Facebook官方也表示：提高响应速度将会是整个流程中的重中之重。

另外，和人工相比，AI程序的准确度还远远不够，因为AI缺乏人类常识，经常会出现“开不起玩笑”的误报警现象。扎克伯格表示：“虽然目前已经有了通过识别语音语调，揣摩发言者意图以及辨别内容真假的技术，但是目前还不清楚将该技术整合进深度学习框架中后，是否还能有效率的运行。”

AI的加入，或许真的可以帮上大忙

虽然Facebook推出此系统很大程度上是为了减轻负面舆论，维护企业形象，但不得不说，其在AI的具体应用上有极大的借鉴意义。

如何让AI真正落地，更好地为人类所用，这是包括Facebook在内的所有企业都要面对的问题。事实上，许多企业都有类似的防自杀措施，比如siri的语音服务和谷歌的关键词搜索。另外，世界上还有很多相关的慈善机构，比如The Samaritans就在通过和Twitter这些社交平台的合作来阻止那些有自杀倾向的人。