9月10日是第21个“世界预防自杀日”，记者从快手获悉，2021年8月快手正式组建自杀干预社会救助小组，通过AI预警系统识别、建立安抚干预标准流程，7X24小时在线干预挽救有自杀倾向的人，仅今年上半年已成功挽救131人。目前，“AI+人工”的自杀干预模式已成为主流互联网平台治理的标配。
女网友自杀被成功挽救
26岁的黄蓉毕业于南京信息工程大学，在进入自杀干预社会救助小组以前，她在一家互联网公司做内容审核员。加入快手后，经过专业的心理学知识和真实案例的培训，在试岗一个月后，经考核合格，她正式成为救助小组的一员，至今已有两年时间。
（图说：快手自杀干预社会救助小组成员黄蓉。）
黄蓉现在所做的干预工作，是在接到系统或人工的风险预警后，通过综合预警对象的直播、短视频、评论等信息，来判断风险，并施以安抚或联动警方上门干预挽救。
“你赶紧帮我查一下你们那一个快手用户，她的快手号是XXX”。今年6月13日下午14时33分许，快手客服接到一名男性用户进线，电话那头是焦急的语气。
在和进线的用户确认快手号和账号昵称后，进线的用户继续对快手客服说：“对，就是她，这个人自杀了，她喝药了，你查查她电话是多少，你赶快查出来报警，救救她呀。”
原来，这名“自杀”的用户是进线用户在快手上认识的一位女性网友，他们加了微信成了好友。当天这位女性网友突然打视频与他微信通话，说自己喝药了。等他向这名女性网友询问详细信息时，对方再也没有回信。
但他除了知道这名网友是辽宁某市的外，别的信息一无所知。他也向该市的110报了警，但因他能提供的信息实在太有限了，警方核实处置仍需一定时间。于是，他将求助电话打到快手平台。
快手客服的工作人员记录用户反馈的信息，立即将该风险信息推送给自杀干预社会救助小组。
当日值班的黄蓉接到预警信息后，先是电话与“自杀”的用户联系核实，但拨打三次均未接通。黄蓉根据处置流程核查了用户近期所发的视频信息，发现在其中一条视频中，该用户回复网友时吐露“我要离开这个痛苦的世界”。
结合用户的进线，黄蓉综合判断该用户自杀的风险比较高，于是她根据用户公开的IP地址向警方报警，并根据警方的询问补充相关信息。
警方分析确认当事人位置后，他们同步拨打了120，出警上门后，将当事人送医。
一周后，黄蓉再观察这名用户的登录状态以及她是否再有风险行为时，发现她的昵称已改成积极向上的昵称，并一直在持续更新内容。
10分钟内要完成风险评估和报警
仅仅凭借一个毫无证据的来电反馈，如何做出下一步干预动作？这既对团队成员综合评估判断能力要求极高，也是对干预标准和流程的考验。
快手自杀干预社会救助小组组长林雨（化名）介绍，平台自2018年底即开始利用AI技术等开展自杀干预，2021年8月正式组建自杀干预社会救助小组，通过对干预流程的多次升级完善，已经形成了从AI技术识别、公众反馈信息的快速预警，到整合评估用户发布内容、评论等信息，综合判断预警信息的风险的流程。
“对达到报警标准的，会立即报警；对未达到报警标准的，会联系用户沟通安抚；对经判断无风险的，会将该用户纳入观察期。”林雨说，这套流程要求小组成员在接到预警信息后，必须在10分钟内完成风险评估并完成报警。目前平均完成一个案例，基本控制在6分钟左右。
（图说：自杀干预社会救助小组的部分成员在复盘干预案例。）
自杀干预的背后是平台与死神争分夺秒的过程，这不仅要求平台的AI等技术，要具备比较高的识别准确率，还要求自杀干预社会救助小组的成员具备同理心，具备沟通安抚的心理学相关专业知识、审核判断风险的能力、较好的表达沟通能力。此外，考虑到自杀风险随时都可能发生，尤其凌晨2点至4点是高发期，这也要求小组成员具备适应夜班的能力。
林雨说，对新员工，团队会对他们进行心理学相关专业知识和实践案例的培训，经过老员工带着试岗1个月后，经考核合格的，才能正式上岗。团队还会不定期邀请心理学领域的专家来开展授课培训，提高小组成员外呼安抚的专业能力。此外，还邀请公安机关的工作人员来开展培训，指导小组成员如何更高效地报警，提高报警的准确率、有效率。
每天要甄别大量无效信息
在海量的短视频内容中，若是仅依靠被动的信息反馈和“人肉”的方式排查，很难发现潜在的自杀倾向。因此，“AI+人工”也成为目前主流互联网平台在自杀干预方面不约而同采取的方式。
林雨透露，平台上半年联合各方救下131名有自杀倾向者的背后，是对5530条确定性风险预警信息的研判。而这5530条确定性风险预警信息，则是从每天近万条被标记为潜在风险的信息中筛查出来的。
（图说：自杀干预工作的性质，要求自杀干预社会救助小组7X24小时在线。）
“尽管系统的发现预警能力不断的增强，但对我们来说，一直处于如履薄冰的状态。”林雨说，很多风险信息事后被证明是无效信号，有些人可能是在开玩笑，也可能是发泄情绪，但我们却不敢轻易地放过去。
曹受君是自杀干预社会救助小组的一员，她从2020年10月进入快手工作以来，见证了小组的筹备、招募和正式成立。
在她看来，从过往干预的案例来看，有一部分人是因一时想不开，在平台上发布有自杀倾向的内容，对于这一人群，通过电话安抚，多听他们倾诉，试着开解他们，他们可能就会放弃轻生的念头。
“但也有一部分人，他们做出风险动作的背后，或因家庭矛盾，或因感情、疾病、经济压力等多重问题影响。”曹受君说，解决这一社会问题，除了平台、警方联动干预外，还需社会各方共同参与。
黄蓉刚选择这个职业时，她的父母对她的工作不理解，也会惊讶于互联网上预警的数字。如今她再向父母讲述自己又成功挽救的案例时，父母会说：“你做了一件积德的事。”两年多的工作，让黄蓉变得对那些深处困境的人，多了更多同理心，再回看自己的生活，她想说：“人生还有很长的时间可以去经历更多的事情。”
原创文章，作者：新智派，如若转载，请注明出处：https://knewsmart.com/archives/204900
微信扫一扫 
