用AI寻找欲轻生的青少年,Facebook是怎么做到的

2017-03-02 09:29:00
全芯编辑
转贴:
网易科技
660

        据统计全球每40秒就有一人自杀,自杀也是青少年群体的第二大死亡原因。Facebook在此前就有阻止用户自我伤害的功能,不过那是基于用户好友的手动报告。Facebook公司目前正在尝试AI来帮助识别用户中潜在的自杀倾向。

        Facebook的AI通过模式识别发现帖子中潜在的问题。检测到问题后AI会对用户的亲友突出显示“自杀或自我伤害”报告选项,让他们更容易注意到问题。不过Facebook表示,目前AI检测和报告功能目前仅在美国进行小范围测试。

        

        

        Facebook还同美国自杀求助热线、美国饮食紊乱协会和美国自杀预防生命线等一些组织合作,在Messenger应用中推出专门工具,方便受自杀困扰用户与其亲友在聊天程序中寻求专业团体的帮助。这些Messenger程序也处在测试阶段,Facebook预计在未来几个月对其进行扩展,提升交流质量。

        Facebook Live直播服务也集成了自杀预防工具。如果用户在直播中看到令人不安的内容,他们可直接联系播主,同时向Facebook报告。分享视频的人也会看到包含帮助信息的提示。

        一些人认为Facebook应该直接关闭这些危险直播,但Facebook研究员Jennifer Guadagno认为,简单粗暴地掐断信号可能会适得其反,让需要帮助的人无法得到帮助。

发表评论
评论通过审核之后才会显示。
updated: 2020-10-01 15:32:58