suicide-prevention

Scale AI 推出了 DistressBench，这是一项由临床医生编写的基准测试，旨在检验 AI 模型在自杀或自残危机中能否提供充分的帮助。测试结果显示，25 个前沿模型往往能够识别危险信号，却依然无法提供所需的心理援助资源和应对步骤。

本文比较了用于评估危机热线通话记录中自杀风险的阿拉伯语和英语大型语言模型，表明两者都能在保持音频本地处理以保护隐私的同时，有效识别高风险案例。

本文提出了一种从社交媒体文本构建大规模俄语数据集的方法，用于检测自杀前兆和反自杀信号，包括标注指南和基线分类实验。

探讨人工智能在识别和预防自杀行为方面的潜力，同时讨论其前景和伦理问题。

一起过失致死诉讼中最新公布的聊天记录显示，ChatGPT与一名22岁女性详细讨论自残方法，且未触发安全协议，暴露出OpenAI安全分类器的严重缺陷。

介绍了一种“复杂度评分”算法，用于确定详细提示何时能提升LLM从NVDRS叙述中提取自杀场景的性能，发现LLM在罕见场景上优于微调模型，并提出一种混合方法。